新京报客户端

好新闻 无止境

立即打开
《新一代人工智能伦理规范》发布,确保人工智能处于人类控制之下
新京报 记者 张璐 编辑 刘茜贤
2021-09-25 16:31
《伦理规范》提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养6项基本伦理要求。

新京报快讯(记者 张璐)9月25日,国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》,提出在提供人工智能产品和服务时,应充分尊重和帮助弱势群体、特殊群体,并根据需要提供相应替代方案。同时要保障人类拥有充分自主决策权,确保人工智能始终处于人类控制之下。

 

提供人工智能产品应尊重弱势群体,提供相应替代方案

 

《伦理规范》提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养6项基本伦理要求。人工智能各类活动应增进人类福祉,坚持公共利益优先,促进人机和谐友好。同时应促进公平公正,坚持普惠性和包容性,促进社会公平正义和机会均等。在提供人工智能产品和服务时,应充分尊重和帮助弱势群体、特殊群体,并根据需要提供相应替代方案。

 

人工智能各类活动应保护隐私安全,充分尊重个人信息知情、同意等权利,保障个人隐私与数据安全,不得损害个人合法数据权益,不得以窃取、篡改、泄露等方式非法收集利用个人信息,不得侵害个人隐私权。要保障人类拥有充分自主决策权,有权选择是否接受人工智能提供的服务、有权随时退出与人工智能的交互、有权随时中止人工智能系统的运行,确保人工智能始终处于人类控制之下。

 

要增强安全透明,避免数据与算法偏见

 

《伦理规范》明确,要坚持人类是最终责任主体,在人工智能全生命周期各环节自省自律,建立人工智能问责机制,不回避责任审查,不逃避应负责任。积极学习和普及人工智能伦理知识,客观认识伦理问题,不低估不夸大伦理风险。

 

在研发方面,要增强安全透明。增强人工智能系统的韧性、自适应性和抗干扰能力,逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖。要避免偏见歧视。在数据采集和算法开发中,加强伦理审查,充分考虑差异化诉求,避免可能存在的数据与算法偏见。

 

在供应方面,在产品与服务中使用人工智能技术应明确告知用户,保障用户知情、同意等权利。为用户选择使用或退出人工智能模式提供简便易懂的解决方案,不得为用户平等使用人工智能设置障碍。


新京报记者 张璐

见习编辑 刘茜贤 校对 吴兴发

来阅读我的更多文章吧
张璐
新京报记者
记者主页
相关推荐
我国首个AI应用伦理安全指引发布 AI安全治理体系再完善
新京号
在科技创新与伦理责任的动态平衡中求进步
新京号
合力共筑人工智能安全屏障
新京号
北师大黄荣怀:完善智能教育产品的学校准入机制,健全监管体系
教育
经纬度:迎接AI智能体的“大航海时代”
新京号
「改革创新」余晓晖:智能向善构建人机和谐共生的治理新范式
新京号
中宣部副部长莫高义:处理好人工智能与媒体变革关系,要注意三点
时事
AI拟人化互动迎来新规范
新京号
世界艺术和科技对话,专家共议AI时代视听艺术改革与人才培养
教育
十部门联合印发《人工智能科技伦理审查与服务办法(试行)》
第一看点

新京报报料邮箱:82708677@bjnews.com.cn