首页 > 人工智能 > 正文

欧盟提出人工智能监管法草案 构建欧盟统一人工智能治理体系

2021-05-27 17:41:00   来源:赛迪智库网络安全研究所 魏书音>

4月21日,欧盟委员会提出人工智能监管框架草案,即制定统一的人工智能规则(人工智能法)并修正某些联合立法行为(以下简称草案),对可信赖的AI提出系列要求,并规定价值链所有参与者的义务,为企业和政府如何利用人工智能提供规则体系,旨在使欧洲成为全球可信人工智能中心。这是全球第一个人工智能的专门系统规范,欧盟希望借此成为“制定新全球标准的先锋”,并“为开发符合伦理的技术开辟道路”。
 
 

草案明确人工智能系统禁止和限制使用规则。采用基于比例原则的风险控制方法,最大程度地平衡人工智能发展和安全的关系。根据风险分级,将人工智能系统风险分为不可接受的风险、高风险、最低或最小风险。一是禁止具有不可接受风险的AI系统在市场投放。主要包括:对人类安全和权利构成明显威胁的人工智能系统,包括操纵人类行为或绕过用户自由意志;可导致个人身体或心理受到伤害的,例如使用语音协助鼓励未成年人危险行为的玩具政府对个人人格特征、社会信用进行的“社会评分”,导致对个人或群体产生歧视或不利待遇。二是限制高风险AI系统在市场投放。主要指人工智能系统功能、目的和方式的特定规则,可能危及自然人的健康、安全或基本权利,主要涉及交通运输、考试评分、在机器人辅助手术中的应用、招聘、信用评分、移民、庇护和边境管制、司法和民主程序等领域。只有符合某些强制性要求和事前合格评估的前提下,高风险AI系统才被允许进入欧洲市场。包括:部署适当的风险评估和风险缓解系统;为系统提供高质量数据集,最大程度地降低风险和歧视性结果;记录相关活动以确保结果的可追溯性;提供记录系统目的及有关必要信息,供当局评估其合规性;向用户提供清晰、充分信息说明;部署适当的人为监督措施,最大程度地降低风险;确保高水平的鲁棒性、安全性和准确性。三是风险有限AI系统需遵守透明度义务。聊天机器人、情绪识别系统或生物特征分类系统以及深度伪造系统应告知系统自然人,其正在与机器进行交互,可做出是否继续使用的决定。四是风险最低的AI系统可自由使用。如人工智能赋能的视频游戏或垃圾邮件过滤器等应用程序。

 
 

草案力图构建欧盟统一人工智能监管体系。一是构建联盟-成员国两级治理体系。在联盟层面,建立欧洲人工智能委员会(简称“委员会”),由成员国和委员会的代表组成,促进国家监管机构有效合作,促进法规有效和统一实施。在成员国层面,会员国指定一个或多个国家主管部门监督法规实施。国家监管机构负责调查高风险AI系统的义务和要求的遵守情况,调查对公民基本权益产生影响的安全事件,并定期将调查信息与元数据一起发送给委员会。二是建立欧盟高风险AI系统数据库。数据库由委员会运作,人工智能系统提供者将系统投放市场前,必须先注册并提供合格评定的有效信息,主管部门、用户等,可验证高风险的人工智能系统是否符合法规要求,并对那些对基本权利构成高风险的AI系统进行加强的监督。三是鼓励非高风险人工智能系统的提供者制定行为守则,促进自愿采纳适用于高风险人工智能系统的强制性要求,并提出了监管沙盒以促进负责任的创新行为。

人工智能是一个快速发展的技术家族,可以为整个行业和社会活动的各个领域带来广泛的经济和社会效益。“高信任促进高需求”,欧盟力图通过建立可靠的欧洲监管框架还将确保公平的竞争环境,同时增强欧洲在人工智能方面的竞争力和产业基础,联盟一级的共同行动也可以保护联盟的数字主权,并利用其工具和监管权力来制定全球规则和标准。



免责声明:本网站(www.365master.com)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等)版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。电话:010-88558043)

相关热词搜索:人工智能

上一篇:思杰Citrix谈未来金融发展的方向:自动化、人工智能与人
下一篇:亿咖通科技语音语义边缘计算解决方案,赋能星越L全时语音在线

扫码关注公众号

扫码订阅杂志

扫码下载2020年《混合多云行业应用调查报告》

扫码参与有奖调查