欧盟委员会对 ChatGPT 的最新监管方向

撰文：Anna Fell?nder，anch.AI 的创始人、ETHICAL AI GOVERNANCE GROUP 委员会成员

2023 年 2 月，欧洲议会 AI 伦理领域的顾问 Anna Fell?nder 在欧盟委员会官网发表了《ChatGPT’s rapid entry – Urgent for the government to appoint an authority for responsible AI》，提出了关于为什么要对生成式 AI 进行监管的背景、原因和解释。笔者认为，这篇文章很有可能代表了未来欧盟委员会对生成式人工智能的监管方向之一，我们看这篇，也主要是作为一个国际动向进行关注。

全文如下：

最近新发布的人工智能方案 ChatGPT，以一种全新的方式挑战着所有人。随着生成式 AI 系统创造的机会，我们同时也面临着具有历史意义的十字路口：

欧盟委员会要求欧洲央行对数字欧元的使用设定限制:6月18日消息，根据欧盟委员会关于建立数字欧元的提案草案，欧洲央行必须对数字欧元的使用设定限制，但不会对交易或持有数字欧元提出具体门槛。欧洲央行必须决定确保金融稳定所需的工具。这些措施不能阻止那些对金融稳定没有损害的数字欧元交易，且应该在整个欧元区平等适用。

该草案称，为了确保金融体系的稳定、信贷的可用性和货币政策的传导，使用数字欧元作为价值储存手段可能会受到限制。数字欧元将具有法定货币地位，接受数字支付将是强制性要求，但微型企业和非营利组织将例外。该草案定于6月28日提交，在此之前草案文本仍有可能进行修改。[2023/6/18 21:44:54]

也就是，究竟是人工智能来控制人类，还是人类来控制人工智能。

瑞典的企业和当局（因为 Anna Fell?nder 在瑞典），需要对人工智能采取 Ethical approach ，也就是伦理学上的考量，但最重要的是，需要建立风险评估框架，来支撑这种发展，从而指导符合人类价值观的人工智能解决方案的发展。

欧盟委员会提出发展数字技术的权利和原则:1月26日消息，欧盟委员会提出发展数字技术的权利和原则，数字技术措施旨在确保公平、安全的网络环境。（金十）[2022/1/26 9:15:13]

此外，欧盟人工智能立法，对发展负责任的人工智能来说，指日可待，而政府迫切需要组建发展负责任的人工智能机构。

（1）首先，创造了人们内心期待已久的人工智能民主化，更多的人可以参与进来这次技术带来的迭代，自己去创造由算法在历史数据上生成的新内容。各个组织实现 AI 技术价值的门槛显著降低，新的创新商业模式也层出不穷，能够有效地加强客户和人们的关系。

（2）同时，所有个体和社会，每天都面临着由于不受监管的人工智能解决方案，从而导致的道德和法律问题。其中一个原因是，人工智能模型的学习是基于历史数据，而其中，很可能存在不必要的偏见，这种偏见，可能导致社会排斥和歧视，包括其他的违规行为。

默克尔：我们期待欧盟委员会就数字货币身份和数字货币平台的监管提出建议:德国总理默克尔：我们期待欧盟委员会就数字货币身份和数字货币平台的监管提出建议。（据新浪财经消息)[2021/3/25 19:17:17]

比如说，当我们这些个体，批准自己数据在某种情况下被使用时，可能并不会意识到，当我们自己的数据与其他数据结合时，算法如何创造出侵犯个人隐私的见解。

注意：这对公司和各国政府来说，代价都很高，例如可能会撤回投资，或者导致声誉受到损失。最近的案例表明，2021 年，由于人工智能解决方案错误地指责接受父母保险的父母是欺诈。此外，还有个基于 OpenAI 的 GPT-3 的医疗聊天机器人被发出测试，其结果是建议病人自杀。

欧盟委员会设立地平线奖项鼓励发展公益区块链:欧盟委员会最近发起了一项竞赛，希望能推动更多具有社会公益价值的区块链项目发展，为积极的变革社会创造解决方案。来自5个不同奖项的获奖者将总计获得100万英镑的奖金。[2017/12/31]

参考资料：GPT-3 medical chatbot tells suicidal test patient to kill themselves | Boing Boing

生成式人工智能系统，比其他人工智能解决方案具备更高程度的道德风险暴露。其中一个原因是，生成式人工智能系统的使用往往是通过 API 进行的，这使得解决方案的透明度很低，并且，对它的发展难以控制。

同时，道德和法律方面的违规行为，通常发生得很微妙，也很突然，虽然这些违规行为可能会小到无法察觉，但是极有可能造成指数级的损失。

其中一个例子是深度造假，比如说，被用来操纵视频或照片中的面孔和声音。而要注意到的是，生成式人工智能模型通常以 API 的形式提供，这就可以使用户更容易获得和使用该技术，这可能会增加滥用的风险。

需要承认的是，基于 API 的生成性人工智能模型本身并没有风险，但它们的使用方式和训练的数据会使他们具备风险。

欧盟的人工智能立法，即《人工智能法案》，将于 2024 年正式生效。

《人工智能法案》的目标，是让公民和消费者感到信任，并维护欧盟包括人权在内的价值基础。欧盟委员会在《人工智能法》中提议，成员国必须任命或建立至少一个监督机构，负责确保「必要的程序得到遵循」。

随着生成式人工智能系统逐步出现的巨大潜力，尤其是在医疗保健方面，例如正确诊断和优化疾病的治疗，关键是，要有可用的风险评估框架，并任命一个负责任的机构。

人工智能的伦理框架，为所有部门创造了一个高度的创新环境。因此，有关机构迫切需要任命这一负责机构，并提供风险评估框架，以便瑞典企业和瑞典当局不会像 GDPR 那样对人工智能法案缺乏警惕性。

[参考文献]

https://futurium.ec.europa.eu/en/european-ai-alliance/blog/chatgpts-rapid-entry-urgent-government-appoint-authority-responsible-ai

Artificial intelligence: huge potential if ethical risks are addressed | News | European Parliament (europa.eu)

Welcome to anch.AI - AI and Equality in Public Administration- a report by anch.AI and the Swedish Gender Equality Authority.

阿法兔

个人专栏

阅读更多

金色早8点

金色财经

Odaily星球日报

欧科云链

澎湃新闻

Arcane Labs

深潮TechFlow

MarsBit

BTCStudy

链得得

标签：人工智能ENTANCGPT人工智能技术应用学什么Noah Decentralized State CoinKlayFi FinanceArbGPT

SAND热门资讯