欧盟委员会对ChatGPT的最新监管方向

欧洲议会 AI 伦理领域的顾问 Anna Fellnder 在欧盟委员会官网发表了《ChatGPT’s rapid entry – Urgent for the government to appoint an authority for responsible AI》,提出了关于为什么要对生成式 AI 进行监管的背景、原因和解释。笔者认为,这篇文章很有可能代表了未来欧盟委员会对生成式人工智能的监管方向之一,我们看这篇,也主要是作为一个国际动向进行关注。

2023 年 2 月,欧洲议会 AI 伦理领域的顾问 Anna Fellnder 在欧盟委员会官网发表了《ChatGPT’s rapid entry – Urgent for the government to appoint an authority for responsible AI》,提出了关于为什么要对生成式 AI 进行监管的背景、原因和解释。笔者认为,这篇文章很有可能代表了未来欧盟委员会对生成式人工智能的监管方向之一,我们看这篇,也主要是作为一个国际动向进行关注。

全文如下:

最近新发布的人工智能方案 ChatGPT,以一种全新的方式挑战着所有人。随着生成式 AI 系统创造的机会,我们同时也面临着具有历史意义的十字路口:

也就是,究竟是人工智能来控制人类,还是人类来控制人工智能。

瑞典的企业和当局(因为 Anna Fellnder 在瑞典),需要对人工智能采取 Ethical approach ,也就是伦理学上的考量,但最重要的是,需要建立风险评估框架,来支撑这种发展,从而指导符合人类价值观的人工智能解决方案的发展。

此外,欧盟人工智能立法,对发展负责任的人工智能来说,指日可待,而政府迫切需要组建发展负责任的人工智能机构。

ChatGPT 和其他生成式人工智能系统

(1)首先,创造了人们内心期待已久的人工智能民主化,更多的人可以参与进来这次技术带来的迭代,自己去创造由算法在历史数据上生成的新内容。各个组织实现 AI 技术价值的门槛显著降低,新的创新商业模式也层出不穷,能够有效地加强客户和人们的关系。

(2)同时,所有个体和社会,每天都面临着由于不受监管的人工智能解决方案,从而导致的道德和法律问题。其中一个原因是,人工智能模型的学习是基于历史数据,而其中,很可能存在不必要的偏见,这种偏见,可能导致社会排斥和歧视,包括其他的违规行为。

比如说,当我们这些个体,批准自己数据在某种情况下被使用时,可能并不会意识到,当我们自己的数据与其他数据结合时,算法如何创造出侵犯个人隐私的见解。

注意:这对公司和各国政府来说,代价都很高,例如可能会撤回投资,或者导致声誉受到损失。最近的案例表明,2021 年,由于人工智能解决方案错误地指责接受父母保险的父母是欺诈。此外,还有个基于 OpenAI 的 GPT-3 的医疗聊天机器人被发出测试,其结果是建议病人自杀。

欧盟委员会对ChatGPT的最新监管方向
参考资料:GPT-3 medical chatbot tells suicidal test patient to kill themselves | Boing Boing

生成式人工智能系统,比其他人工智能解决方案具备更高程度的道德风险暴露。其中一个原因是,生成式人工智能系统的使用往往是通过 API 进行的,这使得解决方案的透明度很低,并且,对它的发展难以控制。

同时,道德和法律方面的违规行为,通常发生得很微妙,也很突然,虽然这些违规行为可能会小到无法察觉,但是极有可能造成指数级的损失。

其中一个例子是深度造假,比如说,被用来操纵视频或照片中的面孔和声音。而要注意到的是,生成式人工智能模型通常以 API 的形式提供,这就可以使用户更容易获得和使用该技术,这可能会增加滥用的风险。

需要承认的是,基于 API 的生成性人工智能模型本身并没有风险,但它们的使用方式和训练的数据会使他们具备风险。

欧盟的人工智能立法,即《人工智能法案》,将于 2024 年正式生效。

《人工智能法案》的目标,是让公民和消费者感到信任,并维护欧盟包括人权在内的价值基础。欧盟委员会在《人工智能法》中提议,成员国必须任命或建立至少一个监督机构,负责确保「必要的程序得到遵循」。

随着生成式人工智能系统逐步出现的巨大潜力,尤其是在医疗保健方面,例如正确诊断和优化疾病的治疗,关键是,要有可用的风险评估框架,并任命一个负责任的机构。

人工智能的伦理框架,为所有部门创造了一个高度的创新环境。因此,有关机构迫切需要任命这一负责机构,并提供风险评估框架,以便瑞典企业和瑞典当局不会像 GDPR 那样对人工智能法案缺乏警惕性。

(声明:请读者严格遵守所在地法律法规,本文不代表任何投资建议)

(0)
上一篇 2023年2月13日 上午11:31
下一篇 2023年2月13日 下午12:11

相关推荐

  • Particle Network:Web3的中场战事

    事实上,Web 2 和 Web 3 都是在进行流量的生意,只是出于去中心化的理念和技术特征,既有的「侵犯隐私 — 收集数据 — 售卖广告」的模式无以为继,需要转型为「提供产品 — 确保隐私 — 数据 ( 流量 )Token 化 — 项目方和用户分润」的模式,其中的关键就在于 Token 机制的引入。

    2023年1月7日
    4.3K
  • Web3.0世界日报(2023-2.2)

    Aptos生态钱包Martian集成Twitter,支持发送代币和NFT。以太坊编程语言Solidity发布最新版本编译器Solidity 0.8.18,支持巴黎硬分叉。Sui基金会以Suiet钱包为例发布Sui生态应用介绍。

    2023年2月2日
    1.2K
  • 撸毛寒冬,工作室如何应对现金流和安全性风险?

    「撸毛门槛变高了、赚不到钱了、对散户不友好了」等言论随处可见,更有部分加密行业人员也都认为撸毛业走到了尽头。所以现在的撸毛工作室都面临着哪些难题呢?未来撸毛的出路还会是「黑奴」工厂类的运营方式吗?

    2023年9月1日
    358

发表回复

登录后才能评论
微信

联系我们
邮箱:whylweb3@163.com
微信:gaoshuang613