换脸?合成?新规重拳整治乱象

深度合成技术的发家史有点并不光彩,深度合成最开始出现是 2017 年,一男子利用 AI 换脸制作色情视频在外网发布。之后特朗普在任期间,由于其本身的社交属性,网络上出现了各种恶搞特朗普的 AI 换脸视频,至此,深度合成技术正式进入大众视野。这样不甚光彩的发家史使得深度合成技术一出生就仿佛带着原罪,席卷着伤害、侮辱、和虚假,人们担忧深度合成技术只会引来技术滥用和道德滑坡。

简述:最近,国家互联网信息办公室,工业和信息化部和公安部联合发布了《互联网信息服务深度合成管理规定》,对深度合成做了相关规定,包括深度合成的内容,深度合成服务提供者的提示义务,辟谣机制的建立以及对于深度合成涉及到的相关生物信息要取得同意等。

深度合成技术的发家史

深度合成技术的发家史有点并不光彩,深度合成最开始出现是 2017 年,一男子利用 AI 换脸制作色情视频在外网发布。之后特朗普在任期间,由于其本身的社交属性,网络上出现了各种恶搞特朗普的 AI 换脸视频,至此,深度合成技术正式进入大众视野。这样不甚光彩的发家史使得深度合成技术一出生就仿佛带着原罪,席卷着伤害、侮辱、和虚假,人们担忧深度合成技术只会引来技术滥用和道德滑坡。

于是,在 AI 换脸带着色情视频席卷外网之时,社交媒体上为这种技术起了一个负向的名字「deepfake」,即「deep learning」和「fake」的合成词,利用 AI 的深度学习来做虚假之物,直译的话就会译为「深度造假」。但是该词在引入中国之时,有学者认为深度合成技术本身并无错,利用的好也可以推动社会发展,而且如果译为「深度造假」也会给学术研究蒙上污点,不利于 AI 技术的发展,于是便译为了更为中性的「深度合成」,这就是我们现在大规模使用的深度合成技术的命名由来了。

而从技术史来说,深度合成技术从图像合成技术发展而来,图像合成技术就是我们常说的 PS 技术,在简单的图像合成基础之上,利用各种方式让合成更加逼真。更学术一点来说,深度合成指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。我们所熟知的元宇宙场景构建,AI 换脸换头,包括这段时间大火的 ChatGPT,都属于深度合成技术。

根据清华大学人工智能研究院发布的《深度合成十大趋势报告 2022》,互联网中深度合成视频的发布数量逐年上升,到了 2021 年已达 24317 条,其点赞数已超 3 亿。2021 年虚拟偶像洛天依登上央视春晚舞台,虚拟偶像正式进入主流视野。在深度合成与现实生活联系愈加紧密的背景下,国家互联网信息办公室,中华人民共和国工业和信息化部和中华人民共和国公安部联合发布了《互联网信息服务深度合成管理规定》,专门规定互联网深度合成相关内容。下面,飒姐团队为大家介绍一下新规重点。

新规重点解读

什么是深度合成

规范深度合成,首先就要知道规范范围,在新规里,第二十三条专门用了一整条来解释深度合成技术:深度合成技术,是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术,包括但不限于:

(一)篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术;

(二)文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术;

(三)音乐生成、场景声编辑等生成或者编辑非语音内容的技术;

(四)人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术;

(五)图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术;

(六)三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。

重点提示+辟谣机制

深度合成技术和其他互联网技术最大的不同在于其极易混淆性,随着技术的进步,网友可能凭借一双肉眼很难判断出自己所接触到的到底是真是假,于是在本法中就专门列出两条来解决这个问题,一是重点提示,二是要有辟谣机制。

根据新规第十七条 深度合成服务提供者提供以下深度合成服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况:

(一)智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;

(二)合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;

(三)人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;

(四)沉浸式拟真场景等生成或者编辑服务;

(五)其他具有生成或者显著改变信息内容功能的服务。

深度合成服务提供者提供前款规定之外的深度合成服务的,应当提供显著标识功能,并提示深度合成服务使用者可以进行显著标识。

也就是说要在明显位置提示使用者这是合成的,防止被混淆。而一旦大面积的混淆出现,变成谣言怎么办呢?新规还专门规定了辟谣机制。

根据新规第十一条,深度合成服务提供者应当建立健全辟谣机制,发现利用深度合成服务制作、复制、发布、传播虚假信息的,应当及时采取辟谣措施,保存有关记录,并向网信部门和有关主管部门报告。俗话说造谣一张嘴,辟谣跑断腿。新规这一条就是把被造谣者的辟谣负担转接一部分给平台,平台作为一般来说较强势一方,要承担起一部分辟谣的责任。

取得同意

如果要让 AI 学习人脸或者人声,要征得别人的同意吗?新规明确地给出了答复:要。而且作为人脸、人声编辑功能的提供者,平台背负着提醒使用者的义务。

根据新规第十四条,深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。也就是说所有的生物信息被严格地保护,应当征得生物信息所有人的单独同意。

除了以上几点重点内容以外,新规还对深度合成的内容,范围等做出了规范。篇幅限制,飒姐团队在这里就不一一展开了,感兴趣的老友们可以直接翻来看看。

写在最后

《互联网信息服务深度合成管理规定》其实在今年一月份就开始发征求意见稿,并于本月正式对外发布,将于 2023 年 1 月 10 日起正式施行。该规定的实施是我国互联网管理向精细化前进的重要一步,在《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》的基础上对深度合成做出特别提示,值得各位读者注意。

(声明:请读者严格遵守所在地法律法规,本文不代表任何投资建议)

(0)
上一篇 2022年12月13日 下午2:45
下一篇 2022年12月13日 下午2:56

相关推荐

  • 加密寒冬,Worldcoin凭什么拿下1亿美元融资?

    在加密寒冬融资并不是一件容易的事,而能够拿到如此巨额的数目更是难上加难,此前还默默无闻的 Worldcoin 为何在两年后获得资本青睐,在加密寒冬仍然能以 30 亿估值拿下巨额投资呢?投资者看中了 Worldcoin 的哪些投资潜力?对于钱包赛道和加密产业来说,Worldcoin 又意味着什么?

    2023年5月22日
    581
  • Balaji Srinivasan:那个在加密领域出手次数最多的天才投资人

    Srinivasan 堪称加密行业最活跃的天使投资人。加密数据平台 Rootdata 显示,截至 2022 年底,Srinivasan 已在加密领域投资 85 个项目,累计参投 86 轮,位列投资人榜首。并且他所投的大多是 Opensea、Avalanche、Dapper Labs、NEAR Protocol、Celestia、Farcaste 等优质加密项目的早期阶段。

    2023年1月17日
    527
  • 交易量新低、波动性下降,数据解读加密市场的严峻现状

    2023 年,加密货币现货交易量持续下降。交易量在 5 月份触及多年低点,然后在 8 月份再次触及多年低点。根据加密研究和分析公司 CCData 的数据,上个月中心化交易所的交易量仅为 4750 亿美元,下降了近 8%。该公司表示,这是自 2019 年 3 月以来现货交易量最低的月份。

    2023年9月18日
    259

发表回复

登录后才能评论
微信

联系我们
邮箱:whylweb3@163.com
微信:gaoshuang613