「深度合成」新规,ChatGPT本土版如何落地?

飒姐和团队诸位并非 IT 技术专家,我们对深度合成技术的内涵和学派不做分析,有兴趣的朋友可自行到知网和海外网站查资料。我们介绍的是明年一月份即将实施的《深度合成规定》里,对于这项技术给出的规章项下的「外延」。

如果飒姐猜得没错,明年初 ChatGPT 的内地版本会络绎不绝。从现在新闻圈的教授们的口风看,还是有不少老师抱有很高期待,希望借此降低文字工作者的工作量。同时,短视频领域,在试水故事情节「换头」效果后,表现出「小孩子玩蛇」的两难境地,一方面觉得新奇刺激好玩;另一方面确实怕被咬了手。

针对深度合成技术的蓬勃发展,我国上个月公布了新规,并将于 2023 年 1 月 10 日正式实施,这就是国家网信办、工信部和公安部联合发出的部门规章 —《互联网信息服务深度合成管理规定》(以下简称《深度合成规定》)。

针对即将到来的热潮和规制文件,从业者和玩家应当如何自处?且听飒姐分解。

一、深度合成技术的外延

飒姐和团队诸位并非 IT 技术专家,我们对深度合成技术的内涵和学派不做分析,有兴趣的朋友可自行到知网和海外网站查资料。我们介绍的是明年一月份即将实施的《深度合成规定》里,对于这项技术给出的规章项下的「外延」。

深度合成技术,是指利用深度学习、虚拟现实等生成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。不完全列举我国部门规章所认可的该技术项下的子技术:

篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术。讲真,在尝试使用 ChatGPT 时,我一度迷惑了,简直是文字工作者的「捉刀神器」,要是大学时代有这个东东,班里男生们写检查也不用每人 20 块钱找我来帮忙了。把要求和字数输进去,秒出答案,文字还很有「诚意」。

文本转语音、语音转换、语音属性等生成或者编辑语音内容的技术。其实这种技术在即时通讯工具里已经十分常见,我只是设想到一种情形,未来缅北是不是就不需要往那边骗人头了,只需要做一套程序,男声变女声,一人变数人都变得简单,犯罪时间成本锐减。

音乐生成、场景声编辑等生成或者编辑非语音内容的技术。说实话,飒姐小时候最大的遗憾是没有学钢琴,姥姥说弹琴又不当饭吃,虽然长大后学了点声乐但感觉完全不对味儿,倘若音乐生成技术日臻成熟,遇到郁闷的时候,不用写文章,而是直接作曲一首直抒胸臆,cool!

人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等声音或者编辑图像、视频内容中生物特征的技术;在协助东家入住元宇宙世界时,一开始我也提出了这种需求,想将律所里诸位贤达的形象植入到元宇宙律所,当我看到供应商一脸难色的时候还没有太多感觉,直到去了现场,才发现要想达到《阿凡达》那种逼真效果,一定要穿动捕服,而且还要多方位拍摄,需要的人力成本和时间成本巨大,当然对设备和技术要求极高,比我想象的难太多,也太烧钱,在三五年内飒姐认为如果技术上没有更大突破,这个成本就会吓退很多想以此为工具来做坏事的人。当然,小范围的换脸另说,但该种技术类似直播中的「带特效」,不仅效果粗糙还容易穿帮,稍微细心观察即可发现。

图像生成、图像增强、图像恢复等生成或者编辑图像、视频内容中非生物特征的技术。现在的 AI 绘画就是这个细分赛道,确实很上头,圈里有些朋友很喜欢玩,But 有些关键词造出来的图片驴唇不对马嘴,AI 还不够聪明,数据量不足。

三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。目前新西兰在这方面做得很好,飒姐也相信未来的戏剧学院和电影学院,灯光音效学科会逐渐走向数字化,甚至需要选拔优秀的理工科同学来做这项研究。

总结下来,深度合成技术的监管,飒姐认为大致要区分对待:一是第 4 项人脸相关技术,应当经过严格的伦理论证和安全评估才放行技术方案;二是其他五项,飒姐认为应当降低门槛,让更多创业者参与其中,而不是大资本一统江湖。

二、监管防护网的搭建

从深度合成规定的体系地位来看,其法律位阶是部门规章,是在四部法律、行政法规之下:《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》,也就是说,倘若深度合成规定里的条款与上位法产生矛盾冲突,尤其在实践生活中,要遵从上位法的规定,行政相对人是可以向有权机关提出违法审查的。

从监管架构看,对于互联网类问题自网贷之后,多采取行政机关监管与行业自律相结合的办法,发动各方积极性。深度合成业务的监管主体是:1.国家网信部门,负责统筹深度合成服务的治理和监管工作;2.国务院电信主管部门,负责自己职权范围内的监管工作;3.公安部门,负责自己职权范围内的监管工作。

其中,网信部门承担统筹工作,换句话说,系主要负责机关。各地对应部门负责本辖区内相应工作,形成自上而下的网状结构,规制各自职权和辖区的具体监管工作。

鼓励行业自律,建立健全行业标准、行业准则、自律管理制度,督促从业者制定行业规范,依法开展业务接受监督。这一方面,各地的做法不一,鉴于自律组织是民间自发设立,也不必要求统一,只要把自己的行业内、赛道里的企业组织起来,自觉完成社会责任,守法经营就好。

无论是从业企业、人员还是监管机关和自律组织,都要遵守若干原则:1.守法;2.尊重社会公德和伦理道德;3.坚持正确方向、导向、取向,促进科技「向上向善」。

三、从业企业和人员的「行为黄线」

第二章一般规定,是对深度合成技术从业者的黄线—「安全」的原则性规定:

区分新闻信息和非新闻信息。对于新闻信息要求深度合成服务提供者和使用者不得制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的,应当依法转载互联网新闻信息稿源单位发布的新闻信息。对于新闻信息和非新闻信息,都要求不得危害国家安全和利益、不得损害国家形象、不得侵害公共利益、不得扰乱经济和社会秩序、不得侵犯他人合法权益等。

落实主体责任,要求服务提供者具有安全可控的技术保障措施,其中最亮眼的是:科技伦理审查,这属于哲学范畴,飒姐很期待法哲学(法理学)的同学们在这方面能大展拳脚。

技术支持者和使用者承担信息安全义务,要将管理规则、平台公约等公开,飒姐推荐用联盟链的方式,在全站广播并用区块链记录。

深度合成技术的使用者,需要实名,且至少三要素。

内容管理不可松懈。飒姐在使用某提词器 App 时发现,上传稿件备用时,会被内容审核,与此类似,未来深度合成技术的内容,也需要技术或人工审核、留痕和及时上报。

「辟谣机制」是又一亮点。鉴于深度合成技术的成品具有一定的迷惑性,对公众有可能产生误导,因此辟谣机制就是一个必要措施。

用户申诉和投诉、举报通畅,这一点是顽疾,在互联网平台服务中经常出现由此产生的纠纷。App 分发平台负担部分上架审核、日常管理、应急处置等安全管理责任。

四、区别生物识别信息编辑与其他信息编辑

对于人脸、人声等生物识别信息编辑,有特殊要求:深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。

自行或委托开展安全评估。对可能导致公众混淆、误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况。

当然,对于智能对话、智能写作、沉浸式拟真场景等生成和编辑服务,应当提供显著标识功能,并提示深度合成使用者可以进行显著标识。

五、具体监管手段和法律责任

监管还是由前述三家监管机关进行,但鉴于部门规章并没有规定具体的罚款细则,还是要依照上位法进行办理:

履行备案手续。对于具有舆论属性或者社会动员能力的(具体参照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》评估)深度合成服务提供者,按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。完成备案后,在自家网站显著位置表明备案编号和公示信息链接。

进行安全评估。对具有舆论属性或者社会动员能力的新产品、新应用、新功能,按照国家有关规定开展安全评估。

开展监督检查。三大监管部门及辖区监管部门有权进行检查,深度合成服务提供者和技术支持者应当依法予以配合。

部门规章没有规定罚款,但提示行政相对人可能会被上位法处罚,构成治安案件的,公安机关处罚,构成犯罪的,追究刑事责任。

写在最后

从新规中,我们敏锐地观察到「科技伦理审查」一词,未来互联网侵权、犯罪案件可能会以不同的形式出现,我们并不担心明显恶意或善意的行为。最难办的是两边都是善良的,如何定分止争?两边都是恶意的,如何各自规制?「无知之幕」背后,考验的是每个人的价值排序。

同时,作为对刑法有一点研究的团队,我们还是要提醒执法部门和从业人员,新规的位阶不足以支撑刑法第 225 条非法经营罪,倘若真的有企业违反了深度合成规则中的规定,并不当然构成犯罪。新规出台,我们一起研读、实践,一起为 2023 年经济发展和科技进步服务!!

(声明:请读者严格遵守所在地法律法规,本文不代表任何投资建议)

(0)
上一篇 2022年12月20日 下午2:12
下一篇 2022年12月20日 下午2:24

相关推荐

发表回复

登录后才能评论
微信

联系我们
邮箱:whylweb3@163.com
微信:gaoshuang613