【资料图】

关于深度合成技术

这些知识你需要了解

这段时间，ChatGPT聊天机器人风靡全网，刷新了人们对于聊天工具的认知。

但是大家知道吗？关于这项聊天工具的背后，其实就是深度合成技术在现实生活中的具体应用。

什么是深度合成技术？

指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

近日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》，也从规范深度合成服务出发开创了新兴算法治理的先河。

一

深度合成技术包括什么？

文本技术

篇章生成、文本风格转换、问答对话等对文本内容进行生成或者编辑的技术。例如文档转换软件等。

语音技术

随着技术的不断积累、迭代，人工智能有望推动经济社会发展，释放发展红利，赋能美好未来。

文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术。例如语言更改功能软件等。

非语音技术

音乐生成、场景声编辑等生成或编辑非语音内容的技术。例如音乐制作软件等。

生物特征技术

人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术。例如AI人脸生成软件等。

非生物特征技术

图像生成、图像增强、图像修复等生成或编辑图像、视频内容中非生物特征的技术。例如一键AI绘画卡通头像软件等。

数字虚拟技术

三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。例如手机3D建模软件等。

二

哪些行为不得做？

01

不得制、复、发、传法律法规

禁止的信息

任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。

02

不得从事法律、法规禁止的活

动

任何组织和个人不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

03

不得制、复、发、传虚假新闻

信息

深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。

三

哪些行为必须做？

01

信息安全主体责任、管理制度

、技术保护措施

深度合成服务提供者应当落实信息安全主体责任，建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具有安全可控的技术保障措施。

02

管理规则、平台公约等一般性

要求

深度合成服务提供者应当制定和公开管理规则、平台公约，完善服务协议，依法依约履行管理责任，以显著方式提示深度合成服务技术支持者和使用者承担信息安全义务。

03

真实身份信息认证

深度合成服务提供者应当基于移动电话号码、身份证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法对深度合成服务使用者进行真实身份信息认证，不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。

04

信息内容审核义务

深度合成服务提供者应当加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核。

05

构建识别违法不良信息特征库

、对违法不良信息的处置措施

深度合成服务提供者应当建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序，记录并留存相关网络日志。

深度合成服务提供者发现违法和不良信息的，应当依法采取处置措施，保存有关记录，及时向网信部门和有关主管部门报告；对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施。

06

建立健全辟谣机制

深度合成服务提供者应当建立健全辟谣机制，发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。

07

便利用户投诉、举报义务

深度合成服务提供者应当设置便捷的用户申诉和公众投诉、举报入口，公布处理流程和反馈时限，及时受理、处理和反馈处理结果。

08

应用程序分发平台的安全管理

互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任，核验深度合成类应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。

09

训练数据和生物识别信息安全管理要求

深度合成服务提供者和技术支持者应当加强训练数据管理，采取必要措施保障训练数据安全；训练数据包含个人信息的，应当遵守个人信息保护的有关规定。

深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。

10

技术管理要求

深度合成服务提供者和技术支持者应当加强技术管理，定期审核、评估、验证生成合成类算法机制机理。

深度合成服务提供者和技术支持者提供具有以下功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估：

（一）生成或者编辑人脸、人声等生物识别信息的；

（二）生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的。

11

“隐式标识”义务

深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。

12

“显著标识”义务

深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况：

（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；

（二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；

（三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；

（四）沉浸式拟真场景等生成或者编辑服务；

（五）其他具有生成或者显著改变信息内容功能的服务。

深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识。

图片 | 网络截图

素材 | 上海网警

编辑 | 丁威

— END—

关键词：