广电视听领域深度伪造防范技术要求发布！提出分级治理

4月17日，由广播电视人工智能应用国家广播电视总局重点实验室组织编制的《广播电视和网络视听深度伪造防范技术要求（2022版）》对外公示。该技术要求已经通过了广播电视科学研究院组织的专家评审，由广播电视人工智能应用国家广播电视总局重点实验室面向行业公开发布。

该文件提出了深度伪造视听内容防范总体技术要求、面部识别技术要求、深度伪造鉴别技术要求、黑名单技术要求以及深度伪造防范能力评估要求，给出了深度伪造防范能力系统参考设计。适用于广播电视和网络视听机构在内容审核发布环节部署深度伪造防范能力系统时应具备的技术规范和要求。

对技术基本要求方面，广播电视和网络视听机构应部署运行深度伪造防范能力系统，全面防范深度伪造内容，包括但不限于以下技术措施：

1）应具备人技一体的深度伪造防范机制；

2）应具备重要人物面部识别能力；

3）应具备深度伪造内容鉴别能力；

4）应具备深度伪造内容分级管理能力；

5）应具备黑名单管理能力；

6）应具备深度伪造内容应急处置能力；

7）鼓励视听机构开展黑名单可信共享。

提出了分级治理要求，按照深度伪造内容的危害程度，将其分为三级，其中一级的危害程度最高，三级的危害程度最低：

1）一级是指涉及重要人物音频、影像的深度伪造内容；

2）二级是指不涉及重要人物音频、影像的新闻类深度伪造内容；

3）三级是指不涉及重要人物音频、影像的非新闻类的深度伪造内容。

广播电视和网络视听机构应具备深度伪造内容分级管理能力，要求如下：

1）应具备将深度伪造内容及时更新到黑名单中的能力；

2）应具备将一级和二级伪造内容与原始视听内容关联的管理机制，具备支撑应急处置情况下将一级和二级伪造内容及时替换为原始视听内容的能力；

3）应具备及时下线伪造内容的能力。

广播电视和网络视听机构深度伪造防范能力系统应具备人技一体的防范机制，具体要求如下：

1）系统判定在黑名单中的视听内容应交由人工审核处理；

2）不在黑名单中的内容应同时开展重要人物面部识别和深度伪造鉴别，根据重要人物面部识别和深度伪造鉴别结果做如下处理：

a）识别为包含重要人物，并且深度伪造鉴别为非伪造的，应直接进入人工审核流程，按照本机构的法定许可范围进行相应处理；

b）识别为包含重要人物或与重要人物相似，并且深度伪造鉴别为伪造的，应由人工审核确认为一级深度伪造内容后加入到黑名单中。

3）识别为不包含重要人物，并且深度伪造鉴别为伪造的，根据内容的属性由人工审核进行处理：

a）如果内容属性为新闻类，应由人工审核确认为二级深度伪造内容后加入到黑名单中；

b）如果内容属性为非新闻类，但人工审核确认属于第三级的深度伪造内容，应禁止通过审核。

（4）识别为不包含重要人物，并且深度伪造鉴别为非伪造的，按照广播电视和网络视听机构日常审核流程处理。

黑名单功能要求方面，文件中指出，黑名单是指禁止播出的视听内容基本信息及其视音频特征信息的集合。广播电视和网络视听机构部署的黑名单技术系统应满足以下功能要求：

（1）黑名单中的内容应包括：鉴别为伪造且包含重要人物音频和影像的内容、鉴别为伪造的新闻内容等；

（2）黑名单元数据应包括：内容类型、基本信息、视音频特征信息、存储路径、音视频文本内容等；

（3）黑名单技术系统应具备视频特征分析技术，支持视音频内容的匹配与过滤；

（4）黑名单技术系统应具备对黑名单数据增加、删除、修改等管理功能。

附件-广播电视和网络视听深度伪造防范技术要求（2022版）.pdf