4月17日，由廣播電視人工智能應(yīng)用國家廣播電視總局重點實驗室組織編制的《廣播電視和網(wǎng)絡(luò)視聽深度偽造防范技術(shù)要求（2022版）》對外公示。該技術(shù)要求已經(jīng)通過了廣播電視科學(xué)研究院組織的專家評審，由廣播電視人工智能應(yīng)用國家廣播電視總局重點實驗室面向行業(yè)公開發(fā)布。

該文件提出了深度偽造視聽內(nèi)容防范總體技術(shù)要求、面部識別技術(shù)要求、深度偽造鑒別技術(shù)要求、黑名單技術(shù)要求以及深度偽造防范能力評估要求，給出了深度偽造防范能力系統(tǒng)參考設(shè)計。適用于廣播電視和網(wǎng)絡(luò)視聽機構(gòu)在內(nèi)容審核發(fā)布環(huán)節(jié)部署深度偽造防范能力系統(tǒng)時應(yīng)具備的技術(shù)規(guī)范和要求。

對技術(shù)基本要求方面，廣播電視和網(wǎng)絡(luò)視聽機構(gòu)應(yīng)部署運行深度偽造防范能力系統(tǒng)，全面防范深度偽造內(nèi)容，包括但不限于以下技術(shù)措施：

1）應(yīng)具備人技一體的深度偽造防范機制；

2）應(yīng)具備重要人物面部識別能力；

3）應(yīng)具備深度偽造內(nèi)容鑒別能力；

4）應(yīng)具備深度偽造內(nèi)容分級管理能力；

5）應(yīng)具備黑名單管理能力；

6）應(yīng)具備深度偽造內(nèi)容應(yīng)急處置能力；

7）鼓勵視聽機構(gòu)開展黑名單可信共享。

提出了分級治理要求，按照深度偽造內(nèi)容的危害程度，將其分為三級，其中一級的危害程度最高，三級的危害程度最低：

1）一級是指涉及重要人物音頻、影像的深度偽造內(nèi)容；

2）二級是指不涉及重要人物音頻、影像的新聞類深度偽造內(nèi)容；

3）三級是指不涉及重要人物音頻、影像的非新聞類的深度偽造內(nèi)容。

廣播電視和網(wǎng)絡(luò)視聽機構(gòu)應(yīng)具備深度偽造內(nèi)容分級管理能力，要求如下：

1）應(yīng)具備將深度偽造內(nèi)容及時更新到黑名單中的能力；

2）應(yīng)具備將一級和二級偽造內(nèi)容與原始視聽內(nèi)容關(guān)聯(lián)的管理機制，具備支撐應(yīng)急處置情況下將一級和二級偽造內(nèi)容及時替換為原始視聽內(nèi)容的能力；

3）應(yīng)具備及時下線偽造內(nèi)容的能力。

廣播電視和網(wǎng)絡(luò)視聽機構(gòu)深度偽造防范能力系統(tǒng)應(yīng)具備人技一體的防范機制，具體要求如下：

1）系統(tǒng)判定在黑名單中的視聽內(nèi)容應(yīng)交由人工審核處理；

2）不在黑名單中的內(nèi)容應(yīng)同時開展重要人物面部識別和深度偽造鑒別，根據(jù)重要人物面部識別和深度偽造鑒別結(jié)果做如下處理：

a）識別為包含重要人物，并且深度偽造鑒別為非偽造的，應(yīng)直接進入人工審核流程，按照本機構(gòu)的法定許可范圍進行相應(yīng)處理；

b）識別為包含重要人物或與重要人物相似，并且深度偽造鑒別為偽造的，應(yīng)由人工審核確認為一級深度偽造內(nèi)容后加入到黑名單中。

3）識別為不包含重要人物，并且深度偽造鑒別為偽造的，根據(jù)內(nèi)容的屬性由人工審核進行處理：

a）如果內(nèi)容屬性為新聞類，應(yīng)由人工審核確認為二級深度偽造內(nèi)容后加入到黑名單中；

b）如果內(nèi)容屬性為非新聞類，但人工審核確認屬于第三級的深度偽造內(nèi)容，應(yīng)禁止通過審核。

（4）識別為不包含重要人物，并且深度偽造鑒別為非偽造的，按照廣播電視和網(wǎng)絡(luò)視聽機構(gòu)日常審核流程處理。

黑名單功能要求方面，文件中指出，黑名單是指禁止播出的視聽內(nèi)容基本信息及其視音頻特征信息的集合。廣播電視和網(wǎng)絡(luò)視聽機構(gòu)部署的黑名單技術(shù)系統(tǒng)應(yīng)滿足以下功能要求：

（1）黑名單中的內(nèi)容應(yīng)包括：鑒別為偽造且包含重要人物音頻和影像的內(nèi)容、鑒別為偽造的新聞內(nèi)容等；

（2）黑名單元數(shù)據(jù)應(yīng)包括：內(nèi)容類型、基本信息、視音頻特征信息、存儲路徑、音視頻文本內(nèi)容等；

（3）黑名單技術(shù)系統(tǒng)應(yīng)具備視頻特征分析技術(shù)，支持視音頻內(nèi)容的匹配與過濾；

（4）黑名單技術(shù)系統(tǒng)應(yīng)具備對黑名單數(shù)據(jù)增加、刪除、修改等管理功能。