防范與深度合成技術應用相伴生的各種社會風險

(資料圖)

南方財經全媒體記者 李潤澤子 21世紀經濟報道記者 郭美婷 實習生 曹萩兒 廣州報道

當真假交融難辨，眼見不再為實，如何規范化身雙刃劍的深度合成技術應用便成為了關鍵。

日前，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布了《互聯網信息服務深度合成管理規定》(以下簡稱《規定》)。《規定》明確了深度合成服務的一般規定、數據和技術管理規范以及監督檢查與法律責任等內容。

國家互聯網信息辦公室有關負責人指出，深度合成服務治理需要政府、企業、社會、網民等多方主體共同參與，推動深度合成技術的依法、合理、有效使用，積極防范化解深度合成技術帶來的風險，促進互聯網信息服務健康發展，維護網絡空間良好生態。

受訪專家告訴南方財經全媒體記者，從目前我國正處于推動數字化轉型，倡導文化產業數字化發展的大背景下，規范深度合成技術，并且出臺有關人工智能治理的相關法規正是應有之義，不僅能夠有利于我國數字經濟發展，而且能夠維護網絡空間良好生態，為之后的進一步發展打下堅實的基礎。

劃定深度合成服務的“底線”和“紅線”

AI聊天機器人、AI繪畫、AI換臉、虛擬數字人、修復影像、合成語音……近年來深度合成技術應用場景正不斷豐富。

據介紹，深度合成技術是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。

中國互聯網協會研究中心副主任、北京師范大學博士生導師吳沈括告訴南方財經全媒體記者，深度合成技術在影視制作、社交娛樂、新聞宣傳、教育和電子商務等方面應用較多。商業上有豐富用戶體驗，增強用戶粘性，拓展應用場景和增強業務生態等多重價值。

《深度合成十大趨勢報告(2022)》顯示，在國內外主流音視頻網站、社交媒體平臺上，2021年新發布的深度合成視頻的數量較2017年已增長超過10倍。此外，深度合成內容關注度也呈指數級增長，通過對互動數據進行統計，2021年新發布的深度合成視頻的點贊數已超過3億。

然而，在深度合成技術向社會生活的各個領域滲透之時，其所帶來的負面風險也日漸顯現且逐步產生實質危害。

近兩年，浙江、江蘇、河南等多地就出現了不少利用深度合成技術實施犯罪的“變臉”詐騙案。這些案件的作案流程頗為雷同：不法分子非法獲取他人照片或有償收購他人聲音等“物料”，僅需少量音視頻樣本數據，便可合成媲美真人的偽造音視頻，用來實施精準詐騙，侵害他人人身和財產安全。

國家網信辦在答記者問時指出，深度合成服務在滿足用戶需求、改進用戶體驗的同時，也被一些不法人員用于制作、復制、發布、傳播違法信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，影響傳播秩序和社會秩序，損害人民群眾合法權益，危害國家安全和社會穩定。出臺《規定》，能夠劃定深度合成服務的“底線”和“紅線”，維護網絡空間良好生態。

事實上，在《法治社會建設實施綱要(2020—2025年)》中就曾明確提出制定完善對算法推薦、深度偽造等新技術應用的規范管理辦法。其中，《互聯網信息服務算法推薦管理規定》第一個正式出臺的規制算法推薦運用的部門規章，已于今年3月施行。《規定》則是第二部專門針對算法的規范。

顯著標識避免公眾混淆

早在今年初，國家網信辦就已針對深度合成管理征求意見。直至年末，《規定》正式稿才最終出臺。

相比起此前的征求意見稿，上海匯業律師事務所律師史宇航認為，《規定》最大的區別在于引入了更多的監管部門，將電信主管部門與公安部門也引入到深度合成技術的監管之中。 電信主管部門可能會從電信牌照與備案、網絡安全漏洞等角度進行監管，公安部門則更關注公安聯網備案、網絡安全等級保護的問題。

在吳沈括看來，《規定》的亮點在于就深度合成服務明確設立了涉及算法、機理、科學倫理以及信息發布等多個方面的多項審查審核機制；同時，強調了包括加強技術管理、定期審核、評估驗證，以及有關模板、模型、工具的安全評估等的平臺主體責任內容；并且，強調實名認證，確保發布者的真實身份，否則不予提供相應的信息服務，并且在身份驗證中提供了多種可選方式，包括電話號碼、身份證以及網絡身份認證機制等。

而《規定》中另一頗受關注的條款是對“深度合成標識 ”的要求。《規定》提出，深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識，并依法依規保存日志信息。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有生成或者顯著改變信息內容功能服務的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示信息內容的合成情況，避免公眾混淆或者誤認;提供非上述深度合成服務的，應當提供顯著標識功能，并提示使用者可以進行顯著標識。任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識。

“此項要求可能會推動深度合成技術與區塊鏈技術更為緊密的融合，借助區塊鏈上信息無法篡改的特點來履行該項義務 。 ”史宇航說。

此外，《規定》與《互聯網信息服務算法推薦管理規定》一脈相承，同樣注重新聞信息安全。《規定》指出，具有輿論屬性和社會動員能力的深度合成服務提供者仍要履行算法推薦服務的備案手續，深度合成服務提供者開發上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能也要按規定開展安全評估。

吳沈括指出，該規定是為實現深度合成服務的事前治理，以最大程度降低該技術伴生的社會風險。

同時，數據安全也是《規定》重點強調的規范之一。《規定》要求，深度合成服務提供者和技術支持者應加強訓練數據管理，采取必要措施保障訓練數據安全；訓練數據包含個人信息的，應當遵守個人信息保護的有關規定；提供人臉、人聲等生物識別信息顯著編輯功能的，應當提示使用者依法告知被編輯的個人，并取得其單獨同意。

促進深度合成服務規范發展

促進深度合成服務規范發展是此次《規定》出臺的重要目的。 據國家網信辦介紹，制定《規定》，是落實《網絡安全法》《數據安全法》《個人信息保護法》《互聯網信息服務管理辦法》等法律、行政法規，對應用深度合成技術提供互聯網信息服務制定系統性、專門性規定，能夠明確各類主體的信息安全義務，為促進深度合成服務規范發展提供有力法治保障。

在北京大成律師事務所高級合伙人肖颯看來，《規定》的發布一方面會使得目前行業內良莠不齊的情況得以整治，淘汰不規范的企業，促進行業健康發展，另一方面也會使得同深度合成技術相關的新興技術行業有相似的法律依據提供參考，提前做好準備，合法合規運行。

“總的來說，對行業有著極大的促進作用，也能促使更多企業依照規范加入深度合成服務提供者的行列。 ”她表示。

史宇航也持有相同看法，他認為《規定》的制定有助于對新技術風險的監管，更好地發揮新技術的價值。

然而，《規定》作為規范前沿技術的具體規定，在落地時仍面臨不少難點。肖颯指出，《規定》的落地難點主要在于深度合成技術本身的復雜性和易變性，實踐中認定、取證和舉證的難度可能會較高 ，影響《規定》的實施效果。同時，由于目前已經有許多企業已經在進行深度合成技術的應用，因此如何處置和使得這部分企業在《規定》實施后轉為合規合法進行深度合成服務的提供也是落地的難點之一。以上這些問題，都需要司法和執法部門在不斷地更新自己的能力，與時俱進。

因此，在未來進一步推動深度合成技術規范化發展的過程中，吳沈括建議，一方面要認可深度合成技術的積極意義，同時也要重點實現對于深度合成技術和服務的有序規范和引導，對于深度合成技術所形成的生態中的各方主體，要根據技術演進的實際情況，不斷完善權利義務配置。同時，豐富監管工具手段，引入新監管機制，最大程度防范與深度合成技術應用相伴生的各種社會風險，劃定必要的行為紅線，及時懲處各類違法違規行為，構建安全可持續的發展環境。

“希望執法能夠跟上，只有切實對違法行為進行查處、處罰，讓執法更加公開透明，才有可能推動深度合成技術的規范化發展，否則一定會出現劣幣驅逐良幣的現象，導致違法活動難以遏制。”史宇航期待。

此外，值得注意的是，南方財經全媒體記者也觀察到，除《規范》外，近期與人工智能治理相關的法規正密集出臺。

對此，肖颯認為，這 一方面意味著人工智能這一項技術已經在各個方面各個領域發揮出越來越重要的作用。面對這樣的一種新型領域，自然會引申出許多固有的法律法規無法回應或妥善處理的難題，因而需要新的法律法規予以正面回應。另一方面也意味著我國對于人工智能這樣一項新興技術并未采取置之不理或者聽之任之的態度，而是在積極接納的基礎上通過新的法律法規進行規范，以適應社會的不斷發展之勢。