龔先生

“一些喜歡我的影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質非常惡劣。希望能建立更好的規則。“3月5日，在政協小組討論上，全國政協委員、演員靳東表示今年自己的提案之一是加快與AI應用相關的立法工作。

無獨有偶，就在此前一天，全國人大代表、小米科技董事長兼CEO雷軍公開了自己今年帶上全國兩會的5條建議，其中一條也是“加強‘AI換臉擬聲’違法侵權重災區治理”。

靳東和雷軍關注AI換臉擬聲，有一個重要的相同原因是，他們都曾是被“換”和“擬”的對象。

（圖源  新華社）

去年底，江西一位老人到銀行聲稱要貸款200萬給“男朋友靳東”拍戲用。經民警了解，老人所謂的“靳東”是由詐騙分子通過AI換臉合成的，再經由視頻平臺與老人“網戀”。去年國慶假期期間，短視頻平臺出現了大量“雷軍配音”的惡搞視頻，不僅言辭犀利，還不時爆出粗口。為此，雷軍不得不專門發布視頻，澄清相關語音是由AI模擬生成，并呼吁大家停止惡搞。

事實上，苦于被AI偷走面孔和聲音的，遠不止靳東與雷軍。從已有報道來看，前有“假張文宏”深夜直播帶貨，后有“假劉曉慶”分享人生雞湯，最近還有“假古天樂”代言游戲平臺。可以說，以現在的技術水平，只要有影像和聲音素材，就沒有AI冒充不了的人。

AI換臉擬聲一旦被濫用，危害不勝枚舉。首先，這涉嫌侵犯被模仿者的個人信息、肖像權乃至名譽權。其次，利用AI制造出的虛假形象和聲音，不法分子可以從事諸如詐騙、誘導消費等各類違法犯罪行為，給受害者造成人身財產損失。更有甚者，為博取眼球與流量，不法分子不惜用AI制造“有模有樣”的虛假事件、新聞并進行傳播，若長此以往，人們會陷入真假難辨的信息流中，進而導致一系列社會問題。

引人關注的是，在一部分代表委員關注AI應用過程中出現的弊端時，也有代表委員熱切期待AI能在不同行業和領域發揮實質性的作用。比如，全國政協委員、復旦大學數學科學學院教授郭坤宇提出，AI技術可以帶來虛擬教育資源，打破物理阻隔，使偏遠地區的學生也有機會獲得優質的教育；全國人大代表、陜西師范大學黃河研究中心主任方蘭有感于科技對農業的巨大作用，希望能借助AI技術推動黃河流域精準農業提升……

除此以外，關于AI人才培養以及其對產業和崗位的影響等，也是今年全國兩會上不少代表委員熱議的話題。由此可見，隨著技術的突破和發展，AI已徹底走出實驗室，逐漸向與普通大眾息息相關的基礎設施發展。這也意味著，為AI技術應用制定標準、規則以及底線，已迫在眉睫。

（圖源  新華社）

目前，我國已出臺的對AI技術應用的規定包括《互聯網信息服務深度合成管理規定》《生成式人工智能服務暫行管理辦法》，對深度合成內容的用途、標記、使用范圍以及濫用處罰作出了規定。此外，2024年9月，國家互聯網信息辦公室發布《人工智能生成合成內容標識辦法（征求意見稿）》，進一步明確，無論文本、音頻、視頻還是虛擬場景，都必須“在適當位置添加顯著的提示標識”。但從實際情況來看，一來對惡意深度合成的追責存在證據標準高、取證困難等難題，二來AI生成內容標注缺乏明確標準，這都在一定程度上導致了AI換臉擬聲濫用難治理的情況。

技術本無好壞之分，但在人類發展史上，每一次科技進步，無論大小，在帶來便利的同時也多少會引來“麻煩”。科技是否向上向善，最終決定因素是人。具體到AI技術，除了像靳東、雷軍呼吁的那樣盡快出臺更具操作性的法律法規，從AI行業，到落地平臺，再到普通用戶，都應通過參與制定和履行標準、規則，來承擔起責任和義務。只有這樣，被認為有顛覆性意義的AI技術才能真正幫助人類再一次實現自身的飛躍。