【安防展覽網 時事聚焦】近十年的電影技術,已經能夠做到視頻換臉。通過面部表情捕捉等技術,電影公司可以讓演員飾演動物或者怪物,讓他們返老還童或者從少變老甚至死而復生,如1994年的《阿甘正傳》就采用數字方式,將肯尼迪的影像填充到電影中,并調節他的表情和肢體語言;《速度與激情7》中,演員保倫·沃克在電影拍攝完成前因車禍喪生,但依靠換臉技術,他依然生動地出現在熒幕上。
不過,電影應用的這一套技術跟AI換臉存在很大區別,前者效果好、工藝流程更復雜、成本頗高,后者雖然效果不可同日而語,但成本低得離譜,入門級的AI換臉軟件在網上被免費傳播,被眾多網友玩得不亦樂乎的“Deepfakes”就是其中之一。
因為開源的AI換臉軟件人人取之可用,全民換臉的惡搞狂歡接踵而至,帶來的“蝴蝶效應”令人始料未及。在美國,Reddit、Twitter、Pornhub等網站先后淪陷,中國的B站、貼吧也被報道過換臉視頻充斥,澳大利亞、印度等國也有公民飽受AI換臉的困擾。
正如美國演員喬丹·皮爾所說,公眾需要可信的新聞來源,要對互聯網更加警惕,信息時代將決定我們是生存,還是成為某種糟糕的反烏托邦。一些社交媒體*的世界,人們難以分辨新聞的真假。隨著換臉技術被用于跨越倫理道德、法律規則、網絡安全紅線的個人娛樂、商業行為、學術研究等方向,AI換臉引發了學界的密集譴責和公眾的持續討論,并對可能造成的威脅表示擔憂和批評,呼吁政府加強監管,避免該項技術的濫用。況且,AI換臉技術日益精進暗含隱憂:英偉達“AI假臉王”StyleGAN攻破幾乎所有人臉識別系統;Samsung 開發的演算法只需一張相片即可制作合成影片……因此,政府出手加以限制勢在必行。
當前,諸多國家已從法律角度對AI換臉進行限制:
澳大利亞首都堪培拉、新南威爾士州、維多利亞州、南澳大利亞州、西澳大利亞州等地區頒發法律,將未經他人同意的情況下,制作、傳播虛假圖像視為*,可判處*或罰款。其中,堪培拉、新南威爾士州和南澳大利亞州明確定義了具有“親密性”和“侵入性”的圖像類型,包括已被改變或操縱的圖像。
美國國防研究計劃局(DARPA)設立“媒體鑒證”項目,以開發能識別深度偽造視頻的工具。據悉,該項目初旨在實現現有鑒證工具的自動化,之后將重點轉向人工智能生成的虛假視頻。研究人員已在GAN操縱的圖像和視頻中發現了微妙的線索,從而使其能夠檢測到變化的存在。紐約議會出于保護個人隱私權和宣傳權,提交了編號為A08155的法案,明確提出禁止用AI技術制作虛假視頻,在法律邊緣徘徊的Deepfakes*。
我國全國人大*會審議的民法典人格權編草案里也新增規定,任何組織或者個人不得以利用信息技術手段偽造的方式侵害他人的肖像權,明確指出未經肖像權人同意,使用PS和AI換臉不僅侵害自然人的人格權益,還可能造成惡劣的社會影響,甚至危害國家安全和社會公共利益。
結語:大規模低門檻的“深度偽造”在國內外都引起過軒然大波,新規定是立法部門對社會新技術發展所帶來挑戰的回應,公眾應嚴格遵守。善意玩梗可以,但應把握好度,以免AI換臉一時爽,鐵窗含淚望故鄉。
版權與免責聲明:
凡本網注明“來源:智慧城市網”的所有作品,均為浙江興旺寶明通網絡有限公司-智慧城市網合法擁有版權或有權使用的作品,未經本網授權不得轉載、摘編或利用其它方式使用上述作品。已經本網授權使用作品的,應在授權范圍內使用,并注明“來源:智慧城市網”。違反上述聲明者,本網將追究其相關法律責任。
本網轉載并注明自其它來源(非智慧城市網)的作品,目的在于傳遞更多信息,并不代表本網贊同其觀點或和對其真實性負責,不承擔此類作品侵權行為的直接責任及連帶責任。其他媒體、網站或個人從本網轉載時,必須保留本網注明的作品第一來源,并自負版權等法律責任。
如涉及作品內容、版權等問題,請在作品發表之日起一周內與本網聯系,否則視為放棄相關權利。