“螞蟻呀嘿，螞蟻呀呼，螞蟻呀哈，螞蟻呀哈哈......”過(guò)去一周，在微信朋友圈、微博、抖音等社交媒體平臺(tái)，相信不少人都被這個(gè)魔性的音樂(lè)配合著夸張扭動(dòng)的變臉視頻刷屏了。
然而這款名為Avatarify，火爆全網(wǎng)的AI換臉軟件從2月底沖上蘋果App Store免費(fèi)榜第一，到今天從App Store中國(guó)區(qū)悄然“下架”只用了不到一周的時(shí)間。目前官方未給出具體下架原因，業(yè)界猜測(cè)該款軟件可能涉及隱私安全等問(wèn)題。
AI換臉你體驗(yàn)過(guò)了嗎?
Avatarify的名稱來(lái)源于“阿凡達(dá)”電影，創(chuàng)作者是一位開(kāi)發(fā)工程師，最初只是因?yàn)橐咔槠陂g過(guò)于太無(wú)聊，才開(kāi)發(fā)了這款變臉應(yīng)用并將其開(kāi)源。其實(shí)Avatarify早在去年7月就已經(jīng)上線，但一直不溫不火，直至”螞蟻呀嘿“特效躥紅后，才帶火了這款軟件。
軟件運(yùn)行的原理是將別人的臉套在自己的表情上進(jìn)行實(shí)時(shí)驅(qū)動(dòng)。用戶只需要三步：導(dǎo)入手機(jī)里的人臉圖片，選擇視頻模板，軟件就能自動(dòng)生成短視頻，再一鍵保存即可。如果想要照片中的多人都動(dòng)起來(lái)，根據(jù)抖音中大多數(shù)視頻制作教程，則還需要一些剪輯軟件加以輔助。
Avatarify軟件背后用到的是deepfakes這項(xiàng)強(qiáng)大的AI人臉交換技術(shù)，這項(xiàng)技術(shù)不僅可以生成圖片，還可以生成視頻。Deepfakes，是由“deep machine learning”(深度機(jī)器學(xué)習(xí))和“fake photo”(假照片)組合而成，本質(zhì)是一種深度學(xué)習(xí)模型在圖像合成、替換領(lǐng)域的技術(shù)框架，DeepFakes的出現(xiàn)可以說(shuō)是人臉交換技術(shù)的一個(gè)重要突破。
AI換臉安全爭(zhēng)議不可回避
然而，就像過(guò)往的任何一款換臉AI軟件一樣，Avatarify不可回避地也遇到了可能涉及的安全和隱私問(wèn)題。人臉是非常隱私且重要的個(gè)人信息，由于換臉軟件在使用過(guò)程會(huì)收集用戶個(gè)人信息，如照片、面部特征等。如果將這些信息通過(guò)AI技術(shù)合成，一旦被泄露被盜取，很可能會(huì)對(duì)個(gè)人財(cái)產(chǎn)造成損害，以及由此帶來(lái)一系列未知風(fēng)險(xiǎn)。早前在國(guó)內(nèi)火爆一時(shí)的“ZAO”也曾因?qū)﹄[私泄露的擔(dān)心引發(fā)公眾焦慮和談?wù)?，并被工信部約談后下架。
對(duì)于Avatarify的下架，有網(wǎng)友表示：“技術(shù)是好技術(shù)，但是應(yīng)該有正確的使用規(guī)范。在沒(méi)有規(guī)范的前提下應(yīng)當(dāng)謹(jǐn)慎使用。”“AI換臉最怕的就是被不法分子利用。”
2019年11月底，國(guó)家網(wǎng)信辦、文旅部和廣電總局等三個(gè)部門聯(lián)合發(fā)布了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，其中明確了“利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的應(yīng)當(dāng)及時(shí)采取相應(yīng)的辟謠措施”等針對(duì)換臉技術(shù)的新規(guī)定。規(guī)定同時(shí)指出，利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實(shí)音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識(shí)。且不得利用該技術(shù)“制作、發(fā)布、傳播虛假信息”。此外，規(guī)定還強(qiáng)調(diào)，不得利用相關(guān)的音視頻技術(shù)“侵害他人名譽(yù)權(quán)、肖像權(quán)、隱私權(quán)、知識(shí)產(chǎn)權(quán)和其他合法權(quán)益”。
任何AI技術(shù)的運(yùn)用都是人類科技發(fā)展進(jìn)步的體現(xiàn)，但是在使用任何高科技和新手段的時(shí)候一定要守住法律和道德的底線。用戶在體驗(yàn)App的時(shí)候更要多留一份心眼。不能只顧好玩而忽略了信息安全及個(gè)人隱私的泄露問(wèn)題。(解敏)
