你看直播時，眼前見到的主播，真的就是這個人嗎？原來是主播AI換臉變當紅明星進行帶貨，只為增加賣點，助力賣貨……近期，“AI換臉”的應用范圍越來越廣，但存在濫用之嫌，甚至有人利用AI換臉實施犯罪。如此以假亂真，讓人防不勝防。“AI換臉”背后技術難不難？其法律邊界在哪？普通人該如何防范？

(相關資料圖)

利用“換臉” 博取流量

報道稱，有網友點開多個電商直播間，發現正在賣貨的竟然“迪麗熱巴”“楊冪”等一些當紅明星，背后其實是直播間的主播利用“AI換臉”，將自己的臉變得神似某位明星。

連日來，記者在抖音、快手、視頻號等直播間瀏覽，暫未見到有“AI換臉”的直播，記者在小紅書上搜索“AI換臉”，當前，有不少博主通過視頻拆解AI換臉詐騙的案例，并提醒大家要注意網聊風險。

“AI換臉”技術陸續出現在大眾視野，被不少網友拿來“玩梗”。今年初電視劇《狂飆》走紅時，有網友把《狂飆》中的多位男主角樣子“換到”了組合F4經典歌曲《流星花園》的MV中，戲稱為“狂飆F4”。此外，有博主利用AI換臉，將特斯拉創始人馬斯克的臉換到了不同背景的照片中，戲稱“馬斯克賣燒烤”“馬斯克擺攤”……目的是為了吸引網友們的眼球，帶來更多的流量。

目前AI換臉技術越來越成熟，呈現效果越來越逼真，從一開始的自娛自樂，至今在社會上眾多領域使用。

深度科技研究院院長張孝榮表示，當前的AI換臉屬于深度偽造的AI技術衍生應用。這種技術在影視和廣告行業由來已久，現在有了AI技術，這種換臉軟件開始大范圍普及開來。現在，隨著生成式AI的發展，使用難度進一步降低，新興的APP和主流的視頻軟件都增加了類似功能，普及率大大提升，如此一來，線上的“李逵”和“李鬼”日益增多，而且更加真假難辨。

“隨著深度偽造技術、擴散模型、生成對抗網絡和AI大模型等AI技術的日漸成熟，偽造相關視頻、音頻、圖像等技術門檻大幅降低。”天使投資人、資深人工智能專家郭濤表示，與此同時，大批的提供相關服務的第三方應用軟件問世，應用門檻進一步降低，哪怕是“AI技術小白”幾分鐘也能輕松學會AI換臉等操作。

“直播換臉軟件，有的收費有的免費，收費的從幾百到幾千上萬元，成本各有不同。”張孝榮直言。

一旦發現換臉直播直接斷播

AI換臉技術帶來的風險令大眾擔憂。對于最近直播平臺AI換臉詐騙的情況，抖音方面對全媒體記者表示，目前抖音直播不允許換臉直播，一旦發現平臺會直接斷播。平臺目前也在跟進換臉帶貨的情況，除了斷播、限制櫥窗小黃車等帶貨功能，還會對侵權商家進行扣除信用分的處置。對斷播后仍換臉直播的賬戶，將限制其直播權限。至于快手、視頻號方面，則暫未回應。

據了解，5月9日《抖音關于人工智能生成內容的平臺規范暨行業倡議》發布，要求創作者、主播、用戶、商家、廣告主等平臺生態參與者，在抖音應用生成式人工智能技術時，遵循相關規范，其中包括發布者應對人工智能生成內容進行顯著標識，幫助其他用戶區分虛擬與現實，特別是易混淆場景；虛擬人需在平臺進行注冊，虛擬人技術使用者需實名認證等。

今年4月，國家網信辦發布《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱《管理辦法》），這也是國家首次針對生成式AI產業發布規范性政策。《管理辦法》提及，利用生成式人工智能生成的內容應當真實準確，采取措施防止生成虛假信息。尊重他人合法利益，防止傷害他人身心健康，損害肖像權、名譽權和個人隱私，侵犯知識產權。禁止非法獲取、披露、利用個人信息和隱私、商業秘密。

像防范電信詐騙一樣防范AI詐騙

“AI換臉惡搞他人、冒充明星帶貨，佯裝‘熟人’實施詐騙等上述濫用行為已經涉嫌侵權，甚至是刑事詐騙。”廣東南方福瑞德律師事務所律師梁宇麒接受記者采訪時表示，。需要注意的是，《民法典》正式實施后，確定是否侵犯肖像權不再以使用是否以盈利為目的，也就是說，使用他人肖像前，須經過他人同意，否則將涉嫌構成侵權。

梁宇麒表示，廣大民眾須警惕，已有不法分子使用他人肖像冒充他人騙取財物。一般情形大概是不法分子利用視頻電話打給被害人，利用AI換臉技術和聲音合成技術冒充被害人朋友，誘騙被害人轉款至其指定賬號，整個詐騙過程只需短短十分鐘。隨著AI換臉技術的迭代更新，社會各界在關注AI換臉技術進步發展的同時，更應關注由此帶來的風險和威脅，并須采取一系列的防范措施。

那么，該如何警惕和防范AI換臉技術帶來的風險？他建議：首先，政府部門加強AI換臉技術監管力度，并制定相應的法律法規，明確軟件開發商、平臺運營商以及使用人的責任邊界以及處罰標準。其次，軟件開發商和平臺運營商應自身加強對AI換臉技術的內部監管，設定審核機制，規范使用行為。最后，也是最重要的是，提高個人防范意識，大家在使用AI換臉軟件或者小程序時，警惕被軟件收集人臉、聲音等個人敏感信息，如非必要，是可以拒絕收集的。以后面對關于涉及財物交易的事宜，不要只通過網絡視頻或語音確認，建議通過個人聯系電話、單位聯系電話、甚至是面對面等多渠道確認后，再進行交易。

張孝榮表示，要像防范電信詐騙一樣防范AI詐騙。提高警惕，保護個人隱私資料，避免泄露；不要輕信各種APP傳來的視頻、電話或短信；建立財務信息防火墻，不要給陌生人轉賬。

（文章來源：廣州日報客戶端）

標簽：