來源：科技狐
圖片來源：由無界AI 生成
ChatGPT 發布以後，AI 技術的發展實現了量變到質變的突破，隨之而來的犯罪事件也層出不窮。
技術發展的初衷原本是為了造福人類。
但還沒等到打工人借助AI 提前養老退休，咱們就先見識到了AI 換臉、AI 詐騙……
最近，想必大家都聽說了那個差點被騙走430 萬的大冤種老闆。
根據官方媒體報導，4 月20 日，福州市某科技公司的法人代表郭先生，突然接到了好友的微信視頻。
好友對郭先生說，自己的朋友正在外地競標，需要430 萬保證金，而且需要公對公賬戶過賬，所以想要藉用郭先生公司的賬戶走一下賬。
對方還找郭先生索要了銀行卡號，聲稱已經把錢打到郭先生的賬戶上。
按理來說，這麼大一筆錢，肯定不會說轉就轉。
但郭先生在視頻通話中“確認”了好友的身份，無論是面部還是聲音，都跟好友一模一樣。
再加上對方還提供了銀行轉賬底單的截圖。
因此，他便相信這是真的，10 分鐘內就把錢轉了過去。
直到他電話聯繫好友的時候，才猛然發現自己被騙了。
接受采訪時，郭先生表示：“從頭到尾都沒有和我提借錢的事情，就說會先把錢給我打過來，再讓我給他朋友賬戶轉過去，而且當時是給我打了視頻的，我在視頻中也確認了面孔和聲音，所以才放鬆了戒備。”
誰能想到，騙子不僅盜用了好友的微信號，還利用智能AI 換臉和擬聲技術偽裝成好友，主動發起微信視頻。
這騙術，換做任何一個人都很難識破吧。
騙子實在是太狡猾了
不幸中的萬幸，接到報警以後，福州、包頭兩地警銀迅速啟動止付機制，成功追回了336.84 萬元。
但還是有 93.16 萬元被轉移，這一部分錢估計是追不回來了……
事件一出，立刻引爆了熱搜。
圖源微博
過去，騙子就常常偽裝成親戚朋友進行詐騙，一般情況下，只要給當事人打個電話或者視頻，就能識破騙局。
但現在，視頻和電話也不可信了。
利用AI 生成語音、視頻的門檻越來越低，懂這項技術的人只要稍微動點歪心思，就有可能實施詐騙。
此前，惠州電視台也報導了一起AI 詐騙案件。
一位父親接到了女兒被綁架的電話，對方要求他半小時內準備30 萬贖金，不然就撕票。
圖源惠州電視台
電話另一頭傳來女兒的哭聲，幾乎跟當事人女兒的聲音一模一樣，這位父親差點就信了。
幸虧他的妻子留了個心眼，撥打了110，才發現剛剛的是詐騙電話。
而AI 換臉技術除了可以用於詐騙以外，還可能被用於其他的違法犯罪。
例如最近的“女明星”帶貨事件。
很多網友發現，點進直播間裡，帶貨的主播全是“楊冪”、“迪麗熱巴”、“佟麗婭”這些當紅女星。
原來是部分主播利用實時變臉軟件，把自己的臉替換成女明星的臉，然後在直播間賣力地帶貨。
主播換臉成“迪麗熱巴”在直播間帶貨
一些不明真相的網友看到明星“露臉”直播，以為真的是明星本人，其實這只不過是一場博流量的騙局。
有律師表示，這種行為涉嫌欺詐或是虛假宣傳，讓公眾誤以為就是明星在帶貨。
如果產品出現質量問題，或者主播帶貨時說出不恰當言論，有可能對明星本人帶來負面影響。因此，明星有權提出訴訟。
AI 換臉技術展示
然而，儘管這麼做是違法的，但它的維權成本卻非常高，以至於難以維權。
技術的使用門檻太低，再加上使用人數太多，要找到侵權人非常困難。
就目前來看，這項技術仍然處於法律的灰色地帶。
甚至，網絡上已經出現了專門的AI 換臉教程……儼然成為了新的流量密碼。
圖源抖音截圖
部分普通人可能只想用它來娛樂，但總有一些人試圖用它來謀利，甚至乾壞事。
狐妹覺得，光靠法律規定可能還管不住他們，必須得用魔法打敗魔法。
不知道有沒有高人能出一種反制的技術？在審核那一關攔住他們，用AI 制止AI 犯罪？類似於黑客與白客的關係。
畢竟這些用AI 技術打造的高端騙局，普通人幾乎毫無招架之力。
幸好，相關的法律也在盡快出台，對AI 技術進行監管。
去年12 月，《互聯網信息服務深度合成管理規定》發布，對人臉生成、替換、操控，合成人聲、仿聲等深度合成內容都有明確約束。
圖源光明網
前不久，抖音也發布了《關於人工智能生成內容標識的水印與元數據規範》，禁止利用生成式AI 發布侵權內容。
全世界都在呼籲對AI 生成的內容進行強制性規定，OpenAI 也考慮在ChatGPT 中添加數字水印，防止模型被濫用。
狐妹希望，AI 技術的進步能夠給更多的人帶來好處，而不是成為一部分惡人犯罪的武器。
參考資料：
雷科技：AI換臉10分鐘騙走430萬普通人如何預防AI詐騙？緊急轉發朋友
央視新聞：“AI換臉”詐騙防不勝防？要用“法”打敗“魔法”
騰訊網：AI 詐騙上熱搜長相聲音都對，“換臉”的“朋友”騙了他430萬…
資訊來源：由0x資訊編譯自8BTC。版權歸作者所有，未經許可，不得轉載