上週，泰勒·Swift (Taylor Swift) 的露骨、未經同意的Deepfake 圖像充斥著X（以前稱為Twitter）——其中一個視頻獲得了4700 萬次觀看，17 小時後被刪除。
為了阻止影像的傳播，X 禁止了「泰勒·Swift」或「泰勒·Swift AI」等搜尋。然而，只需將搜尋從「Taylor Swift AI」重新排列為「Taylor AI Swift」就會產生結果。
該社群媒體平台因其反應遲緩而受到批評，許多人將其歸咎於 Elon Musk，自2022 年接任以來，他已削減了公司內容審核團隊80% 的人員。
氾濫的事件引發了粉絲和政界人士的憤怒，他們呼籲制定更嚴格的法律，以防止未經同意的人工智慧生成的色情內容的製作和傳播，並賦予這些攻擊的受害者尋求正義的權利。
美國週二提出一項法案，將傳播由人工智慧產生的未經同意的色情圖像定為犯罪。在英國，根據2023 年《線上安全法》，共享深度偽造色情內容被定為非法。
然而，在歐盟，儘管出台了許多針對人工智慧和社群媒體的法規，但沒有具體的法律來保護未經同意的深度偽造色情內容的受害者。
荷蘭線上身分驗證公司Digidentity 的技術長兼創辦人 Marcel Wendt 告訴TNW，「在打擊深度造假等有害錯誤訊息的傳播方面，我們做得還不夠。」「像這樣備受矚目的案件應該給立法者敲響警鐘——我們需要讓人們在網上更加安全。”
Deepfakes 存在什麼問題？
Deepfakes 是由深度學習人工智慧演算法產生的假影像或影片（因此得名）。雖然有些人是無辜的，但絕大多數人絕對不是。
Deepfake 色情內容佔所有線上Deepfake 影片的98%。根據去年發布的Deepfakes 現況報告，其中大部分是女性名人，她們的圖像在未經她們同意的情況下被變成色情內容。
許多製作Deepfake 色情內容的工具都是免費且易於使用的，這使得2019 年至2023 年在線Deepfake 內容數量增加了550%。有時，犯罪者分享這些Deepfake 內容純粹是出於淫穢目的，而其他時候則意圖是為了騷擾、勒索、冒犯、誹謗或令特定個人難堪。
雖然第一波深度偽造色情內容針對的是知名女性，但如今Swift的粉絲也可能像她一樣成為目標。世界各地的學校都在努力應對兒童人工智慧裸體的興起，有時是兒童創作的人工智慧裸體。
這些深度造假違法嗎？
去年，西班牙20 多名少女收到了人工智慧生成的裸體照片，其中附有她們穿著衣服的照片，這些照片取自她們的Instagram 帳戶。雖然向未成年人傳播色情內容是非法的，但將未成年人的臉放入成年人同意的色情圖像或影片中是合法的灰色地帶。
馬德里自治大學刑法教授曼努埃爾·坎西奧(Manuel Cancio) 在西班牙案件發生後告訴歐洲新聞台：「由於它是由Deepfake 生成的，因此從法律角度來看，當事人的實際隱私不會受到影響。”
唯一直接解決該問題的歐盟法律是荷蘭刑法典。該法的一項規定涵蓋真實的和非真實的兒童色情製品。但這項規定只是例外，而不是規則。
但是，旨在解決從錯誤訊息到人工智慧線上濫用等各種問題的一系列新歐盟法律又如何呢？
據資料創新中心稱，例如，雖然《數位服務法》要求社群媒體平台更好地標記和刪除非法內容，但它未能將未經同意的深度假貨歸類為非法。
歐盟也在最後一刻的談判中頗具爭議地放棄了DSA 的一項提案，該提案要求託管用戶生成內容的色情網站迅速刪除被受害者標記為未經許可描繪自己的內容。
其他法律，例如即將出台的人工智慧法案，要求創作者揭露深度造假內容。但人們是否知道深度造假並不重要，而影像本身才是造成傷害的原因。
坎西奧表示：“它（對受害者）的影響可能與真實的裸體照片非常相似，但法律卻落後了一步。”
讓科技平台承擔責任
操縱圖像來欺騙人們並不是什麼新鮮事——甚至古埃及法老哈特謝普蘇特也在雕像和繪畫中將自己描繪成一個男人，以贏得選民的青睞。
但在過去幾年中，只需按一下按鈕即可創建圖像和影片的人工智慧工具的爆炸式增長正在改變遊戲規則，它們被用於比對抗父權偏見更為邪惡的目的。
以ClothOff 應用程式為例。它允許用戶脫掉手機圖片庫中出現的任何人的衣服。製作25 張裸照需要10 歐元，據信是前面提到的西班牙Deepfake 醜聞中使用的工具。
泰勒·Swift影像使用的軟體很可能是Microsoft Designer。該科技巨頭已修補了一個漏洞，用戶可以透過輸入“泰勒’歌手’Swift”或“詹妮弗’演員’安妮斯頓”等提示，在平台上生成名人的圖像。
最受歡迎的生成式人工智慧產生器設有防護欄，以防止有害的深度假貨——儘管用戶總是在尋找新的方法來欺騙他們。犯罪者也使用鮮為人知的開源生成人工智慧工具，這些工具更難控制。
「雖然很難阻止深度贗品的產生，但要阻止它們的傳播要容易得多，」Digidentity 的Wendt 說。 “像X 這樣的社交媒體平台需要做更多的事情來標記和刪除有害內容，然後再傳播。”
Wendt 主張為所有社交媒體帳戶提供數位標識符，這樣當您在X、Facebook 或Instagram 等平台上建立帳戶時，它就可以連結到您的政府頒發的ID。不過，考慮到大型科技公司在信任和安全方面的記錄，強迫使用者使用真實身分登入目前似乎是天上掉下來的餡餅。
我們現在能做什麼
雖然這一切看起來像是厄運和悲觀，但還是有一線希望的。
DSA 要做的一件事就是向大型科技公司施加壓力，要求其提高其平台的線上安全性。如果他們不這樣做，他們可能會被處以相當於其全球收入6% 的罰款，或被完全禁止加入工會。
雖然並不完美，但即將出台的《人工智慧法案》開創了數位道德和安全至上的全球先例，並為未來採取措施應對不斷發展的深度造假世界提供了立法跳板。
在英國，《網路安全法》賦予了對深度偽造色情內容採取行動的新權力，該罪行最高可判處兩年監禁。託管此類內容的平台也構成刑事犯罪。
透過更好的身份驗證系統、數位浮水印和區塊鏈的實施，技術也將在處理和追蹤深度偽造品方面發揮重要作用。這些技術將有助於驗證內容的真實性並確保數位交易的安全記錄，這些好處將使我們所有人的線上安全更加安全。
「我們需要的是一個全面、多維的全球合作策略，強調監管、技術和安全，」《人工智慧驅動的地球》一書的作者、聯合國人工智慧技術顧問馬克·米內維奇(Mark Minevich) 告訴TNW 。
他說：“這不僅將應對未經同意的深度偽造帶來的直接挑戰，還將為以信任、透明和持久安全為特徵的數位環境奠定基礎。”
資訊來源：由0x資訊編譯自THENEXTWEB。版權歸原作者所有，未經許可，不得轉載
