歡迎來到美國2024 年總統大選，在這裡，真實性亟待保證。
撰文：Alexandra Ulmer 和Anna Tong
來源：路透社
“我其實很喜歡Ron DeSantis，”希拉里·克林頓在一段出人意料的在線支持視頻中透露。 “他正是這個國家需要的那種人，我是認真的。”
拜登終於摘下面具，對一個變性人咆哮道：“你永遠不會成為一個真正的女人”。
歡迎來到美國2024 年總統大選，在這裡，真實性亟待保證。
克林頓和拜登的偽造視頻– 由人工智能算法根據大量在線錄像訓練而成的逼真視頻– 是浮現在社交媒體上的成千上萬個視頻之一，在美國政治的兩極化世界中模糊了事實和虛構。
根據路透社對人工智能、在線錯誤信息和政治活動等領域的二十多位專家的採訪，雖然這種合成媒體已經存在了好幾年，但在過去一年裡，由於Midjourney 等一系列新的“生成式AI”工具的出現，使得製造令人信服的深度偽造變得廉價而容易。
“選民們將很難區分真假。你可以想像特朗普的支持者或拜登的支持者如何利用這項技術使對手看起來很糟糕。”布魯金斯學會技術創新中心的高級研究員Darrell West 說。
“可能會有一些東西在大選前夕降落，但沒有人有機會將其解決。”
研究技術對社會影響的非營利組織人類技術中心（Center for Human Technology）的聯合創始人Aza Raskin 說，隨著科技行業參與人工智能軍備競賽，能夠產生深度假象的工具正在被發布，而防止有害錯誤信息的護欄很少，或不完善。
前總統唐納德特朗普將與德桑蒂斯和其他人爭奪共和黨提名以對抗拜登，他本月早些時候在他的社交媒體平台Truth Social 上分享了CNN 主播Anderson Cooper 的篡改視頻。
“那是特朗普總統在CNN 現場總統全體會議上給我們開的一個新玩笑，”Cooper 在錄像中說，儘管這些話與他的嘴唇動作不一致。
CNN 稱該視頻是深度造假。特朗普的代表沒有回應對該片段發表評論的請求，該片段本週仍在他兒子小唐納德的推特頁面上。
雖然像Facebook、Twitter 和YouTube 這樣的主要社交媒體平台已經努力禁止和刪除深度造假，但它們在監管此類內容方面的效果各不相同。
DALL-E 不可深度偽造特朗普，但彭斯可以
根據致力於檢測合成媒體工具的DeepMedia 公司的數據，與2022 年同期相比，今年網上發布的各種視頻深度造假數量是之前的3 倍，語音深度造假數量更是達到了8 倍。
DeepMedia 估計，2023 年，全球將有大約50 萬個深度造假的視頻和語音在社交媒體網站上分享。該公司表示，直到去年年底，克隆一個聲音需要花費1 萬美元的服務器和人工智能訓練費用，但現在初創公司提供的服務只需幾美元。
據受訪者稱，沒有人確定生成式人工智能的道路會通向何方，也沒有人確定如何有效地防範其傳播大規模錯誤信息。
行業領導者OpenAI 最近幾個月通過發布ChatGPT 和更新模型GPT-4 改變了遊戲規則，它自己也在努力解決這個問題。首席執行官Sam Altman 本月在國會表示，選舉誠信是一個“值得關注的重要領域”，並敦促迅速對該行業進行監管。
根據路透社對6 家提供生成式AI 服務的領先公司的使用條款的分析，與一些小型創業公司不同，OpenAI 已經採取措施限制其產品在政治領域的使用。
不過，這些護欄還是有漏洞的。
例如，OpenAI 說它禁止其圖像生成器DALL-E 創建公眾人物。的確，當路透社試圖創建特朗普和拜登的圖像時，該請求被阻止了，並出現消息稱“可能不符合我們的內容政策。”
然而，路透社卻能夠通過DALL-E 創建至少十幾個其他美國政治家的圖像，包括前副總統邁克- 彭斯，而他也在權衡2024 年的白宮競選。
此外，OpenAI 還限制將其產品用於政治目的的任何“大規模”使用。例如，禁止使用其人工智能向選民大規模發送個性化的電子郵件。
這家由微軟支持的公司在採訪中向路透社解釋了其政治政策，但沒有回應關於其政策中的執行差距的進一步評論請求，例如阻止政治家的圖像創作。
而幾家較小的初創公司對政治內容沒有明確的限制。
去年推出的Midjourney 是AI 生成圖像的佼佼者，其官方Discord 服務器上有1600 萬用戶。據受訪的四名人工智能研究人員和創作者稱，該應用根據圖片數量和速度等因素，每月收費從免費到60 美元不等，由於其能夠生成超現實的名人和政治家圖片，因此成為了AI 設計師和藝術家的最愛。
Midjourney 沒有對本文的評論請求作出回應。在上週Discord 的一次在線聊天中，首席執行官David Holz 表示，該公司可能會在選舉前做出改變，以打擊錯誤信息。
Holz 補充說，Midjourney 希望在行業解決方案上進行合作，以實現人工智能生成的圖像的可追溯性，其數字相當於水印，並將考慮阻止政治候選人的圖像。
共和黨使用AI 生成廣告
就在整個行業為如何防止濫用而苦苦思索之際，一些政治人物正在尋求利用生成式AI 的力量為競選活動增色。
到目前為止，美國唯一備受矚目的AI 生成的政治廣告是共和黨全國委員會在4 月底發布的一個廣告。共和黨全國委員會披露，這則30 秒的廣告完全是由人工智能生成的，它使用了虛假的圖像，暗示如果拜登連任，會出現災難性情景。
共和黨全國委員會沒有回應關於對該廣告或其更廣泛地使用AI 的評論請求。民主黨全國委員會也拒絕就其對該技術的使用發表評論。
路透社調查了所有共和黨總統競選活動對人工智能的使用情況。儘管Nikki Haley 的團隊說他們沒有使用這項技術，而希望渺茫的候選人Perry Johnso 的競選團隊說它正在使用人工智能進行“副本生成和迭代”，但沒有提供進一步的細節。
生成式人工智能用於製作競選郵件、帖子和廣告的潛力對一些活動家來說是不可抗拒的，他們認為這種低成本的技術可以在選舉中創造公平的競爭環境。
即使在密歇根州Hillsdale 的農村，機器智能也在進行中。
密歇根州第五國會選區的共和黨主席Jon Smith 正在舉行幾次教育會議，以便他的盟友能夠學習使用人工智能進行社交媒體和廣告生成。
“人工智能幫助我們與巨擘對弈，”他說。 “我看到了地方競選中最大的上升勢頭。一個65 歲的農民和縣委書記，很容易被年輕勢力利用並參加初選。”
此外，政治諮詢公司也在尋求利用人工智能，進一步模糊真實與虛幻之間的界限。
Numinar Analytics 是一家專注於共和黨客戶的政治數據公司，創始人Will Long 在接受采訪時說，該公司已經開始嘗試用人工智能生成音頻和圖像內容，以及語音生成，以便有可能用候選人的聲音創建個性化的信息。
民主黨民調和戰略集團Honan Strategy Group 同時也在嘗試開發人工智能調查機器人。它希望在2023 年市政選舉前推出一個女性機器人，首席執行官Bradley Honan 說，研究表明男性和女性都更願意與女性採訪者交談。
展開全文打開碳鏈價值APP 查看更多精彩資訊