新罕布夏州司法部已經確定了人工智慧產生的誤導性機器人電話的來源，這些機器人電話聽起來像是美國總統喬·拜登的聲音，揭示了德克薩斯州一家公司Life Corporation 和一個名叫沃爾特·蒙克(Walter Monk) 的個人的參與。
總檢察長約翰·福梅拉(John Formella) 宣布，總檢察長辦公室選舉法部門發現了這些自動資訊的來源，該資訊旨在透過指示新罕布夏州選民不要參加1 月23 日的初選來影響2024年總統選舉。
這些機器人電話被州總檢察長辦公室視為錯誤訊息，利用人工智慧深度偽造工具創建欺騙性音訊內容。 AI Deepfake 工具利用先進的演算法來產生高度逼真但捏造的數位內容，例如影片、錄音或影像。
在一月中旬有關壓制選民電話的報道的推動下，與州和聯邦合作夥伴（包括反機器人電話多州訴訟工作組和聯邦通信委員會執法局）合作發起了一項調查。
選舉法部門向Life Corporation 發出停止令，指控其違反新罕布夏州有關賄賂、恐嚇和鎮壓的法律，要求立即遵守規定，並保留採取進一步執法行動的權利。
調查人員追蹤到德克薩斯州電信提供商Lingo Telecom 的電話，並採取了行動，美國聯邦通信委員會還向Lingo Telecom 發出了一份停止函，指控其支持涉及人工智能生成語音克隆的非法機器人呼叫流量。
FCC 主席 Jessica Rosenworcel 提議將人工智慧產生的聲音電話歸類為非法，並受到《電話消費者保護法》中規定的處罰，以回應人們對深度造假技術及其濫用可能性的日益擔憂。
深度造假的氾濫在全球敲響了警鐘，世界經濟論壇和加拿大安全情報局等組織就人工智慧在數位平台上產生的虛假資訊活動的不利影響發出警告。
隨著調查的繼續和監管措施的提出，該事件凸顯出迫切需要採取強有力的保障措施，防止人工智慧技術濫用影響民主進程。
我們很榮幸能夠加入這項努力，保護消費者免受人工智慧生成的機器人電話的侵害，並向這家位於德克薩斯州的相關公司發送了停止函。 https://t.co/qFtpf7eR2X https://t.co/ki2hVhH9Fv
— FCC (@FCC) 2024 年2 月7 日
資訊來源：由0x資訊編譯自COINNOUNCE。版權所有，未經許可，不得轉載