人工智慧和所有新興技術都需要權衡利弊。人工智慧通常被稱為一把雙面刃，因為它在啟動創新的同時也存在潛在風險。
最近，英國電信巨頭O2 推出了“AI Daisy”，以打擊冒充可愛、健談奶奶的詐騙者。在YouTuber Jim Browning 的幫助下開發的AI 是否為其自身風險提供了對策？
AI雛菊是誰？
人工智慧一直是2024 年的主題，但人們對人工智慧取代工作、超越現有軟體以及產生隱私和道德問題的擔憂也在爭論之中。然而，一家名為O2 的英國電信公司透過一項新的活動淡定地應對了這場爭論。
O2 在“Swerve the Scammers”活動中推出了“AI Daisy”，以浪費騙子的時間。如果騙子都忙著跟AI奶奶說話，哪有時間去騙真人呢？黛西的工作似乎是與詐騙者進行長時間、毫無意義的對話，讓他們忙碌起來。她強調，「親愛的，讓我們面對現實吧，我有足夠的時間。」該公司還鼓勵人們舉報詐騙號碼，以幫助黛西識別更多詐騙者。
黛西在廣告中還說：“騙子們，你們好。我是你最可怕的噩夢。”
地獄沒有像被騙的人工智慧奶奶那樣憤怒。觀看黛西浪費詐騙者的時間，這樣他們就無法欺騙您。
👉舉報詐欺電話和簡訊至7726 pic.twitter.com/hkNMDqG87b
– O2 (@O2) 2024 年11 月15 日
吉姆·布朗寧(Jim Browning) 經常因在YouTube 頻道上揭露詐騙者而聞名，他也參與了AI Daisy 的訓練。在接受天空新聞採訪時，他解釋說，人工智慧是使用真實的詐騙電話錄音進行訓練的，其中許多錄音來自他的YouTube 影片。布朗寧還透露，他花了數年時間向騙子錄音和學習，以了解他們的技術。據虛擬治安維護者稱，黛西讓詐騙者浪費了時間和資源，可能會降低詐騙的利潤。
人工智慧是一把雙面刃
新興技術正在拯救人們，因為它的一部分使詐騙變得更加簡單。根據Truecaller 的報告，光是2023 年，詐騙者就影響了5,620 萬美國成年人。據報道，平均每4 人就有1 人損失了452 美元。報告也發現，與年輕人相比，老年人更容易成為目標，但後者被騙的風險更高。
曾在AI Daisy 廣告中工作過的影響者艾米·哈特(Amy Hart) 表示：「我親眼目睹了欺詐者的狡猾程度。」與此同時，職業介紹所帕爾默集團(Palmer Group) 首席執行長雪莉·帕爾默(Shelly Palmer) 希望自己能想到這個主意。儘管對這個想法感到興奮，但這位高層警告說，語音克隆是一種危險的技術，因為詐騙者可以利用它來冒充他人。他建議家人在接到不尋常請求的電話時使用「安全詞或短語」來驗證身分。
2022年至2032年人工智慧市場規模|資料來源：AIPRM
據報道，人工智慧語音克隆和深度偽造技術在模仿真人方面幾乎是真實的。 Sift 的安全團隊在部落格中透露，人工智慧會分析數據來識別潛在的受害者及其漏洞。一旦確定目標，詐騙者就會利用情緒觸發和故事來掠奪資金。 O2的Daisy是針對利用AI進行詐騙的對策。因此，AI Granny Daisy 不僅智勝了騙子，還解決了3 個主要技術問題。
首先，人工智慧語音克隆會帶來隱私風險，因為詐騙者現在可以冒充真人。黛西設法超越劇本。其次，批評者質疑人工智慧對社會的倫理影響。該活動具有積極的目的，並解釋了負責任地使用人工智慧的必要性。最後，人工智慧對人類工作的影響是所有對話中最重要的。 2024 年，AI Daisy 正在處理一項曾經需要人工幹預的任務。儘管人工智慧減少了客戶服務中的人際互動，但一些分析師仍然認為它被高估了。
儘管如此，AI Virgin Media O2 表示，它已「投入巨資」打擊欺詐，據報道，Daisy 已成功讓狡猾的來電者同時佔用40 分鐘的時間。
資訊來源：由0x資訊編譯自CRYPTOPOLITAN。版權歸作者Sharma所有，未經許可，不得轉載