據極目新聞報導，其援引《每日郵報》5月13日消息，一家西班牙小電影公司（Peabody Films）收到英國著名男星“卷福”本尼迪克特·康伯巴奇電話，稱對電影劇本感興趣想合作，但該電影公司幾次邀約見面，“康伯巴奇”都拒絕了，甚至還提出要該公司先給他打款20萬英鎊。該公司向“卷福”經濟公司確認後才發現，這是一場AI騙局。據電影工作人員介紹，僅從語音電話看，100%相似度，他們全完相信對方就是“卷福”。今年早些時候，微軟研究人員展示了一種文本轉語音AI模型“VALL-E”，該模型只需3秒鐘音頻，就可以合成任何人的聲音，保留說話者的情緒基調，並可以說出任何內容。 AI專家阿列克謝·希特羅夫曾向媒體表示，AI生成的虛假圖像和聲音已經被廣泛用於商業欺詐。網絡安全公司邁克菲則發現，在美國、英國、法國、德國、日本、澳大利亞和印度，有10%的人曾被人工智能語音詐騙。
dark