在Merchant Payments Ecosystem 2024 的獨家採訪中，Sift Brittany Allen 的信任和安全架構師與Finextra 討論了欺詐領域的新挑戰，以及社交媒體上錯誤訊息的傳播如何成為人工智慧驅動技術的主要問題。
Allen 擁有在Etsy、Airbnb 和1stDibs 詐欺部門工作的經驗，她解釋了她如何將詐欺不同方面的豐富知識帶入金融領域。從電子商務到奢侈品欺詐，她表示數位市場上的欺詐方式比想像的要多。艾倫甚至提到，在進行奢侈品詐騙時，他們設法避免被Netflix 出名的臭名昭著的騙子安娜·德爾維(Anna Delvey) 欺騙。
艾倫指出，目前詐欺的常見趨勢是「退款」或「退貨詐欺」。她也表示，消費者教育對於電子商務企業和金融機構至關重要，尤其是當詐騙者像現在這樣活躍時。消費者越來越傾向於詐欺影響者，他們參與詐欺即服務經濟，詐騙者透過分享他們的技能來賺錢。
「在舊模式中，他們可能會進入暗網上的網站，獲取一些被盜的信用卡，然後能夠使用這些信用卡購買東西，這就是他們實施欺詐的方式。 而現在，如果他們進入深層網絡，使用Telegram 等安全訊息應用程序，他們可以與更廣泛的受眾建立聯繫。 也許他們會透過指導如何進行退款詐欺來增加這些信用卡的銷售，或者出售如何利用網站並在那裡實施欺詐的指南或聖經。
「我們還在表面網絡上看到更多的欺詐言論，這就是他們在Telegram 上招募人員的方式。 例如，如果您是一個對欺詐不太了解的普通人，您在TikTok 等社交媒體上尋找仿冒商品，卻陷入了人們宣傳退款詐欺的管道。 然後，這還會在您的「為您」頁面上顯示更多有關被盜支付方式和被盜帳戶的實際詐欺的建議，並且通常招聘人員有一個Telegram 鏈接，可以將人們帶到這些渠道。”
艾倫表示，企業如何能夠發現這種詐欺行為是具有挑戰性的。例如，在TikTok 上，影響者可能不會談論非法內容，而是將其包含在標題、影片中的橫幅、螢幕上的文字方塊或其他使其更難以檢測的方式中。
談到用於欺騙騙子的人工智慧和深度造假技術的話題，艾倫表示，考慮到欺騙一小部分人所需的努力，專門模仿親密朋友或家人的技術不太可能。然而，模仿名人或知名人士來獲取資金，例如向慈善機構尋求捐款，是一個很大的威脅。
她進一步詳細說明了錯誤訊息傳播的速度：「在這個選舉週期中，我們都必須格外警惕。 這是美國第一次可以輕鬆使用人工智慧工具的重大聯邦選舉。 絕對會有政黨候選人說瘋狂的話、做瘋狂事的深度造假，它可能是也可能不是由反對黨產生的，也可能是由另一個政府產生的。外部政黨可能會以這種方式乾預選舉，但這將會發生。 希望檢測它的能力能夠超過它的傳播速度，因為我知道會有一些人看到它，但他們不會認識到它是生成人工智慧。”
即使是本週發布的凱特王妃及其家人被篡改的照片的病毒式傳播也表明，人們需要更仔細地關注社交媒體上哪些來源被認為是值得信賴的。艾倫強調了進行研究的意義，並表示最初人們會滾動瀏覽照片，但新聞來源的進一步調查顯示並非如此。
在談到金融機構和商家應採取哪些措施來防止支付詐欺時，艾倫詳細介紹道：「商家和金融機構看到的是可靠的資料集，但彼此之間的資料卻截然不同。商家將能夠看到特定客戶在其網站上所做的所有操作：他們了解瀏覽活動、已添加到收藏夾的商品、放入購物車和從購物車中取出的商品、瀏覽模式等等，因此他們能夠以確定詐欺行為。金融機構看不到任何這些，但他們看到的是你的整個其他支出模式。 他們知道你去過哪裡、你通常什麼時候購物、你如何與他們的應用程式互動，以及你可能會點擊什麼樣的交易。
「他們需要做的一件事是在可能的情況下建立合作，以便能夠彌合這一差距，從而增強他們評估風險的能力以及消費者獲取風險的能力。Sift 正在與一家特定的發卡銀行合作來實現這一點並共享數據，這非常重要。”
她補充說，當談到金融機構防止向詐騙者付款的責任以及銀行有權禁止付款時，仍有許多問題需要解決，監管機構仍在努力解決這些問題。
關於使用人工智慧和機器學習進行詐欺檢測和預防，艾倫表示，她最擔心的是資料集是公正的，並確保不會做出歧視性決策。
「有人談論一個沒有欺詐的未來，但我認為這是不可能的。 然後，您將拒絕好的客戶，您需要在風險承受能力之間取得平衡，以決定您願意允許多少欺詐行為，而不是侮辱太多客戶，因此這仍然是預防的討論。 我真的希望行業能夠朝著商家更容易獲取和理解的方向發展，並且透明，以便他們理解為什麼決策是透過機器學習模型或人工智慧驅動模型做出的。 然後，商家將能夠了解做出該決定的原因，以及他們可以採取哪些措施來改變期貨交易的決定。”
資訊來源：由0x資訊編譯自FINEXTRA。版權所有，未經許可，不得轉載
0X簡體中文版：MPE 2024：人工智慧驅動的錯誤訊息與消費者詐欺教育