富士通推出兩項AI 信任技術保護對話型AI 免受幻覺和對抗性攻擊

根據站長之家報道，富士通於今日宣布推出兩項新的人工智慧（AI）信任技術，旨在提高對話型人工智慧模型的可靠性，從而增強其在各種用例中的安全性。第一項技術旨在高度精確地偵測對話型人工智慧回覆中的幻覺。第二項技術旨在偵測對話型人工智慧回覆中植入的網路釣魚網址。這兩項新技術將納入富士通的對話型人工智慧核心引擎中，透過「富士通Kozuchi（代號）- 富士通AI 平台」提供給用戶，使用戶可以存取廣泛的強大人工智慧和機器學習技術。檢測對話型人工智慧中的幻覺的技術將於9 月28 日起提供給日本用戶，而檢測對話型人工智慧回覆中的網路釣魚網址的技術將於2023 年10 月起提供。這兩項新技術將透過Kozuchi 提供給企業用戶作為演示環境，並透過專用入口網站提供給個人用戶。富士通計劃將這兩項新技術未來推廣到全球市場。