專家對ChatGPT 等平台中的AI 幻覺表示擔憂

根據站長之家10 月17 日報道，專家們對熱門平台如ChatGPT 等AI 程式的幻覺現象提出了擔憂。 AI 幻覺是指訊息看似正確，但實際上是不準確的現象。 ChatGPT 等平台出現提供不準確資訊的情況。例如，杜克大學圖書館指出存在虛假引用的問題，福布斯發表了一篇新聞報道，指出ChatGPT 透過虛假摘要愚弄了科學家，而《財富》雜誌引用了一項研究，顯示ChatGPT 在回答數學問題時的準確率從98% 下降到僅為2%。針對是否ChatGPT 是在編造資訊、錯誤解釋資料或依賴錯誤訊息的問題，ChatGPT 的回應是，它的回應是基於其在截至2021 年9 月最後更新前所訓練資料和輸入的模式生成的。然而，如果輸入資料或查詢有缺陷，AI 模型可能會產生不正確或不準確的訊息，但這與傳統意義上的幻覺並不相同。