亞馬遜新推出的人工智慧聊天機器人Amazon Q 正受到審查，因為員工對嚴重幻覺和機密資料外洩表示擔憂。洩漏的文件顯示，Q 正在洩露敏感訊息，包括AWS 資料中心的位置、內部折扣計劃和未發布的功能。儘管亞馬遜淡化了員工回饋的重要性，但該事件被標記為嚴重，需要工程師加班來解決問題。
亞馬遜最新的人工智慧專案Amazon Q 在發布後僅三天就面臨著風暴般的批評。
員工們對聊天機器人出現嚴重幻覺和洩漏機密資料（從AWS 資料中心的位置到內部折扣計劃和未發布的功能）表示擔憂。
標記為「嚴重2」的事件凸顯了情況的嚴重性，促使工程師不懈地努力解決問題並避免潛在的影響。這種意想不到的發展給亞馬遜在快速發展的人工智慧領域保持競爭力的努力蒙上了陰影。
為了反駁人們認為微軟和谷歌等競爭對手在尖端人工智慧能力的競爭中超過了亞馬遜，這家線上零售商公佈了對人工智慧新創公司Anthropic 高達40 億美元的巨額財務承諾。
此舉為年度亞馬遜網路服務開發者大會奠定了基礎，該公司在會上展示了Amazon Q——這是其一系列人工智慧計畫中備受期待的補充。
另請閱讀：亞馬遜推出人工智慧驅動的業務助理Amazon Q
Amazon Q 定位為ChatGPT 的企業軟體版本，承諾增強安全性和隱私功能，旨在超越市場上的消費級工具。
儘管亞馬遜在會議上對Q 做出了樂觀的描述，但隨著內部報告的浮出水面，圍繞新版本的興奮很快就變成了懷疑。
員工對Q 的準確性和隱私表示擔憂，顯示該聊天機器人沒有達到亞馬遜高層承諾的安全標準。
洩漏的文件詳細描述了嚴重幻覺的實例，Q 傳回了有害或不適當的回應。該事件被列為“2 級嚴重事件”，需要工程師緊急關注，凸顯了情況的嚴重性。
亞馬遜在回應內部討論時淡化了員工提出的擔憂的重要性。一位發言人強調，透過內部管道分享回饋是亞馬遜的標準做法，並聲稱回饋沒有發現任何安全問題。
該公司對收到的回饋表示感謝，並保證Q 將在從預覽版產品過渡到全面上市時進行微調。
內部文件揭示了Q 的幻覺和錯誤反應，暴露了與聊天機器人相關的潛在風險。文件中強調的一個值得注意的問題是Q 能夠傳回過時的安全訊息，從而對客戶帳戶構成威脅。
洩露的資料包括有關AWS 資料中心、內部折扣計劃和未發布功能的敏感詳細信息，這些資訊本應保密。
儘管被定位為ChatGPT 等消費級聊天機器人的安全替代品，但隨著員工對其安全和隱私功能表示擔憂，Q 的缺陷變得顯而易見。
亞馬遜網路服務執行長Adam Selipsky 先前曾表示，出於對安全和隱私的擔憂，許多公司已禁止在企業中使用AI 助理。為了應對這一行業挑戰，亞馬遜據稱將Q 設計得比以消費者為中心的同類產品更加安全和私密。
另請閱讀：萬事達卡推出人工智慧(AI) 購物聊天機器人Shopping Muse
然而，洩漏的內部文件表明，Q 可能無法免受困擾其他大型語言模型的問題的影響。
當亞馬遜應對Amazon Q 早期問題帶來的挑戰時，人工智慧聊天機器人的未來仍然不確定。高階主管的高期望和Q 缺陷的嚴峻現實並存，引發了人們對亞馬遜人工智慧開發方法有效性的質疑。
亞馬遜能否成功解決員工提出的擔憂並確保Q 履行其增強安全性和隱私性的承諾？只有時間才能證明亞馬遜是否能夠克服這些最初的挫折，並將Q 定位為人工智慧聊天機器人競爭格局中的強大參與者。
資訊來源：由0x資訊編譯自BITCOINWORLD。版權歸作者Sofiya所有，未經許可，不得轉載