來自Mindgard 和蘭卡斯特大學的人工智慧研究人員在一項突破性的發現中揭示了大型語言模型(LLM) 中的關鍵漏洞，顛覆了人們普遍認為其絕對正確的說法。該研究將於2023 年CAMLIS 上發布，重點關注廣泛採用的ChatGPT-3.5-Turbo，揭示了只需50 美元即可複製部分法學碩士的驚人輕鬆程度。這項發現被稱為“模型竊取”，引起了人們對潛在針對性攻擊、錯誤訊息傳播和機密資訊洩露的嚴重擔憂。
「模型竊取」威脅產業安全
Mindgard 和蘭卡斯特大學的研究團隊揭示了一個驚人的事實，強調了法學碩士容易遭受「模型竊取」的攻擊，這種攻擊方式允許在一周內以最低的成本複製這些先進人工智慧系統的關鍵要素。該研究將於2023 年CAMLIS 上發布，揭示了攻擊者利用這些漏洞的可能性，導致私人資訊外洩、規避安全措施以及傳播錯誤訊息。這項發現的影響超出了單一模型的範圍，對大力投資法學碩士技術的行業提出了重大挑戰。
LLM風險需要業界關注
在技術進步蓬勃發展的背景下，各行各業的企業都準備將大量財務資源（高達數十億美元）投入到開發適合各種應用程式的自己的語言模型（LLM）的複雜領域。在此背景下，Mindgard 和蘭卡斯特大學的受人尊敬的實體進行的啟發性的研究敲響了警鐘——如果你願意的話，這是一個號角。
雖然像ChatGPT 和Bard 這樣的法學碩士傑出人物擁有引入變革能力的誘人承諾，但勤奮的研究人員揭露的秘密漏洞極大地強調了對網路危險進行深刻和全面理解的迫切必要性，並將其帶到了最前線。與法學碩士的採用本質上是交織在一起的。
這些啟示不僅是一種智力練習，還迫切要求企業和科學界進行細緻的檢視。這種洞察力不僅對於敷衍承認至關重要，而且作為策略要務至關重要。它強調了採取主動措施（一種有先見之明的立場）的深遠意義，並提倡這些利益相關者在巧妙地駕馭人工智慧技術迷宮般且不斷發展的領域時進行審慎而明智的思考。
AI研究者詮釋LLM發展
Mindgard 和蘭卡斯特大學對領先法學碩士內部漏洞的揭露標誌著人工智慧和網路安全交叉的關鍵時刻。隨著各行業熱切地投資於自己的法學碩士的發展，這項研究提醒我們，除了變革性技術的前景之外，還存在著固有的風險。 「模型竊取」概念暴露了即使是最先進的人工智慧系統的脆弱性，敦促企業和科學家對法學碩士的採用和部署保持警惕，並對網路安全保持警惕。現在，業界有責任強化這些技術奇蹟，防止潛在的利用，確保在追求進步的過程中負責任、安全地利用人工智慧的力量。
資訊來源：由0x資訊編譯自CRYPTOPOLITAN。版權歸作者Aamir Sheikh所有，未經許可，不得轉載