OpenAI 安全漏洞曝光：使用不常見語言可輕易繞過ChatGPT 的限制

2023-10-12

根據IT 之家10 月12 日消息，布朗大學的電腦科學研究人員發現了OpenAI 的GPT-4 安全設定中的新漏洞。他們利用一些不太常見的語言，如祖魯語和蓋爾語，即可以繞過GPT-4 的各種限制。研究人員使用這些語言來寫通常受限的提示詞（prompt），發現得到回答的成功率為79%，而僅使用英語的成功率不到1%。