影像生成AI 技術DALL-E 3 易受越獄攻擊，產生兒童吸菸照片

2023-10-23

根據站長之家10 月23 日報道，OpenAI 圖像生成AI 技術DALL-E 3 被發現容易受到越獄提示的影響，導致生成了兒童吸煙的照片。越獄技巧是由LinkedIn 用戶Peter Gostev 發現的，他分享瞭如何成功繞過AI 的限制來產生有關兒童吸煙的圖像。儘管越獄提示相當複雜，但這個事件提醒人們即使是矽谷最富有的公司也難以為其AI 系統建立全面的防護措施。