史丹佛曝光LAION-5B 內含“兒童性虐待內容”，Stable AI 曾使用此資料集訓練模型

根據IT 之家援引彭博社報道，斯坦福大學近日針對開源模型訓練數據集LAION-5B 展開研究，發現該數據集中存在3000 項“可疑的兒童性虐待內容”，之後LAION 項目維護人員緊急下架了LAION- 5B，並聲稱已經移除了1008 項「確鑿的相關內容」。報導稱，LAION-5B 訓練集總共擁有58.5 億項圖片訊息，Stability AI 曾利用LAION 資料集來訓練自家AI 模型，從而為用戶提供「文生圖服務」。對此，Stability AI 迅速向媒介回應，“Stable Diffusion 模型雖然使用LAION-5B 進行訓練，但採用的是’經過篩選及微調過的’訓練集版本，因此’並不會影響模型輸出結果’” 。