PANews 10月13日消息，全國資訊安全標準化技術委員會在其官網發布《生成式人工智慧服務安全基本要求》（徵求意見稿），現正面向社會公開徵求意見。意見/建議收集截止時間為2023年10月25日24:00。據悉，這是國內首個專門針對生成式AI安全領域的規範意見稿，也是對7月網信辦等七部門推出的《生成式人工智慧服務管理暫行辦法》的支援。
徵求意見稿首次提出生成式AI服務提供者需遵循的安全基本要求，涉及語料安全、模型安全、安全措施、安全評估等面向。
1.在語料安全要求方面，徵求意見稿從來源安全、內容安全、標註安全三方面提出了要求。提供者要建立語料來源黑名單，單一來源語料內容中含違法不良資訊超過5%的就要「拉黑」。
2.在模型安全要求方面，徵求意見稿從基礎模型使用、生成內容安全、服務透明度、內容生成準確性、內容生成可靠性五大方面做出了嚴格要求。不應使用未經主管機關備案的基礎模型，應在網站首頁等顯著位置向社會公開第三方基礎模型使用情況等資訊。
3.在安全措施要求方面，徵求意見稿從模型適用人群、場合、用途，個人資訊處理，手機使用者輸入資訊用於訓練，圖片、影片等內容標識，接受公眾或使用者投訴舉報，向使用者提供生成內容，模型更新、升級，這七大方面提出了要求。
4.在安全評估要求方面，徵求意見稿從評估方法、語料安全評估、生成內容安全評估、內容拒答評估四方面給出了十分具體的參考。例如：在語料安全評估方面，提供者對語料安全狀況進行評估時，要採用人工抽檢，從全部訓練語料中隨機抽樣不少於4000條語料，合格率不應低於96%。
5.此外，徵求意見稿也提出了一些其他要求，涉及關鍵字庫、分類模型、產生內容測試題庫、拒答測試題庫等面向。
