記者邢萌田鵬
圖片來源：由無界AI工俱生成
4月11日，國家互聯網信息辦公室就《生成式人工智能服務管理辦法（徵求意見稿）》（以下簡稱《徵求意見稿》）公開徵求意見。
《徵求意見稿》重點強調了生成式人工智能產品訓練數據及生成內容的真實性。其中，就提供生成式人工智能產品或服務作出五大要求，提出“利用生成式人工智能生成的內容應當真實準確，採取措施防止生成虛假信息”。同時，也對產品的訓練數據作出五項要求，提出“能夠保證數據的真實性、準確性、客觀性、多樣性”。
“《徵求意見稿》的出台，意味著AI行業的標準化步伐正加快，AIGC產業可持續發展的政策紅利期即將來臨。”中關村智能科技發展促進會副會長兼首席數字經濟學家陳曉華在接受《證券日報》記者採訪時表示，從相關條例可以看出，我國極為重視此輪AI所引領的科技變革，有關部門在鼓勵自主創新、推廣應用、國際合作的同時，也致力於避免“先污染後治理”的困境。
強調生成內容真實性
隨著ChatGPT火爆市場，大眾對生成式人工智能技術的認知程度不斷提升，激發市場需求的同時，也加速了相關企業佈局。
不過，AIGC行業發展也面臨著虛假信息的困擾。中國信息通信研究院和京東探索研究院發布的《人工智能生成內容（AIGC）白皮書（2022年）》顯示，近年來，隨著人工智能技術不斷成熟，機器深度學習後生成的內容愈發逼真，能夠達到“以假亂真”的效果。
在此背景下，《徵求意見稿》著重強調了生成式人工智能產品訓練數據及生成內容的真實性。
“這將引領’可信’生成式人工智能服務的發展。”大成律師事務所高級合夥人肖颯對《證券日報》記者表示，對於生成式人工智能服務來說，“可信”是最難以達成的。核心問題指向服務生成內容可信程度的波動化，一時超常的準確表現，一時難以分辨的潛藏錯誤，是阻礙對該類服務賦予更多信任的主要原因。
此外，《徵求意見稿》對用於生成式人工智能產品的預訓練、優化訓練數據也進行了明確要求：一是要符合《中華人民共和國網絡安全法》等法律法規的要求；二是不含有侵犯知識產權的內容；三是數據包含個人信息的，應當徵得個人信息主體同意或者符合法律、行政法規規定的其他情形；四是能夠保證數據的真實性、準確性、客觀性、多樣性；五是國家網信部門關於生成式人工智能服務的其他監管要求。
對此，肖颯認為，對服務背後的數據進行統一要求，最直接的意義便是對模型輸入端進行優化，從而盡可能地保證輸出端內容的純淨性、準確性。從長遠來看，這是對整個數據相關產業鏈提出的新要求，是對整個行業數據收集、傳輸、交易、檢驗、維護與保護的全面規制，也符合現行立法對數據處理的各方面要求，能夠極大程度地防止後續違法行為的發生。
《比較》雜誌研究部主管陳永偉對《證券日報》記者表示，總體來看，《徵求意見稿》相關要求給生成式AI發展劃定界限的同時，也為其留下了充分的發展空間，從而揚長避短，將技術發展的正向作用發揮到最大。
服務前應申報安全評估
在國內AIGC發展早期做好合規工作，可為行業後續穩健發展保駕護航。據《證券日報》記者不完全梳理，截至目前，已有百度、華為、騰訊、阿里、京東、360等互聯網企業佈局生成式人工智能業務，並且部分企業已經推出相應產品。
“生成式人工智能快速發展，帶來了諸多信息安全方面的風險。”平安證券研報表示，一方面，信息洩露風險，大量的敏感數據和AI交互之後，可能會被應用於迭代訓練，造成敏感信息的洩露，尤其是國家、機構和個人信息，都面臨著潛在風險；另一方面，AIGC被惡意應用的風險也在上漲，可能被應用於惡意代碼生成，發展智能化網絡攻擊武器，加大了網絡安全防護難度。
深圳市信息服務業區塊鏈協會會長鄭定向對《證券日報》記者表示，生成式人工智能產品目前僅是一個機器程序，沒有法律主體身份和行為能力，但如果被用來執行非法行為，例如攻擊計算機系統、盜竊數據或參與欺詐等，就會成為犯罪行為的工具或手段。基於此，為了確保人工智能的合法性和公正性，需要對提供生成式人工智能產品或服務進行必要的法律約束。
為此，《徵求意見稿》強調生成式人工智能產品的安全性。 《徵求意見稿》提出，國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先採用安全可信的軟件、工具、計算和數據資源。但利用生成式人工智能產品向公眾提供服務前，應申報安全評估。
鄭定向表示，生成式人工智能技術和產品的發展歸根結底是為了服務於人，科學、嚴密的法律規範是發展過程中必不可少的重要環節。
平安證券表示，新技術發展和監管合規是相輔相成的關係，離不開監管在機制體制建設上的完善，以及產業政策引導。同時，監管政策也正在積極適應信息技術的革新。尤其是AIGC面世以來，監管機構對數據處理主體、數據處理過程以及伴隨的國家安全和信息安全的認識也在逐步清晰。預計隨著更多AIGC技術的應用落地，一些潛在的風險將更多被認識和暴露，監管側的監管措施也會更“對症”，《徵求意見稿》只是第一步。
資訊來源：由0x資訊編譯自8BTC。版權歸作者所有，未經許可，不得轉載