如何更好的推動針對新型人工智能技術的“敏捷治理”？
作者：傅宏宇
ChatGPT的火爆，讓人們感受到新型人工智能技術越來越迫近我們的日常生活。未來，人工智能可能會成為重要的生產力，改變我們的生活。在進入未來世界之前，我們也在思考如何更好的治理人工智能技術，讓發展和治理同步進行、共同迭代。
近年來，中國針對人工智能技術可能帶來的風險，出台了相關法律和政策要求，科技企業也努力加強風險控制，接受社會監督。如何更好的推動針對新型人工智能技術的“敏捷治理”？如何在有效應對技術不確定的同時，激發創新活力，加強國際競爭力和技術影響力？
要回答這些問題，首先要了解新型人工智能技術帶來了哪些挑戰。
挑戰一：“共同無知”
“共同無知”是指治理者和被治理者都不確定治理對象帶來的風險和挑戰。傳統治理範式中，治理者和被治理者信息不對稱。治理者對技術研發應用了解較少，需要通過算法透明等方式，理解技術過程和技術後果，採取相應治理機制。但新一輪人工智能技術發展迭代迅速，各方面臨的問題更多是，對技術發展變化和影響後果共同無知。
以前，算法透明在很大程度上能夠讓各方了解技術特點及其結構，理解技術原理及負面影響。但以ChatGPT為代表的新型人工智能技術模型複雜、底層原理缺乏明確理論解釋，給治理提出新的挑戰。
另外，傳統科技治理以先驗式為主，也就是在風險識別的基礎上，分類分級建立治理框架，採取預防性制度規則防範風險。但ChatGPT為代表的新型人工智能技術可解釋性差、風險情況未知、發展前景無法預知的情況，必須要探索新的治理模式。
挑戰二：“目標模糊”
“目標模糊”是指作為最普遍應用的新型技術，人工智能的廣泛影響使得治理目標呈現多元化特點。人工智能技術快速迭代，應用場景也越來越廣泛，要用更加包容的態度面對問題，設定多元、合理、具備包容性的治理目標。
以前，人們擔心基於內容生成類算法被用於換臉等深度偽造，給信息安全及其相關的肖像權、財產權帶來危害。現在，隨著ChatGPT出現和應用，很多專家也開始擔心技術落後於人會帶來的風險，呼籲通過更好的治理手段來解決數據、算力等發展堵點。
技術快速發展也要求動態模糊治理工具的運用範圍，利用合規、可信的技術對技術本身進行治理和約束，實現多樣化的治理效果。例如，數字水印技術開始是DRM（數字版權管理）機制的一種，被用於保護內容的著作權；隨著深度合成技術發展以及普及，該項技術逐漸被應用於虛假內容治理領域，避免用戶混淆、誤認，並實現生成內容可追溯、可檢測。治理工具的效果隨技術發展呈現多樣化特點，其使用方式和使用效果也是多元的。對治理工具的選擇和確定需要考慮到這種模糊性，避免過於嚴格、單向度工具的設計和使用，並在過程中動態調整。
挑戰三：“關係依賴”
“關係依賴”是指多類型主體參與“人工智能生成內容（AIGC）”，造成“牽一發而動全身”的多元主體的治理困境。傳統治理範式下治理者和被治理者身份清晰，社會公眾等利益相關方較少參與。但以ChatGPT為代表的通用人工智能技術主體多元，包括內容服務提供方、作為數據提供方的用戶以及提供通用人工智能的技術支持者等。
人工智能治理不是二元對立的雙邊關係，需要各方互相依賴、共同探討，需要各類主體發揮自身治理能力優勢，取長補短，形成綜合全面的共治體系。例如，可以構建開源開放的社區環境，逐步形成自律自治的技術共同體，加強預判風險能力，有效補充外部監管。另外，由於人工智能設計倫理問題，通過多方參與形成共識的方式開展倫理治理，主動接受社會監督，有助於達成共識、建立信任。
應對方略：敏捷治理
面對上述挑戰，應當如何有效的治理ChatGPT，讓它的創新能力可信可控可靠，服務人類福祉和數字經濟高質量發展？
以往，科技治理的主要範式有兩種：包容性自規制和規制性監管。包容性自規制範式的核心思路是“避風港規則”，是一種通知—刪除規則為核心的企業自律和結果責任體系。它形成於20世紀80年代，為上世紀末開始的快速發展變革浪潮提供了治理模式基礎。很明顯，這種治理方式下會產生較多侵權問題。規制性監管的特點是嚴格風險管控，例如在完整、全面的監管風險評估前禁止藥品上市等，並對技術使用過程進行較強的穿透性監管。
以ChatGPT為代表的新型人工智能技術快速迭代並帶來重重挑戰的背景下，上述兩種範式明顯無法契合新技術治理的目標和訴求。這就需要一種新的治理範式：敏捷治理。
敏捷治理的核心是多方共治和反饋迭代：涉及復雜參與主體和利益相關者的治理場景依賴多方共同參與達成共識，而面對複雜多變的治理問題，無法事前得到完善的治理規則，需要在治理和技術迭代的共同實踐中不斷反饋更新治理框架。敏捷治理理念更為契合人工智能技術特點，能更有效地達到治理目標。
針對以ChatGPT為代表的新型人工智能技術帶來的三大挑戰，敏捷治理可以通過共同學習解決共同無知的問題，通過同行評議解決目標模糊的問題，通過反饋迭代解決關係依賴的問題。
共同學習可以充分考量各方的不同利益訴求，借鑒科學決策的方法，通過標準化的科學方式開展成本收益評估，運用比例原則避免治理手段的絕對化。
同行評議能夠發揮專家知識的作用，評議本身屬於探索性的柔性治理方式，其靈活性和專業性能夠得到保障，評議過程中可以考慮運用監管沙箱等實驗主義治理方式。
反饋迭代能夠充分考慮實踐中得到的有效信息，逐漸理清、撥開復雜的主體間依賴關係，明確治理問題及治理目標，充分發揮各方積極性，形成互信、合作、敏捷的治理共同體。
（本文根據2023年3月18日中國法學會網絡與信息法學研究會第三次會員大會暨學術年會人工智能法治論壇發言內容整理）
展開全文打開碳鏈價值APP 查看更多精彩資訊