隨著人工智慧（AI）快速發展，Anthropic 呼籲針對性監管以降低風險，促進創新。該公司提出負責任的擴展政策（RSP），主張根據AI能力調整安全措施，確保應對潛在威脅。 Anthropic 強調應優先考慮透明度、安全實踐和簡單性，要求公司發布類似政策以增強監管有效性。儘管聯邦監管理想，但面對緊迫風險，州級行動也可能必要。透過設計合理的監管框架，Anthropic 希望最大限度地減少風險，同時推動AI技術的進步和應用。
艾里斯·科爾曼十一月01, 2024 08:46
Anthropic 強調，隨著人工智慧能力的快速成長，需要有針對性的人工智慧監管，以在利用效益的同時降低風險。該公司概述了其負責任的擴展政策，作為主動安全措施的典範。
隨著人工智慧（AI）系統的快速發展，越來越多的人呼籲有針對性的監管，以在不扼殺創新的情況下解決潛在風險。領先的人工智慧研究公司Anthropic 表示，世界各國政府必須迅速採取行動，在未來十八個月內實施人工智慧政策，以防止災難性風險。
需要採取緊急行動
人工智慧系統在數學、推理和電腦編碼等各個領域取得了重大進展。雖然這些進步有望加速科學進步和經濟成長，但它們也構成潛在威脅，特別是在網路安全和生物學領域。 Anthropic 強調，人工智慧的濫用或無意的自主行為可能會導致破壞性應用，因此需要立即採取監管行動。
Anthropic 的負責任的擴展政策
Anthropic 制定了負責任的擴展政策(RSP)，以主動應對人工智慧風險。這種自適應框架確保安全措施與人工智慧系統的能力相稱。該政策要求根據不斷發展的人工智慧功能對安全策略進行迭代評估和調整。自2023 年9 月實施以來，RSP 一直指導著Anthropic 的AI 安全方法，影響組織優先事項和產品開發。
有效人工智慧監管的原則
Anthropic 建議有效的人工智慧監管應注重透明度、激勵強有力的安全實踐和簡單性。應要求公司發布類似RSP 的政策，概述能力閾值和相關保障措施。監管也應鼓勵公司透過激勵措施和標準評估制定有效的RSP，確保實踐靈活以適應快速的技術進步。
全球和國家監管考慮因素
雖然聯邦監管對於全美統一來說是理想的選擇，但Anthropic 承認，由於人工智慧風險的緊迫性，州級行動的潛在需求。在全球範圍內，Anthropic 看到了其提出的原則指導國際人工智慧政策的潛力，強調標準化和相互認可對於減輕監管負擔的重要性。
平衡創新與風險防範
Anthropic 認為，精心設計的監管可以在不阻礙創新的情況下最大限度地減少災難性風險。 RSP 框架旨在快速識別無威脅的模型，最大限度地減少合規負擔。 Anthropic 也指出，安全研究通常有利於更廣泛的人工智慧進步，有可能加速進步。
隨著人工智慧系統的不斷發展，對負責任監管的呼聲變得更加迫切。 Anthropic 對有針對性的監管的見解提供了一條利用人工智慧潛力同時防範其風險的途徑。
圖片來源：Shutterstock
資訊來源：由0x資訊編譯自BLOCKCHAINNEWS。版權所有，未經許可，不得轉載