人工智慧安全研究所由英國首相里希·蘇納克(Rishi Sunak) 建立，他在人工智慧道德發展方面處於領先地位。
英國首相宣布成立世界上第一個人工智慧安全研究所
英國首相里希·蘇納克(Rishi Sunak) 宣布成立英國人工智慧安全研究所，這是英國致力於負責任地發展人工智慧(AI) 的一項重大舉措。
這個開創性的組織旨在解決與人工智慧相關的一系列危害，從虛假資訊的產生到人工智慧可能構成生存威脅的可能性，有望成為世界上第一個此類危害。
蘇納克的宣布恰逢人工智慧安全國際會議定於歷史遺址布萊切利公園舉行。重要的是要記住，英國政府已經成立了一個前沿人工智慧工作小組，該工作小組於今年稍早開始以安全研究所的模式檢查先進人工智慧模型的安全性。
政府的目標是將該中心發展成為全球人工智慧安全合作中心。這項行動符合各國合作管理人工智慧危險、保障人工智慧技術適當應用的需求。
政府拒絕暫停開發先進人工智慧是蘇納克聲明中值得注意的內容之一。在回答有關他支持停止或禁止推進通用人工智慧（AGI）和其他有能力的人工智慧系統的問題時，蘇納克說，“我認為這不切實際或可執行。”
對於美國，SEC 主席加里·詹斯勒(Gary Gensler) 表示，修改現行證券法規並充分利用人工智慧的潛力非常重要。
正在進行的人工智慧發展爭論
最近，關於人工智慧的安全性和先進性的討論很多。馬斯克(Elon Musk) 是數千名知名產業領袖之一，他們在3 月簽署了一封公開信，要求緊急停止開發「巨型」人工智慧至少六個月。
人工智慧，尤其是複雜的人工智慧系統，可能構成生存危險，是英國政府發布的風險評估中提出的主要問題之一。
這承認了對人工智慧突破的預測存在很大程度的不確定性，如果不協調或管理不善，極其強大的人工智慧系統可能會成為生存危險。
政府的風險文件還包括其他擔憂，例如人工智慧製造高度針對性的錯誤訊息、開發生物武器以及徹底改變勞動市場的能力。
資訊來源：由0x資訊編譯自COINSCREED。版權歸作者Mercy Adeola所有，未經許可，不得轉載