重要見解：
英國人工智慧安全研究所正在擴展到舊金山，以挖礦灣區技術人才並加強全球人工智慧安全工作。新的美國辦事處以最近的人工智慧安全峰會的全球合作舉措為基礎，加強了英美合作夥伴關係。安全測試揭示了人工智慧模型在基本網路安全方面的優勢，但也強調了複雜任務中的漏洞和人工監督的需要。
英國人工智慧安全研究所正在舊金山設立新辦事處，擴大其影響範圍。英國技術大臣米歇爾·多尼蘭(Michelle Donelan) 5 月20 日宣布，該研究所的第一個國際分支機構將於夏季開幕。此舉旨在利用灣區豐富的技術人才庫，並與位於倫敦和舊金山之間的世界上最大的人工智慧中心之一建立更牢固的聯繫。
舊金山辦事處預計將幫助英國研究所建立並鞏固與美國主要人工智慧參與者的關係。此次擴建被視為促進全球人工智慧安全標準和進一步履行該研究所確保人工智慧發展服務於公共利益的使命的關鍵一步。
倫敦分行與人工智慧安全專業知識
AI 安全研究所倫敦分部目前擁有30 位專注於AI 風險評估的專業人員。該團隊正在不斷成長，旨在增強其專業知識，特別是在評估與先進人工智慧模型相關的風險方面。擴展到舊金山預計將提供更多資源和見解，從而加強該研究所的整體能力。
米歇爾·多尼蘭(Michelle Donelan) 強調，這一擴張標誌著英國在人工智慧安全方面的領導地位和積極主動的態度。她強調，這標誌著英國從全球角度分析人工智慧並加強其夥伴關係，特別是與美國的夥伴關係的重要時刻。此舉預計將為其他國家參與英國的人工智慧安全計畫鋪平道路。
最近的人工智慧安全高峰會和全球合作
新辦公室的宣布是在2023 年11 月在倫敦舉行的英國人工智慧安全高峰會之後宣布的。該峰會是一場專注於人工智慧安全的開創性活動，雲集了人工智慧產業的全球領導人和關鍵人物，其中包括來自美國和中國的代表。著名的與會者包括微軟總裁Brad Smith、OpenAI 執行長Sam Altman、Google DeepMind 執行長Demis Hassabis 和企業家馬斯克。
本次高峰會強調了國際合作在應對人工智慧安全挑戰的重要性。這項活動為持續討論和合作奠定了基礎，旨在減輕人工智慧風險並確保該技術造福整個社會。
AI模型安全測試結果
在宣布擴展的同時，英國人工智慧安全研究所發布了最近對五個公開的高級人工智慧模型進行的安全測試的結果。這些模型是匿名的，結果提供了它們能力的快照，而不是將它們標記為「安全」或「不安全」。
研究結果顯示，一些模型可以成功應對基本的網路安全挑戰，而其他模型則在執行更複雜的任務時面臨困難。一些模型展示了化學和生物學等領域的博士級知識。然而，所有測試的模型都被發現非常容易受到基本越獄技術的影響，並且在沒有人工幹預的情況下難以完成更複雜、耗時的任務。
該研究所主席Ian Hogarth 表示，這些評估對於全面了解人工智慧模型的能力至關重要。他承認人工智慧安全是一個新興領域，其結果僅代表該研究所正在開發的評估方法的一小部分。
傑弗裡·辛頓(Geoffrey Hinton) 倡導全民基本收入
在相關新聞中，被譽為「人工智慧教父」的著名人工智慧專家Geoffrey Hinton 最近就全民基本收入（UBI）的潛在需求向英國政府提出了建議。曾在Google工作的辛頓強調了人工智慧驅動的自動化帶來的失業風險，並建議全民基本收入可以減輕因技術進步而失業的工人的經濟影響。
辛頓與唐寧街官員的諮詢反映出人們對人工智慧社會影響日益增長的擔憂。他與OpenAI 聯合創始人Sam Altman 等其他人工智慧領導者一起，倡導UBI 作為解決潛在工作流失的解決方案。 Altman 的合資企業Worldcoin 旨在透過加密貨幣代幣系統提供UBI，強調經濟措施支持受人工智慧自動化影響的人們的重要性。
Hinton 和Altman 都對人工智慧帶來的更廣泛的生存風險表示擔憂。特別是Hinton，他離開了谷歌的職位，以便更自由地討論這些問題。他警告說，五到二十年內，人類可能會面臨人工智慧系統試圖取得控制權的重大挑戰。
資訊來源：0x資訊編譯自HERALDSHEETS。版權歸作者Tom Blitzer所有，未經許可，不得轉載