上週，兩名關鍵員工離開了OpenAI：聯合創始人兼首席研究員Ilya Sutskever 和Jan Leike。後者領導的團隊負責安全和創建以人為中心的人工智慧模型。
根據CNBC 引述消息人士的話說，此後，該公司解散了處理人工智慧長期風險的部門（Superalignment），並於2023 年7 月宣布成立該部門。
出埃及是從哪裡開始的？
今年4 月，《The Information》報導OpenAI 解雇了兩名研究人員：Leopold Aschenbrenner（被認為是Sutskever 的同事）和Pavel Izmailov。據該出版物稱，原因可能是公司資訊洩露。
他們在Superalignment 部門工作，丹尼爾·科科泰洛(Daniel Kokotailo) 和威廉·桑德斯(William Saunders) 也離開了該部門。根據第一個說法，他做出這個決定「是因為失去了信心 [OpenAI] 在通用人工智慧時代，我們會表現得負責任。 」
5月15日，蘇茨克維爾宣布辭職。他表示相信團隊將創造出安全有用的通用人工智慧。
「能夠一起工作是一種榮幸，我會非常想念大家。 再見，謝謝你所做的一切。」訊息中寫道。
蘇茨克維爾的位置由雅庫布·帕喬茨基接替。他此前曾領導該公司GPT-4 的研發。
蘇茨克韋爾被認為是2023 年11 月奧特曼被解職的始作俑者之一。執行長正是從他那裡收到了與董事會進行線上通話的邀請，並在會議上宣布了這一決定。
執行長回歸後，蘇茨克韋爾失去了董事會席位，但繼續在公司工作。當時，奧特曼表示他對他「沒有敵意」。
在現任前任高階主管職位下的評測中，有人假設OpenAI 的現任管理階層「對創造安全的AGI 不感興趣」。
作為一個局外人，@OpenAI 目前的領導層似乎對建立安全的AGI 並沒有真正的興趣。
我們可能還需要幾十年才能解決通用人工智慧對齊問題——如果它真的可以解決的話。
然而，@sama 不顧滅絕的風險，繼續推動通用人工智慧…
— 傑弗瑞‧米勒(@primalpoly) 2024 年5 月15 日
「為什麼像我們這樣的80 億普通人應該相信OpenAI 會將人類的安全置於自己的財富、權力和傲慢之上？」該用戶寫道。
與雷克不同，蘇茨克維爾選擇不提出這個問題。
來自前任的指控
雷克在5月15日宣布辭職，兩天後他向X解釋了這個決定的原因。
我加入是因為我認為OpenAI 將是世界上進行這項研究的最佳地點。
然而，相當長一段時間以來，我一直與OpenAI 領導層關於公司核心優先事項的觀點存在分歧，直到我們最終達到了臨界點。
— Jan Leike (@janleike) 2024 年5 月17 日
“我加入 [к компании]，因為他相信OpenAI 將是世界上進行這些研究的最佳場所 [управление и контроль ИИ-систем] 研究。然而，在相當長的一段時間裡，我與OpenAI 管理層對於公司的主要優先事項的看法存在分歧，直到最後一個轉折點到來。 「過去幾個月我的團隊一直在逆風而行，」這位前高層寫道。
他說，近年來，安全文化和流程已經被拋在了一邊，「讓位給了出色的產品」。
「我們早就該認真對待通用人工智慧的後果了。我們必須盡可能優先考慮為它們做好準備。 只有這樣，我們才能確保AGI 造福全人類。」雷克強調。
他表示，OpenAI應該成為一家以安全為導向的通用人工智慧公司。這位研究人員在向前同事講話時提醒說，“世界都指望著你。”
我想對所有OpenAI員工說：
學會感受AGI。
採取適合您正在建立的內容的嚴肅態度。
我相信你可以「傳遞」所需的文化變革。
我指望你了。
世界指望著你。
:openai-心:
— Jan Leike (@janleike) 2024 年5 月17 日
OpenAI 的回應
OpenAI執行長薩姆·奧爾特曼和公司總裁格雷格·布羅克曼對雷克的言論做出了回應。
我們非常感謝Jan 為OpenAI 所做的一切，我們知道他將繼續從外部為這項使命做出貢獻。鑑於他的離職引發的問題，我們想解釋我們如何看待我們的整體策略。
首先，我們有… https://t.co/djlcqEiLLN
— 格雷格·布羅克曼(@gdb) 2024 年5 月18 日
「我們非常感謝Ian 為OpenAI 所做的一切 […]。聲明中寫道：“鑑於他的離職引發的問題，我們希望分享我們對整體戰略的看法。”
高層表示，該公司提高了人們對AGI 風險和機會的認識，「以便世界能夠為此做好更好的準備」。
「其次，我們正在為安全部署更有效率的系統奠定基礎。 […] 第三，未來將比過去更困難。我們需要繼續提高安全性能，以滿足每個新車型的要求。 」Altman 和Brockman 強調。
他們指出需要進行嚴格的測試和安全、研究以及與當局或利害關係人的合作來應對風險。
」[…] 我們非常認真地對待我們的角色，並仔細權衡對我們行動的回饋。 」OpenAI 管理層強調。
讓我們回想一下，2023 年11 月，Altman 宣布打算吸引微軟額外資金創建AGI，並談到了下一代人工智慧模型——GPT-5。
2024 年5 月，OpenAI 負責人指出，人工智慧的未來將以個人助理的出現和日益普及為標誌。它們將成為日常生活中不可或缺的一部分，甚至取代智慧型手機。
同月，該公司推出了「更人性化」的聊天機器人版本GPT-4o。
資訊來源：由0x資訊編譯自FORKLOG。版權歸作者ForkLog所有，未經許可，不得轉載