OpenAI研究人員在Sam Altman下台前曾警告董事會:“一項AI新突破或威脅人類”

PANews 11月23日消息,據路透社報道,知情人士表示,在OpenAI首席執行官Sam Altman此前被解僱的四天之前,幾名研究人員向董事會發出了一封信,警告稱一項強大的人工智能發現可能威脅人類。這封先前未被報導的信件和人工智慧演算法是董事會罷免Sam Altman之前的關鍵進展,因為在此信發出的一天后,董事會解雇了Altman,這封信是導致Sam Altman被解僱的董事會諸多不滿之一。

消息人士透露,長期擔任該公司高管的Mira Murati週三向員工提到了這個名為Q*的項目,並表示在本週末的活動之前,已經向董事會發了一封信。 OpenAI在Q*(發音為Q- star)上取得了進展,一些內部人士認為,這可能是OpenAI在超級智能(也被稱為人工通用智能(AGI))領域的突破。 OpenAI將AGI定義為比人類更聰明的人工智慧系統。鑑於龐大的運算資源,新模型能夠解決某些數學問題。雖然Q*的數學成績只是小學生的水平,但在這樣的測驗中取得優異成績讓研究人員對它未來的成功非常樂觀。研究人員在給董事會的信中指出了人工智慧的能力和潛在危險,但沒有具體說明信中提到的具體安全問題。一天后,董事會解雇了Altman。

研究人員認為數學是生成式人工智慧發展的前沿。目前,生成式人工智慧擅長透過統計預測下一個單字來進行寫作和語言翻譯,而同一問題的答案可能會有很大差異。但征服數學能力意味著人工智慧將擁有類似人類智慧的更強推理能力。與只能解決有限數量運算的計算器不同,AGI可以概括、學習和理解。在此背景下,Altman努力使ChatGPT成為史上成長最快的軟體應用程式之一,並從微軟吸引了必要的投資和運算資源,以更接近超級智慧(AGI)。

先前昨日消息,OpenAI宣布,Sam Altman將回歸OpenAI擔任執行長。

Total
0
Shares
Related Posts