作者：比爾蓋茨
如果讓人們列舉人工智慧領域的領導人物，有一個名字你可能會聽得最多：山姆·奧爾特曼（Sam Altman）。他在OpenAI的團隊正在用ChatGPT挑戰人工智慧的極限，我很高興能和他談談下一步的計畫。我們的對話涵蓋了為什麼今天的人工智慧模型是最愚蠢的，社會將如何適應技術變革，甚至當我們完善了人工智慧之後，人類將在哪裡找到目標。
podcast
比爾蓋茲：我今天的來賓是山姆奧爾特曼。當然，他是OpenAI的執行長。長期以來，他一直是科技業的創業家和領導者，包括經營Y Combinator，這家公司做了很多了不起的事情，例如資助Reddit、Dropbox、Airbnb。
在我錄製本集節目不久之後，他被解除了OpenAI首席執行官的職務，這完全驚到了我，至少是短暫的驚訝。解僱後的幾天裡發生了很多事情，包括幾乎所有OpenAI員工聯名支持薩姆回歸，而現在，山姆又回來了。所以，在你聽到我們的對話之前，讓我們先來了解一下薩姆，看看他現在過得怎麼樣。
比爾蓋茲：嘿，山姆。
山姆·奧爾特曼：嘿，比爾。
比爾蓋茲：你好嗎？
山姆·奧爾特曼：哦，天哪。這真的太瘋狂了，我還好。這是一個非常令人興奮的時期。
比爾蓋茲：團隊狀況怎麼樣？
山姆·奧特曼：我想，你知道很多人都注意到了這樣一個事實，那就是團隊從未如此有效率、樂觀、出色。所以，我猜這也正是藏在所有事情背後的一線希望。
在某種意義上，這是我們成長的真正時刻，我們非常有動力變得更好，變成一個為我們所面臨的挑戰做好準備的公司。
比爾蓋茲：太棒了。
所以，我們在對話中不會討論那件事；然而，你會聽到薩姆致力於建立一個安全和負責任的人工智慧的承諾。我希望你喜歡這次對話。
歡迎來到《為自己解惑》。我是比爾·蓋茲。
比爾蓋茲：今天我們將主要關注人工智慧，因為它如此令人興奮，人們同時也對它感到擔憂。歡迎，薩姆。
山姆奧特曼：非常感謝你邀請我來參加節目。
比爾蓋茲：我有幸見證了你們工作的進展，但開始的時候我是非常懷疑的，我也沒期待過ChatGPT能做得這麼好。它讓我十分驚訝，我們其實不懂這種編碼方式。我們知道數字，我們可以看到它相乘，但如何編碼莎士比亞的作品？你認為我們能對這種表示有更深的理解嗎？
山姆·奧爾特曼：百分之百可以。要在人腦中做到這一點非常難，你可以說這是一個類似的問題，就是有這些神經元，它們彼此相連。但它們的連結在變化，我們不可能切開你的大腦來觀察它是如何演化的，但我們可以完美地透視。目前在可解釋性方面已經有一些非常好的工作，而且我認為隨著時間的推移會有更多的解釋出現。我認為我們將能夠理解這些網絡，但我們目前的理解能力仍然很低。而正如你所樂見的，我們僅了解的那一點點已經對改進這些東西非常有幫助。撇開科學好奇心不談，我們都有動力去真正了解它們，儘管它們的規模是如此龐大。我們還可以說，莎士比亞（的作品）在你大腦的哪個位置編碼的，又是如何表現的？
比爾蓋茲：我們不知道。
山姆·奧爾特曼：我們確實不知道，甚至可以說在這些我們本應能夠完美透視、觀察並進行任何測試的大量數字中我們還是找不到答案，這就更讓人缺乏滿足感。
比爾蓋茲：我非常確信，在接下來的五年內，我們會理解它。就訓練效率和準確性而言，這種理解將讓我們做得比今天能做的好得多。
山姆‧奧爾特曼：百分之百同意。你會在許多經驗性發現的技術發展史中看到這一點。他們雖然不知道發生了什麼，但顯然它行得通。然後，隨著科學理解的加深，他們可以使它變得更好。
比爾蓋茲：是的，在物理學、生物學中，有時只是隨便一通亂試，然後就「哇」的一聲——這究竟是怎麼實現的？
山姆·奧爾特曼：在我們的案例中，構建GPT-1的那個人自己解決了這個“哇”的問題，這有點令人印象深刻，但並沒有深入理解它是如何工作的，以及為什麼它是有效的。然後我們有了拓展規律，可以預測它會變得多好。這就是為什麼當我們告訴你可以做一個演示時，我們相當有信心它會成功。我們還沒有訓練模型，但我們很有信心。這讓我們做了大量嘗試，對正在發生的事情有了越來越科學的認識。但這確實源自於經驗結果先行。
比爾蓋茲：當你展望未來兩年，你認為會有哪些重要的里程碑？
山姆奧特曼：多模態肯定會很重要。
比爾蓋茲：你指的是語音輸入、語音輸出？
山姆·奧爾特曼：語音輸入、語音輸出，然後是影像，最終是視訊。顯然，人們真的需要這些。我們已經推出了圖像和音頻，反響比我們的預期要強烈得多。我們能夠將其推進得更遠，但也許最重要的進步領域將圍繞著推理能力。現在，GPT-4的推理能力還非常有限。還有可靠性，如果你問GPT-4大部分問題10000次，這10000次中可能有一次回答得很好，但它不一定知道是哪一次。而你卻希望每次都能得到這10000次中最好的回答，因此可靠性的提升將非常重要。
可自訂性和個性化也將非常重要。人們對GPT-4的需求各不相同：不同的風格，不同的假設集，我們將使所有這些成為可能，然後也能讓它使用你自己的數據。它能夠了解你、你的電子郵件、你的日曆、你喜歡的預約方式，並與其他外部資料來源連接，所有這些都將是最重要的改進領域。
比爾蓋茲：在目前的基礎演算法中，它只是在做簡單的前饋、乘法，所以為了產生每一個新詞，它本質上都在做同樣的事情。我會很感興趣的是，你們能夠像解決複雜的數學方程式那樣，可能需要任意次數的應用變換，那麼用於推理的控制邏輯可能需要比我們今天所做的複雜得多。
薩姆·奧爾特曼：至少，我們似乎需要某種形式的自適應計算。現在，我們在每個標記上都花費同樣多的運算資源，不管它是一個簡單的標記，還是解決一些複雜的數學問題。
比爾蓋茲：是的，比如說，“解決黎曼假設…”
山姆·奧爾特曼：那需要大量的計算。
比爾蓋茲：但它用的計算資源跟說個「The」一樣。
山姆·奧特曼：對，我們至少得讓它能用。我們可能還需要在它之上更複雜的東西。
比爾蓋茲：你和我都參加過一個參議院的教育會議，我很高興有大約30名參議員參加了那次會議，並幫助他們快速跟上進展，因為這是一個重大的變革推動者。我不認為我們為了吸引政客已經做的太多。然而，當他們說，「哦，我們在社群媒體上搞砸了，我們應該做得更好」——這是一個巨大的挑戰，在兩極分化方面有非常負面的因素。即使是現在，我也不確定我們該如何應對。
山姆·奧爾特曼：我不明白為什麼政府在社群媒體方面不能更有效，但這似乎值得作為一個研究案例去理解，因為他們現在將要面臨的是與AI相關的挑戰。
比爾蓋茲：這是一個很好的研究案例，那麼當你談論監管時，你是否清楚該建構哪種類型的監管？
薩姆·奧爾特曼：我認為我們開始弄清楚了。在這個領域進行過度監管是非常容易的，你也可以看到過去許多這類事情的發生。但同樣的，如果我們是對的，可能結果卻顯示我們錯了，但如果在最後我們是對的，這項技術發展到我們認為它會達到的程度，它將影響社會，影響地緣政治力量的平衡，以及其他許多事物。對於這些仍然是假設性的，但未來極其強大的系統——不是說GPT-4，而是針對計算能力是其10萬倍或100萬倍的系統，我們已經接受了一個全球監管機構的想法，這個機構將緊盯這些超強大的系統，因為它們確實會產生如此大的全球影響。我們談到的一個模式就是類似國際原子能總署的模式。對於核能，我們的決定也是如此。由於其潛在的全球影響，它需要一個全球性的機構，我認為這是合理的。會有很多短期問題，像是這些模式可以說什麼，不可以說什麼？我們如何看待版權問題？不同的國家會有不同的考慮，這沒問題。
比爾蓋茲：有些人認為，如果一些模型非常強大，我們就會對它們感到害怕——全球核監管之所以行之有效，基本上是因為至少在民用方面，每個人都希望共享安全實踐，而且這一點做得非常好。當你涉及核武方面時，就沒有這種情況了。如果關鍵在於阻止整個世界做危險的事情，你會希望有一個全球政府，但今天對於許多問題，如氣候問題、恐怖主義，可以看到我們很難合作。人們甚至引用中美競爭來解釋為什麼任何放緩的想法都是不恰當的。難道任何放慢腳步的想法，或者放慢腳步到足夠謹慎的程度，都難以實施嗎？
山姆·奧爾特曼：是的，我認為要求其放慢速度是非常困難的。如果改成「做你想做的事，但任何計算集群都不能超過一個特定的、極高的功率門檻」——鑑於這裡的成本，我們可能只會看到五個這樣的集群——像這樣的任何集群都必須接受類似國際武器檢查員的審查。那裡的模型必須接受安全審計，通過訓練期間的一些測試，並在部署前通過審計和測試。對我來說，這似乎是可能的。我之前不太確定，但今年我進行了一次環球之旅，與需要參與這項計劃的許多國家的元首進行了交談，他們幾乎都表示了支持。這不會讓我們免於所有事情，仍然會有一些問題出現在規模較小的系統上，有些情況可能會出現相當嚴重的錯誤，但我認為這可以幫助我們應對最高層面的風險。
比爾蓋茲：我確實認為，在最好的情況下，人工智慧可以幫助我們解決一些難題。
山姆·奧爾特曼：當然可以。
比爾蓋茲：包括兩極化的問題，因為它可能會破壞民主，而那將是一件極其糟糕的事情。現在，我們看到人工智慧帶來了很多生產力的提升，這是非常好的事情。你最興奮的領域是哪些？
山姆·奧爾特曼：首先，我始終認為值得記住的是，我們正處於這一長期、連續的曲線上。現在，我們有能夠完成任務的人工智慧系統。它們當然不能完成一個完整的工作（崗位所做的事情），但它們可以做些任務，並且在那裡有生產力的提升。最終，它們將能夠做更多類似今天人類工作的事情，我們人類當然也會找到新的、更好的工作。我完全相信，如果你給人們更強大的工具，他們不僅可以工作得更快，還可以做一些本質上不同的事情。現在，我們或許可以將程式設計師的工作速度提高三倍。這就是我們所看到的，也是我們最興奮的領域之一，它運作得非常好。但是，如果你能讓程式設計師的效率提高三倍，那就不僅僅是他們能做的事情多了三倍，而是他們能在更高的抽象層次上、使用更多的腦力去思考完全不同的事情。這就好比從打孔卡到更高階的語言，不只是讓我們的程式速度快了一點，而是讓我們得到了質的提升。我們確實看到了這一點。
當我們看向這些能夠完成更完整任務的下一代人工智慧時，你可以將它想像成一個小代理，你可以對它說：「幫我寫這整個程序，我會在過程中問你幾個問題，但它不僅僅是一次只寫幾個函數”，這樣就會有很多新生事物出現。然後，它還能做更複雜的事情。有一天，也許會有一個人工智慧，你可以對它說：「幫我建立並經營這家公司」。然後有一天，也許會有一個人工智慧，你可以對它說：「去發現新的物理學」。我們現在看到的東西既令人興奮又美妙，但我認為把它放在這項技術的背景下是值得的，至少在未來的五年或十年內，這項技術將處於非常陡峭的成長曲線上。現有這些模型都將變成最愚蠢的模型。
程式設計可能是我們今天感到最興奮的一個提高生產力的領域。目前，它已經被大規模部署和使用。醫療保健和教育也是另外兩個我們非常期待的快速發展的領域。
比爾蓋茲：有點令人生畏的是，與以往的技術改進不同，這項技術的改進速度非常快，而且沒有上限。它可以在許多工作領域達到人類的水平，即使做不出獨特的科學研究，它也可以打客服電話和銷售電話。我想你和我確實有一些擔憂，儘管這是一件好事，但它將迫使我們比以往任何時候都要更快適應。
山姆·奧爾特曼：這才是可怕的地方。這並不是說我們必須適應，並不是說人類沒有超強的適應力。我們已經經歷過這些大規模的技術變革，人們所從事的大量工作可能在幾代人的時間裡發生變化，而在幾代人的時間裡，我們似乎可以很好地吸收這些變化。在過去那些偉大的科技革命中，我們已經看到了這一點。每一次科技革命都會變得更快，而這次將是迄今為止最快的一次。這就是我覺得有點可怕的地方，我們的社會需要以何種速度去適應它的發展，以及勞動市場將發生的變化。
比爾蓋茲：人工智慧的一個面向是機器人技術（學），或者說藍領工作，當你得到具有人類水平能力的手和腳。 ChatGPT令人難以置信的突破是讓我們開始專注於白領工作，這完全沒問題，但我擔心人們會失去對藍領工作的關注。你如何看待機器人技術？
薩姆·奧爾特曼：我對此非常興奮。我們太早開始研究機器人了，所以我們不得不擱置那個計畫。它也因為錯誤的原因而變得困難，無助於我們在機器學習研究的困難部分取得進展。我們一直在處理糟糕的模擬器和肌腱斷裂之類的問題。隨著時間的推移，我們也越來越意識到，我們首先需要的是智慧和認知，然後才能想辦法讓它適應物理特性。從我們建構這些語言模型的方式來看，從那開始變得更容易。但我們一直計劃回到這個問題。
我們已經開始對一些機器人公司進行投資。在實體硬體方面，我終於第一次看到了真正令人興奮的新平台被建立起來。到時候，我們就能利用我們的模型，就像你剛才說的，利用它們的語言理解能力和未來的視頻理解能力，說：“好吧，讓我們用機器人做一些了不起的事情吧。”
比爾蓋茲：如果那些已經把腿部做得很好的硬體人員真的把手臂、手掌和手指做出來，然後我們再把它們組合起來，而且價格也不會貴得離譜，那麼這將會迅速改變許多藍領類工作的就業市場。
山姆·奧爾特曼：是的。當然，如果我們回溯七到十年，共識性的預測是其影響的首先是藍領工作，其次是白領工作，創造力可能永遠不會，起碼是最後一個，因為那是魔法和人類的強項。
顯然，現在的情況正好相反。我認為這其中有很多有趣的原因能夠解釋為什麼它會發生。創造性工作，GPT模型的幻覺是特性，而不是缺陷，它能讓你發現一些新事物。而如果你要讓機器人移動重型機械，你最好能做到非常精確。我認為這只是一個你必須跟隨技術發展的案例。你可能會有一些先入為主的觀念，但有時科學不會往那個方向發展。
比爾蓋茲：那麼你手機上最常用的應用程式是什麼？
山姆·奧爾特曼：Slack。
比爾蓋茲：真的嗎？
山姆·奧爾特曼：是的，我希望我能說是ChatGPT。
比爾蓋茲：【笑】甚至比電子郵件還多？
薩姆·奧爾特曼：遠遠超過電子郵件。我認為唯一可能超過它的是iMessages，但確實Slack比iMessages還多。
比爾蓋茲：在OpenAI內部，有很多協調工作要做。
山姆·奧特曼：是的，那你呢？
比爾蓋茲：我是Outlook。我是傳統的電子郵件派，要嘛就是瀏覽器，因為，當然，我的許多新聞都是透過瀏覽器看來的。
山姆·奧爾特曼：我沒有把瀏覽器算作一個應用，有可能我使用它的頻率更高，但我仍然打賭是Slack，我整天都在使用它。
比爾蓋茲：不可思議。
比爾蓋茲：好吧，我們這裡有一個黑膠唱片機。我像對其他嘉賓一樣，要求山姆帶來一張他最喜歡的唱片。那麼，你今天帶來了什麼？
山姆·奧特曼：我帶了馬克斯·里希特重新編曲的韋瓦第的《新四季》。我工作時喜歡無歌詞的音樂，這張唱片既保留了維瓦爾第原作的舒適感，也有我非常熟悉的曲子，但又有足夠多新的音符帶來完全不同的體驗。有些音樂作品，你會因為在人生的關鍵時期大量地聽它們而形成強烈的情感依戀，而《新四季》正是我在我們初創OpenAI時經常聽的東西。
我認為這是非常美妙的音樂，它高亢而樂觀，完美適配我工作時的需求，我覺得新版本非常棒。
比爾蓋茲：這是由交響樂團演奏的嗎？
山姆·奧爾特曼：是的，是由Chineke!樂團演奏的。
比爾蓋茲：太棒了。
山姆奧特曼：現在就播嗎？
比爾蓋茲：是的，我們來聽聽看。
山姆·奧特曼：這是我們要聽的樂章的序曲。
比爾蓋茲：你戴耳機嗎？
山姆·奧爾特曼：我戴。
比爾蓋茲：你的同事會因為你聽古典音樂而取笑你嗎？
山姆奧特曼：我不認為他們知道我在聽什麼，因為我確實戴著耳機。在寂靜中工作對我來說非常困難，我可以做到，但這不是我的自然狀態。
比爾蓋茲：這很有趣。我同意，帶歌詞的歌曲會讓我覺得分心，但這更多是一種情緒類型的東西。
山姆·奧特曼：是的，而且我把它調得很輕，我也不能聽響亮的音樂，不知為何這是我一直以來的習慣。
比爾蓋茲：太棒了，謝謝你帶來美妙的音樂。
比爾蓋茲：現在，對我來說，如果你真的藉助人工智慧達到了令人難以置信的能力，AGI（通用人工智慧），AGI+（超級通用人工智慧），我擔心的有三件事：一是壞人控制了系統，如果我們有好人擁有同樣強大的系統，這有希望能最小化那個問題；二是系統控制一切的可能性，出於某些原因，我不太擔心這個問題，但我很高興其他人關注這個問題；最讓我感到困惑的是人類的目的，我對這點感到非常興奮，我很擅長研究瘧疾和根除瘧疾，也很擅長召集聰明人並為此投入資源。當機器人對我說：「比爾，去打匹克球吧，我能根除瘧疾。你只是個思維遲鈍的人。」那時它就是一個哲學上令人困惑的事情。我們如何組織社會？是的，我們要改善教育，但教育要做什麼，如果你走向極端，我們仍然有很大的不確定性。第一次，這種情況可能在未來20年內發生的機會不為零。
山姆·奧特曼：從事技術工作有很多心理上的困難，但你說的這些對我來說是最困難的，因為我也從中獲得了很多滿足感。
比爾蓋茲：你確實帶來了價值。
山姆·奧爾特曼：從某種意義上來說，這可能是我做的最後一件難事。
比爾蓋茲：我們的思維如此依賴稀缺性，教師、醫生和好的想法的稀缺，部分原因是，我確實在想，如果一代人在沒有這種稀缺的情況下成長，他們會對如何組織社會以及要做什麼這個哲學概念會產生什麼看法，也許他們會想出一個解決方案。我擔心我的思維如此受到稀缺性的影響，以至於我甚至很難思考這個問題。
山姆‧奧特曼：這也是我告訴自己的，而且我真心相信，雖然我們在某種意義上放棄了一些東西，但我們將會擁有比我們人類更聰明的東西。如果我們能進入這個「後稀缺」世界，我們將會找到新的事情去做。它們會感覺非常不同。也許你不是在解決瘧疾問題，而是在決定你喜歡哪個星系，以及你打算如何處理它。我相信我們永遠不會缺少問題，不會缺少獲得滿足感和為彼此做事的方式，不會缺少對我們如何為其他人玩人類遊戲的方式的理解，這將仍然非常重要。這肯定會有所不同，但我認為唯一的出路就是走下去。我們必須去做這件事，它必將會發生，現在已經是一個不可阻擋的技術過程，因為其價值太大了。我非常非常有信心，我們會成功的，但感覺確實會很不一樣。
比爾蓋茲：將這項技術應用於某些當前問題，例如為孩子們提供家教，幫助激發他們的動力，或發現治療阿茲海默症的藥物，我認為如何做是非常清楚的。無論人工智慧能否幫助我們減少戰爭，減少分化。你會認為隨著智能的提升，不分化是常識，不發動戰爭也是常識，但我確實認為很多人會持懷疑態度。我很願意讓人們致力於解決最困難的人類問題，例如我們是否能和睦相處。如果我們認為人工智慧可以幫助人類更好地相處，我認為那將是非常積極的。
山姆·奧爾特曼：我相信它會在這方面給我們帶來意外的驚喜。這項技術會讓我們驚訝於它能做的事情有多多。我們還得拭目以待，但我非常樂觀。我同意你的看法，這將是非常大的貢獻。
比爾蓋茲：就公平性而言，科技通常很昂貴，例如個人電腦或網路連接，而降低成本需要時間。我想，運行這些人工智慧系統的成本看起來很不錯，每次評估的成本會降低很多嗎？
薩姆·奧爾特曼：它已經降低了很多。 GPT-3是我們推出最久、最佳化最久的模型，在它推出的三年多時間裡，我們已經將成本降低了40倍。對於三年的時間來說，這是一個很好的開始。至於GPT-3.5版，我敢打賭，目前我們已經將其成本降低了近10倍。 GPT-4是新產品，所以我們還沒有那麼多時間來降低成本，但我們會繼續。我認為，在我所知道的所有技術中，我們的成本下降曲線是最陡峭的，優於摩爾定律。這不僅是因為我們想出瞭如何讓模型更有效率的方法，還因為我們對研究有了更好的理解，我們可以在更小的模型中獲得更多的知識和能力。我認為，我們將把智能的成本降低到接近零的程度，這對社會來說將是一個改頭換面的轉變。
現在，我的世界基本模型由智慧成本和能源成本組成。 【比爾笑了】這是影響生活品質的兩個最大因素，尤其是對窮人而言，但整體來看也是如此。如果你能同時降低這兩方面的成本，你能擁有的東西就會更多，你能為人們帶來的改善就會更大。我們正走在一條曲線上，至少在智慧方面，我們將真正實現這項承諾。即使以目前的價格（這也是有史以來最高的價格，而且遠遠超出了我們的預期），每月20美元，你就能獲得大量的GPT-4訪問權限，而且價值遠遠超過20美元。我們已經降得很低了。
比爾蓋茲：那競爭呢？很多人一下子同時擠進這個賽道是不是一件有趣的事？
山姆·奧特曼：既令人討厭，又充滿動力和樂趣，【比爾笑了】我相信你也有過類似的感覺。這確實促使我們做得更快、更好，我們對自己的方法很有信心。我們有很多人，我認為他們都在往冰球所在的地方滑，而我們也在往冰球要去的地方滑，這感覺很好。
比爾蓋茲：我認為人們會對OpenAI的規模之小感到驚訝。你們有多少員工？
山姆·奧爾特曼：大約500人，所以我們比以前稍微大一些。
比爾蓋茲：但那很小，【笑】要是以Google、微軟、蘋果的標準來看。
山姆奧特曼：確實很小，我們不僅要經營研究實驗室，現在還要經營一家真正的企業和兩款產品。
比爾蓋茲：你所有能力的擴展，包括與世界上所有的人交談，傾聽所有支持者的聲音，這對你來說一定很有趣。
山姆·奧爾特曼：非常令人著迷。
比爾蓋茲：這是一家員工都很年輕的公司嗎？
山姆·奧爾特曼：比平均年齡大一些。
比爾蓋茲：好的。
山姆‧奧特曼：這裡不是一群24歲的程式設計師。
比爾蓋茲：的確，我的視角有些扭曲了，因為我已經60多歲了。我看到你，你比我年輕，但你說得對，你們有很多人四十多歲了。
山姆‧奧爾特曼：三十多歲、四十多歲、五十多歲（的人）。
比爾蓋茲：這不像早期的蘋果、微軟，那時我們真的還是孩子。
山姆奧特曼：不是的，我也反思過這個問題。我認為公司普遍變老了，我不知道該如何看待這個問題。我認為這在某種程度上對社會是個不好的跡象，但我在YC（Y Combinator）追蹤過這個問題。隨著時間的推移，最優秀的創辦人年齡都呈現成長趨勢。
比爾蓋茲：這很有意思。
山姆·奧特曼：就我們的情況而言，甚至還比平均年齡還要大一些。
比爾蓋茲：你在YC扮演的角色幫助這些公司學到了很多，我想這對你現在的工作也是很好的鍛鍊。 【笑】
山姆·奧爾特曼：那非常有幫助。
比爾蓋茲：包括看到錯誤。
山姆奧特曼：完全可以這麼說。 OpenAI做了很多與YC建議的標準相反的事情。我們花了四年半時間才推出我們的第一個產品。公司成立之初，我們對產品沒有任何概念，我們沒有與使用者溝通。我仍然不建議大多數公司這樣做，但在YC學習和見識過這些規則後，我覺得自己明白了何時、如何以及為什麼我們可以打破這些規則，我們所做的事情真的與我見過的其他公司大相逕庭。
比爾蓋茲：關鍵在於你集結的人才團隊，讓他們專注於大問題，而不是某些短期的收益問題。
山姆·奧爾特曼：我認為矽谷的投資者不會在我們需要的水平上支持我們，因為我們必須在研究上花費如此多的資金才能推出產品。我們只是說：「最終模型會足夠好，我們知道它會對人們有價值。」但我們非常感激與微軟的合作，因為這種超前投資並不是創投產業擅長的。
比爾蓋茲：確實不是，而且資本成本相當可觀，幾乎達到了創投所能承受的極限。
薩姆·奧爾特曼：可能已經超過了。
比爾蓋茲：確實可能。我非常贊同薩蒂亞對於「如何將這個傑出的人工智慧組織與大型軟體公司結合起來？」的思考，甚至可以說一加一遠大於二。
山姆·奧爾特曼：是的，這很棒。你真說到點上了，這也是我從YC學到的。我們可以說要找世界上最好的人來做這件事。我們要確保我們的目標和AGI的使命是一致的。但除此之外，我們要讓人們做自己的事情。我們會意識到這將經歷一些曲折，需要一段時間。
我們有一個大致正確的理論，但一路上的許多策略都被證明是大錯特錯的，我們只是試圖遵循科學。
比爾蓋茲：我記得我去看了演示，也確實想過這個專案的收入途徑是什麼？是什麼樣的？在這個狂熱的時代，你仍然手握一個令人難以置信的團隊。
山姆‧奧特曼：是的，優秀的人都希望與優秀的同事共事。
比爾蓋茲：那是一種吸引力。
山姆·奧特曼：那裡有一個很深的引力中心。此外，這聽起來很陳腔濫調，每家公司都這麼說，但人們感受到了深深使命感，每個人都想參與AGI的創建。
比爾蓋茲：那一定很激動人心。當你再次用演示震撼我時，我可以感受到那股能量。我看到了新的人，新的想法，而你們仍以非常不可思議的速度前進。
山姆·奧特曼：你最常給的建議是什麼？
比爾蓋茲：才能可以分很多種，在我職業生涯的早期，我認為只有純粹的智商，例如工程智商，當然，你可以將其應用於金融和銷售。但這種想法被證明是如此錯誤，建立一個擁有正確技能組合的團隊是如此重要。針對他們的問題，引導他們思考應該如何建立一個擁有所有不同技能的團隊，這可能是我認為最有幫助的建議之一。是的，告訴孩子們，數學、科學很酷，如果你喜歡的話，但真正讓我驚訝的是才能的混合。
那你呢？你給的建議是什麼？
山姆·奧爾特曼：關於大多數人對風險的誤判。他們害怕離開舒適的工作，去做他們真正想做的事。實際上，如果他們不這樣做，他們回顧自己的一生時就會想，「天啊，我從來沒有去創辦我想創辦的公司，或者我從未嘗試成為一名人工智慧研究員。」我認為實際上上這樣風險更大。
與此相關的是，明確自己想要做什麼，並向別人提出自己的要求，會有意想不到的收穫。很多人受困於把時間花在不想做的事情上，而我最常給的建議可能就是想辦法解決這個問題。
比爾蓋茲：如果你能讓人們從事一份讓他們感到有目標的工作，那會更有趣。有時，他們就是這樣產生巨大的影響。
山姆·奧爾特曼：當然。
比爾蓋茲：感謝你的到來，這是一場精彩的對話。在未來的日子裡，我相信我們還會有更多的交流，因為我們正努力以最好的方式塑造人工智慧。
山姆·奧爾特曼：非常感謝你的邀請，我真的很享受與你對話。
比爾蓋茲：《為自己解惑》是蓋茲筆記的節目。特別感謝我今天的嘉賓山姆·奧爾特曼。
比爾蓋茲：告訴我你的第一台電腦是什麼？
山姆·奧爾特曼：是Mac LC2。
比爾蓋茲：不錯的選擇。
山姆‧奧特曼：是個好東西，我還留著它，它到現在還能用。
