天空之城|城主

在最新的這次現(xiàn)場尖峰對話中，OpenAI的掌舵人Sam Altman與硅谷傳奇投資人Vinod Khosla共同描繪了由人工智能驅(qū)動的未來圖景。他們預(yù)測技術(shù)變革將達到難以想象的速度，但人類的核心生物性體驗（如社交、情感連接）將保持不變。
這個對話涵蓋了AI對企業(yè)格局的顛覆，特別是對軟件行業(yè)的重塑，以及未來工作的演變——強調(diào)了人類在需要同理心和人際互動的崗位中不可替代的價值。此外，訪談還回顧了ChatGPT的誕生歷程，闡述了其作為“智能操作系統(tǒng)”的未來愿景，并討論了AI在科學(xué)研究、投資策略、全球普惠以及能源需求等方面的關(guān)鍵作用和挑戰(zhàn)。

核心觀點摘要

“到2035年，那個時期的技術(shù)變革速度將難以用現(xiàn)有框架去理解。但在技術(shù)堆棧之下，人類的核心體驗——那些源于生物本能的需求，如社交、地位和家庭關(guān)懷，將不會有太大改變。”

“我們正走向一個世界，在那里你想要的任何軟件都可以即時生成……你只需說出需求，它就發(fā)生了。這對傳統(tǒng)的SaaS商業(yè)模式是一個非常重大的變化，而且離我們并不遙遠。”

“人工智能將能夠完成幾乎所有的智力工作。然而我們會發(fā)現(xiàn)，人類深刻的生物程序設(shè)計是難以克服的。人們依然極度渴望來自另一個人的關(guān)懷、激勵與連接。”

“未來衡量AI研究進展的最終標(biāo)準(zhǔn)，是變化率的加速。當(dāng)AI開始自主提出新假設(shè)，進行測試，然后修正假設(shè)時，一個良性的‘自我進化’循環(huán)就形成了。”

“如果我是資本配置者，我會把0%的時間用來尋找下一個AI研究實驗室，而把100%的時間用來投資于因AGI而成為可能的新物種。你應(yīng)該追逐未來，而不是復(fù)制過去有效的東西。”

“未來十年，我預(yù)計智能的成本會趨同于電力的成本。屆時，世界上真正的稀缺資源將是算力和能源。”

“未來可能會出現(xiàn)一家擁有10名員工，但年收入達到10億美元的公司。我敢打賭，這家公司要么已經(jīng)存在，要么會在未來幾年內(nèi)誕生。”

展望2035：一個被徹底重塑的商業(yè)世界

當(dāng)我們試圖想象2035年的世界時，一個核心的矛盾浮出水面：一方面是技術(shù)以指數(shù)級速度狂飆突進，另一方面則是人性的亙古不變。Sam Altman開宗明義地指出，盡管未來世界的科技形態(tài)可能超乎想象，但人類的生物性體驗仍將是社會運轉(zhuǎn)的基石。“我認為人們?nèi)匀粫瘳F(xiàn)在這樣坐在一起吃午飯，” 他說道，“但那個時期的技術(shù)變革速度將難以形成框架。很難有一個當(dāng)前的框架來應(yīng)對它。”

這種變革對現(xiàn)有商業(yè)格局的沖擊將是劇烈的。Vinod Khosla預(yù)測，在2030年代，《財富》500強企業(yè)的消亡速度將遠超以往任何時期。Altman對此表示贊同，并特別指出了軟件行業(yè)的根本性顛覆。他描繪了一個“軟件即時生成”的未來，這將徹底瓦解傳統(tǒng)的SaaS（軟件即服務(wù)）模式。

“如果我們正走向一個世界，在那里你想要的任何軟件都可以像即時編寫一樣，” Altman解釋道，“你不用去購買這家SaaS公司的產(chǎn)品或那家公司的產(chǎn)品，你只需說‘運行’，然后它就發(fā)生了。這感覺是一個非常重大的變化，而且離我們并不遙遠。” 相比于需要與物理世界交互的復(fù)雜供應(yīng)鏈，軟件行業(yè)的變革將率先到來，現(xiàn)有企業(yè)如果不能足夠快地適應(yīng)，將面臨巨大的生存危機。新公司的崛起速度也將是空前的，“OpenAI就是一個例子，” Altman補充道，“我們變得非常大，非常快。”

人性的恒定與工作的未來

在AI能夠勝任絕大多數(shù)智力工作的未來，人類的價值將在何處體現(xiàn)？這場對話給出了一個清晰的答案：那些深度依賴人際互動、情感共鳴和同理心的領(lǐng)域。Altman認為，盡管AI在客觀知識傳遞上可能遠超人類教師，但人類教師所能給予的激勵和情感連接是無法替代的。

“也許你可以有一個很棒的AI老師，但它對你的激勵作用不如一個平庸的人類老師。我完全相信，僅僅是知道那是真人還是不是真人，其中就蘊含著非常深刻的東西。” 他強調(diào)，人類的“生物程序設(shè)計”決定了我們極其注重來自同類的關(guān)懷。“AI將能夠完成很多、很多不同的工作，也許幾乎是所有的工作。然而我們會發(fā)現(xiàn)，生物程序設(shè)計是非常難以克服的。”

因此，未來的工作格局將發(fā)生轉(zhuǎn)變。教師、護士、長者照護等需要深度情感投入的職業(yè)將變得更加珍貴。社會將擁有更多的“自由”，讓人們有時間回歸家庭，照顧孩子與長輩。正如Khosla所言：“我們?nèi)匀粫胍匚唬匀粫偁帲匀粫疹櫸覀兊暮⒆印㈤L輩和家庭。而且我們將有更多的時間來做這些事情。”

自我進化的智能：當(dāng)AI成為科學(xué)家

驅(qū)動這一切變革的核心引擎，是AI自身能力的飛速進化。Altman指出，過去幾年的飛躍主要歸功于三大支柱：“更好的算法、更大的計算機和更多的數(shù)據(jù)。” 但未來的加速將進入一個新的維度——AI將成為科學(xué)研究的直接參與者。

這一過程將是漸進的。最初，AI是輔助工具，幫助研究人員編寫代碼、分析數(shù)據(jù)，使其效率提升十倍。但最終，AI將開始自主進行整個研究循環(huán)。“對我來說，關(guān)鍵的測試是，人工智能是否提出了新的假設(shè)，自己進行測試，然后修改這些假設(shè)？就像那是一個循環(huán)，以一種好的方式來說是惡性的。” Khosla問道。

Altman認為，無論是AI輔助人類，還是AI自主研究，最終的結(jié)果都是一致的：“我們每年的進展都會快得多。” 這種加速不僅體現(xiàn)在算法層面，更將貫穿整個“供應(yīng)鏈”，從數(shù)據(jù)中心建設(shè)到新型芯片的開發(fā)。當(dāng)AI開始加速其自身及相關(guān)技術(shù)的發(fā)展時，一個強大的正反饋循環(huán)便形成了，這將極大地推動科學(xué)發(fā)現(xiàn)的進程。

ChatGPT的演進：從意外發(fā)現(xiàn)到智能操作系統(tǒng)

作為這場革命的標(biāo)志性產(chǎn)品，ChatGPT的誕生與演化本身就是一個充滿啟示的故事。Altman坦誠，OpenAI最初是一個純粹的研究實驗室，并無明確的產(chǎn)品規(guī)劃。在GPT-3模型誕生后，團隊曾對如何產(chǎn)品化感到迷茫。最終，遵循Paul Graham的建議——“無論如何都應(yīng)該創(chuàng)建一個API”——他們將GPT-3開放給世界。

一個意想不到的現(xiàn)象出現(xiàn)了：在用于測試API的內(nèi)部工具“Playground”中，“確實會有人整天和那東西聊天。” 這個微弱但清晰的用戶信號，最終促使團隊決定構(gòu)建一個專門的聊天界面。即便在產(chǎn)品留存率極低的情況下，他們也觀察到，“對于那些留存下來的用戶來說，他們的使用量隨著時間的推移而增加。” 這給了他們堅持下去的信心。

如今，Altman對ChatGPT的未來愿景遠不止于一個聊天機器人。他將其定位為一個“智能操作系統(tǒng)”或“個人AGI”。“這是一個會了解你，會連接到你的東西，并且會按照你想要的方式行動的系統(tǒng)，” 他展望道。無論是通過聊天、代理（Agents）還是集成到其他服務(wù)中，目標(biāo)都是為每個人提供一個無處不在的、個性化的智能伙伴，幫助他們提高效率、變得更好。

投資新范式：追逐未來，而非復(fù)制過去

在這樣一個日新月異的環(huán)境中，投資邏輯也必須隨之改變。當(dāng)被問及領(lǐng)先者是否會鞏固優(yōu)勢時，Altman向投資者提出了一個尖銳而清醒的建議：停止追逐“下一個OpenAI”。

“如果我是有限合伙人，我會把0%的時間用來弄清楚如何投資于另一家人工智能研究實驗室，而把100%的時間用來弄清楚如何投資于下一個事物。” 他用晶體管類比道，真正的巨大價值并非來自制造晶體管的少數(shù)公司，而是由這項基礎(chǔ)技術(shù)所催生的、遍布各行各業(yè)的無數(shù)新應(yīng)用和新公司。

他認為，當(dāng)下被AGI開辟出的新空間比以往任何時候都大。“世界將會出現(xiàn)近乎免費的通用人工智能（AGI），” 他斷言，“你應(yīng)該追逐未來，而不是過去有效的東西。” 投資者應(yīng)當(dāng)去思考，當(dāng)智能的成本趨近于零時，哪些全新的、未經(jīng)證實但具有巨大潛力的商業(yè)模式會應(yīng)運而生。

全球普惠與新的稀缺：能源與算力

對話的最后，落腳于AI的全球影響。Altman對此抱有極為樂觀的態(tài)度，他認為AI將帶來巨大的通貨緊縮效應(yīng)，并推動全球普惠。“每個人都將獲得很好的醫(yī)療建議。每個人都將獲得很好的教育。每個人都將有能力要求制作任何軟件，并且免費。” 科技的本質(zhì)就是將工具交到人們手中，讓其變得廉價甚至免費，從而釋放巨大的生產(chǎn)力。

然而，在這幅普惠的圖景中，新的稀缺資源也隨之浮現(xiàn)。當(dāng)智能本身不再稀缺，支撐其運行的基礎(chǔ)設(shè)施——算力與能源——將成為價值的核心。“你可以想象這樣一個世界：算力變成一種瘋狂稀缺的資源，” Altman警告說。解決之道只有一個：“那就制造更多、更多、更多的算力。”

他給出了一個驚人的預(yù)測，為這場關(guān)于未來的討論畫上了句點：“我預(yù)計10年后人工智能的成本會趨同于電力成本……其他一切都應(yīng)該變得非常便宜。比如我們可以用機器人制造芯片，但你仍然需要驅(qū)動電子。” 在這個即將到來的時代，能源不僅是經(jīng)濟的血液，更將成為智能的基石。對于所有企業(yè)、投資者和個人而言，理解并適應(yīng)這一根本性的轉(zhuǎn)變，將是通往未來的唯一路徑。

附: 天空之城全文整理版

Vinod Khosla: 下午好。請坐，我們馬上開始。謝謝薩姆的到來。

Sam Altman: 謝謝再次邀請我。

Vinod Khosla: 總是很高興你能來。有誰不高興你能來嗎？連續(xù)四年，或者更久，你肯定對這個談話感到厭煩了吧，

Sam Altman: 但是能來這里還是很有趣的。

Vinod Khosla: 所以我很樂意開始，我們已經(jīng)就此進行了多次對話。想象一下2035年之后的世界。也就是從2035年到2050年這段時間，這樣對時間范圍就足夠模糊了。你認為世界會是什么樣子？

Sam Altman: 我認為人們?nèi)匀粫瘳F(xiàn)在這樣坐在一起吃午飯。

Vinod Khosla: 所以在某種意義上，它會，會起作用嗎？

Sam Altman: 但我確實認為那個時期的技術(shù)變革速度將難以形成框架。很難有一個當(dāng)前的框架來應(yīng)對它。很難做出精確的預(yù)測，比如，哦，會是，戴森球會被建造，或者我們已經(jīng)弄清楚了納米機器人，或者，但諸如此類的許多事情我認為會非常不同。所以也許人類的體驗不會改變那么多。比如進化需要很長時間。生物學(xué)就像在很長一段時間內(nèi)根深蒂固的強大驅(qū)動力。但就技術(shù)堆棧中可能實現(xiàn)的目標(biāo)以及一個人可以完成的事情而言，感覺會有很大的不同。

Vinod Khosla: 那么再深入一點。比如今天的公司會發(fā)生什么？今天早上我做了一個演講，下午我會為ILP們重復(fù)一遍。我認為在2030年代，《財富》500強企業(yè)的消亡速度將比我們以往見過的更快。哪些企業(yè)能生存，哪些企業(yè)不能生存，將取決于它們做什么，但消亡速度會更快。你同意嗎？你不同意嗎？

Sam Altman: 我不知道。我的直覺是更快，但我沒有過多考慮這個問題。我一直關(guān)注的是，我的大部分時間，除了開場之外，我都花在軟件公司上，而且我認為我已經(jīng)了解軟件公司的運作規(guī)律一段時間了。但如果我們正走向一個世界，在那里你想要的任何軟件都可以像即時編寫一樣。如果你想做某事，你可以像在AI聊天機器人中輸入一些東西，然后得到一個很棒的軟件。所以，你不用像那樣，去購買這家SAS公司的產(chǎn)品或那家公司的產(chǎn)品，你只需說運行，然后它就發(fā)生了，這感覺是一個非常重大的變化，而且離我們并不遙遠。

Vinod Khosla: 我稍后會回到未來18個月，再談?wù)勥@個。

Sam Altman: 但是像管理復(fù)雜供應(yīng)鏈的大型財富500強公司，比如現(xiàn)實世界總是需要更長時間，但軟件的改變感覺更近了。

Vinod Khosla: 但是到2040年，現(xiàn)實世界有足夠的時間發(fā)生改變。這就是我選擇2035年到2050年這個時間段的原因。2035年只有10年之遙。

Sam Altman: 我會打賭，我會打賭，大多數(shù)現(xiàn)在的公司未能足夠快地適應(yīng)，并因此遭受一些重大損失。

Vinod Khosla: 這令人驚訝。

Sam Altman: 已經(jīng)發(fā)生很長時間了。就像，我的感覺是，新公司增長的加速，以及某種程度上從現(xiàn)有企業(yè)手中奪取市場份額，我認為這就像一個大的指數(shù)增長，新公司可以更快地變得更大、更重要。OpenAI就是一個例子。我們變得非常大，非常快。

人機共存：AI時代的工作與人性

Vinod Khosla: 在那段時間里，是否有一種職業(yè)，我們的觀眾都是創(chuàng)業(yè)者，他們在構(gòu)建AI醫(yī)生、AI治療師、AI腫瘤學(xué)家、AI結(jié)構(gòu)工程師、AI芯片設(shè)計師，當(dāng)然還有AI軟件工程師，AI銷售人員、AI營銷人員、AI會計師，就像這一切都在今天發(fā)生。我假設(shè)所有這些，無論這些公司是否成功，或者一些競爭對手成功，都將在2035年及以后的智力世界中成熟，我們將會回到AI至少無法完成80%工作的物理世界。

Sam Altman: 有很多工作我認為你不希望AI來做，或者很多人不希望AI來做。將會出現(xiàn)新型的工作，人們特別希望由人來完成。我認為我們，我們非常注重關(guān)心他人。我認為說到這些深刻的生物學(xué)的東西，我認為這就是其中之一。所以，也許你可以有一個很棒的AI老師，但它對你的激勵作用不如一個平庸的人類老師。我完全相信。我完全相信，僅僅是知道那是真人還是不是真人，其中就蘊含著非常深刻的東西。

Vinod Khosla: 在這一點上我可能不同意你的看法。我認為一個AI老師可以做得更多，并且能更好地理解你。

Sam Altman: 但我認為很快就會出現(xiàn)比你優(yōu)秀的多的AI投資者。對此我毫無疑問。但我個人仍然喜歡和你一起吃飯。而且如果你告訴我做得好或者你應(yīng)該這樣做，這比人工智能告訴我更有動力。所以我認為你仍然會有一份工作。

Vinod Khosla: 所以，我完全同意你的看法。毫無疑問。我的工作并不比大多數(shù)其他工作更安全。從優(yōu)點上來說，安全性要低得多，但還有另一點。馬克·安德森聲稱這是唯一安全的風(fēng)險投資工作，但我從根本上不同意他的看法。

Sam Altman: 我實際上一直在想我們是否應(yīng)該成立一個像人工智能初創(chuàng)企業(yè)投資者的公司。顯然我已經(jīng)考慮這個問題很久了，但我認為用現(xiàn)在的模型，也許，也許已經(jīng)可以做到了。這將會是一個有趣的小型副項目。

Vinod Khosla: 做這件事會是一個有趣的副項目。而且薩姆有了一個新生兒。所以，我的確認為我們會有更多的時間。母親們不必在孩子16周大的時候就離開他們?nèi)スぷ鳌Ｎ也徽J為，我認為我們將會擁有那種自由。我們將有時間照顧長者。我認為關(guān)于人際關(guān)系的那部分，我同意，但是像教學(xué)和，醫(yī)療保健以及其他服務(wù)，我可能不同意。我想我正在嘗試思考哪些工作不能被完成。那么短期內(nèi)的問題就變成了，誰來促成這件事？

Sam Altman: 為了更深入地探討教師這一點，我認為在某種客觀意義上，我從閱讀維基百科中學(xué)到的東西比從任何老師那里學(xué)到的都要多，或者說本來可以學(xué)到更多。但當(dāng)我想到那些喜歡我的人，或者我廣泛學(xué)習(xí)過程中的那些時刻，一切都與那些與我聯(lián)系、對我有興趣、了解我、關(guān)心我的人有關(guān)，我能感覺到。而且，其中一些會被與人工智能的關(guān)系所復(fù)制。但我認為這件事會比表面上聽起來更奇怪、更復(fù)雜、更不平衡。人工智能將能夠完成很多、很多不同的工作，也許幾乎是所有的工作。然而我們會發(fā)現(xiàn)，生物程序設(shè)計是非常難以克服的。

Vinod Khosla: 我完全同意你的看法。事實上，今天早上我談到了生物程序設(shè)計不會進化這個事實。所以我們?nèi)匀粫胍匚弧Ｎ覀內(nèi)匀粫偁帯Ｎ覀內(nèi)匀粫杏绊懻吆妥⒁饬?jīng)濟，并且我們?nèi)匀粫疹櫸覀兊暮⒆印㈤L輩和家庭。而且我們將有更多的時間來做這些事情。所以我同意這一點。

指數(shù)級飛躍：衡量AI的進步速度

Vinod Khosla: 但請允許我更深入地探討一下。大約三年半以前，人們口中的Chat GPT時刻發(fā)生了。兩年半。兩年半。所以從那時起五年，如果你向前看，即使是從現(xiàn)在起的18個月，到26年底，從今天到26年底，人工智能的能力會有多大的變化？我現(xiàn)在說的非常短期，與我們在Chat GPT時刻和今天之間看到的變化相比呢？兩年半以前。

Sam Altman: 我不確定如何從一個，從一個感覺的基礎(chǔ)上衡量它，我期望如此。我認為從無到有地創(chuàng)造出第一個版本的ChatGPT，可能是大多數(shù)人感受到的最大的系統(tǒng)沖擊。因為就像，好吧，根本沒有這個東西。而現(xiàn)在有了這個東西。

Vinod Khosla: 當(dāng)然，它不是很好，但是從零到一的時刻意義重大。

Sam Altman: 也許我們現(xiàn)在已經(jīng)從1到10，在某種意義上，這應(yīng)該感覺是更大的進步。但我認為對大多數(shù)人來說并非如此。也許在接下來的18個月里，我們會從10到100。但我認為就像每個人都已經(jīng)接受了AGI（通用人工智能）將會發(fā)生，生活還在繼續(xù)，你們?nèi)匀辉谶@里做你們正在做的任何事情。

Vinod Khosla: 好吧，我再次認為，在實際價值上的進展將會是驚人的，但人們期望它是驚人的。

Sam Altman: 鑒于ChatGPT對大多數(shù)人來說是非常出乎意料的事情。所以我不認為，我不認為它會感覺那么狂野。即使影響會大得多。

Vinod Khosla: 我敢猜測，大多數(shù)人并不完全理解變化的幅度，下一個10倍，從10到100。但我可能錯了。實際上是在一個小圈子之外。

Sam Altman: 一年前我會同意，或者兩年前。我當(dāng)然會同意這一點。我現(xiàn)在有點驚訝，就像和旅行中的陌生人聊天什么的。人們會說，哦，通用人工智能幾乎要實現(xiàn)了。就像，電腦已經(jīng)比人聰明多了，而且會變得更聰明。一切都將變得非常不同。但是，我不知道。我認為那里已經(jīng)有了一個很大的更新。

Vinod Khosla: 所以，這一切發(fā)生主要是因為規(guī)模法則。有多少不同的規(guī)模法則向我們講述了這種指數(shù)變化的機制的優(yōu)點？比如是什么在驅(qū)動它？

Sam Altman: 從宏觀層面來看，輸入并沒有發(fā)生太大的變化。我們不斷發(fā)現(xiàn)更好的算法，所以我們不斷找到更陡峭的規(guī)模法則。我們一直在研究如何建造更大的計算機。以及更強大的芯片，并且還將更多的芯片連接在一起。我們一直在尋找更多的數(shù)據(jù)和更好的數(shù)據(jù)。我認為我們將開始進入一個階段，在這個階段中，我們以新的方式將這些系統(tǒng)組合在一起，并且我們擁有某種持續(xù)學(xué)習(xí)，系統(tǒng)可以永遠運行，并且變得越來越聰明。但是，但是，過去幾年的真正故事一直是更好的算法、更大的計算機和更多的數(shù)據(jù)。我真希望我說出一些更深刻、更具洞察力的事情。而且許多算法上的進步都是令人難以置信的。當(dāng)然，我們弄清楚的推理內(nèi)容以及最初的無監(jiān)督學(xué)習(xí)的想法，我都會將這兩者歸入這一類別，并且還有一些較小的成果，但這就像是你努力奮斗的結(jié)果。這讓我想起了研究和工業(yè)學(xué)習(xí)相結(jié)合的任何其他事物，比如晶體管，或者歷史上類似的東西。

自我進化的智能：當(dāng)AI成為科學(xué)家

Vinod Khosla: 因此存在擴展定律，以及多種擴展定律，并且取決于你詢問的對象，聊天數(shù)據(jù)庫（ChatDBT）定義了多種類型的擴展定律。但我考慮了另一個因素，那就是你認為人工智能科學(xué)家什么時候開始進行大部分的人工智能研究？

Sam Altman: 我認為這將是一個非常漸進的過程。這不是一個，比如說今天一個開放人工智能研究員正在使用代碼補全器，它生成他們PR的10%，然后20%，30%，然后它，然后它就像開始，實際去測試一些新的模型架構(gòu)本身。但仍然像研究人員在某種程度上指導(dǎo)它。然后它就像做更多的事情，比如，好的，這是去測試的假設(shè)。但研究人員仍然覺得他們只是更有效率地工作。研究人員可能會說，我正在做百分之百的研究。我只是有更好的工具。但是如果那個研究人員現(xiàn)在輸出的是他們以前的兩倍或十倍，假設(shè)是10倍，你認為那時人工智能做了90%的研究還是0%？因為它不是完全自主地完成整個循環(huán)。我認為這將是一種混亂的聯(lián)合加速。

Vinod Khosla: 人們不必測量它，但可以觀察新的、進展和加速的變化率。對我來說，這是最終的衡量標(biāo)準(zhǔn)。超越我們剛才討論的規(guī)模法則，變化率會發(fā)生什么？

Sam Altman: 我認為在研究方面，我們每年的進展都會快得多。從現(xiàn)在開始，因為我們有了更好的工具。因此，無論你想稱之為人工智能輔助人類，還是人類輔助人工智能，又或是人工智能自己在做研究，最終的結(jié)果都會快得多，不僅是算法過程，還有整個，整個像供應(yīng)鏈一樣的東西。如果人工智能幫助我們更快地建造數(shù)據(jù)中心，如果它幫助我們更快地劃分、開發(fā)新型的芯片，包括非常奇異的東西，我認為這都算數(shù)。所以，如果你把它看作是一種進步的速度，只要人工智能以某種方式幫助其更快地發(fā)展，你就可以將其視為人工智能在進行部分研究，那么我認為速度會快得多。

Vinod Khosla: 對我來說，關(guān)鍵的測試是，人工智能是否提出了新的假設(shè)，自己進行測試，然后修改這些假設(shè)？就像那是一個循環(huán)，以一種好的方式來說是惡性的。

Sam Altman: 我有一個稍微不同的視角。我認為我們關(guān)心的是我們能多快地完成更好的研究。如果人工智能自己提出假設(shè)，或者使人類能夠提出人類自己無法提出的假設(shè)，我同樣高興。

投資新范式：在AI浪潮中尋找下一個機遇

Vinod Khosla: 這里很多有限合伙人都問我一個問題，那就是，那些獲勝者是否會通過這種加速來鞏固他們的領(lǐng)先地位？而且，如果，如果研究加速的這個假設(shè)是正確的，那么，那么你和其他一些領(lǐng)導(dǎo)者就能延續(xù)他們的領(lǐng)先地位。對于從頭開始的新玩家來說，除非他們提出完全正交的方法，否則就更難參與。正如你所知，我們正在研究一些正交的方法，但是，這是否會延續(xù)，讓OpenAI在估值不斷增長方面獲得優(yōu)勢，這是我們都希望的？我當(dāng)然希望這樣。這是很多人都在思考的問題。

Sam Altman: 聽著，如果我是有限合伙人，我會把0%的時間用來弄清楚如何投資于另一家人工智能研究實驗室，而把100%的時間用來弄清楚如何投資于下一個事物。這種東西，普通合伙人在這方面也很糟糕，但是，你不是，你在這方面做得相當(dāng)好。但是，但總的來說，世界上如此多的投資資本的心智份額都花在了追逐上一批贏家上。你幾乎永遠賺不到錢。你幾乎永遠在那里賺不到大錢。你幾乎總是在關(guān)注現(xiàn)在世界上出現(xiàn)的新可能，并投資于一種未經(jīng)證實的事物，而你對它有某種差異化的洞察力，才能獲得巨大的回報。

所以現(xiàn)在，每個人都想投資下一個OpenAI，可能下一個數(shù)萬億美元的公司不會是另一個AGI研究實驗室。它可能會因為通用人工智能（AGI）作為一項新技術(shù)而建立起來，就像OpenAI剛起步時，大多數(shù)人想投資的是，比如，我不記得是什么了，另一個Facebook之類的，或者另一種加密貨幣。

Vinod Khosla: 我確實要告訴你一個有趣的故事。當(dāng)我們投資OpenAI時，那是我20年來唯一一次因為投資而向我們所有的有限合伙人發(fā)送道歉信，說，我知道這看起來很奇怪，但我們還是要這樣做。

Sam Altman: 我只會稍微以此來反對你。沒關(guān)系。無論如何，我認為這是一個非常激動人心的時刻，因為被開辟的新空間比我以往見過的任何時候都大。當(dāng)OpenAI啟動時，我們的空間被一項研究突破所開辟，比如加密貨幣市場補貼GPU，以及那里的許多新進展。還有其他一些事情，但沒有，我記得那個時期，我認為值得做的事情的清單，非常非常短。我認為現(xiàn)在值得做的事情的清單非常龐大。我認為這就是人們應(yīng)該去資助的東西。無論回報，無論研究回報是否繼續(xù)歸OpenAI或其他公司所有，我認為在這一點上，作為資本配置者，這幾乎不是最重要的問題。世界將會出現(xiàn)近乎免費的通用人工智能（AGI）。

會有像OpenAI這樣的公司，我認為，它們創(chuàng)造了巨大的價值，因為我們有一個非常龐大和成功的消費產(chǎn)品以及其他一些東西。

Vinod Khosla: 但如果我們再次回到晶體管的類比，只有少數(shù)幾家公司是真正的晶體管公司，然后大部分都消失了，只有少數(shù)幾家幸存了下來。

Sam Altman: 現(xiàn)在看看這個房間里有多少東西包含晶體管。然后我們不再把這些稱為晶體管設(shè)備或晶體管公司。它只是變成了一種技術(shù)，促成了一整批新公司，包括OpenAI。而且，這就是我們要追求的。再次說明，現(xiàn)在是資本配置者非常激動人心的時刻。你應(yīng)該追逐未來，而不是過去有效的東西。

ChatGPT的誕生：從意外發(fā)現(xiàn)到全球現(xiàn)象

Vinod Khosla: 讓我回到ChatGPT的發(fā)布。什么最讓你感到驚訝？然后，根據(jù)你在用戶行為方面看到的情況，你的想法是如何演變的？

Sam Altman: 我會稍微倒退一點。我們，所以科技公司的傳統(tǒng)是你創(chuàng)辦一家產(chǎn)品公司，建立成功的產(chǎn)品公司，然后你決定像螺栓一樣把一個研究實驗室拴在上面。這有時效果很好，比如施樂帕克，有時效果很差，比如一些更現(xiàn)代的公司。但據(jù)我所知，我們是唯一一個先創(chuàng)辦一個運行良好的研究實驗室，然后把一個運行糟糕的公司，稍后用螺栓連接起來的例子。那是OpenAI成立四年半的時候。好的。我們，我們一開始并沒有想過要生產(chǎn)產(chǎn)品，但最終很明顯，由于規(guī)模法則，我們需要大量的資金，我們將不得不去建立一家非常大的公司。所以你需要有一個產(chǎn)品，有一個公司。

我們有一個叫做GPT-3的模型，我們正在嘗試，我喜歡提高公司尋找產(chǎn)品的緊迫性，但我們就是做不到，它還不夠好。它很酷，但還不足以制造出有用的東西。我記得保羅·格雷厄姆（Paul Graham）給過我一個始終銘記于心的建議，那就是無論如何你都應(yīng)該創(chuàng)建一個API。只是，好的事情就會發(fā)生。由于沒有做出產(chǎn)品的想法，我們說，不如將這個眾包給全世界，我們將GPT-3放入一個API中，也許會有人想出用它來做什么。全世界剛好想出了用它來做一件事。唯一用GPT-3賺到錢的就是這些文案撰寫應(yīng)用。我現(xiàn)在實際上忘記了這些公司的名字，但有幾家公司很快就變成了估值超過10億美元的公司，它們只是使用GPT-3為網(wǎng)站生成文案，然后轉(zhuǎn)售，比如Jasper之類的東西。Jasper。就是這樣。人們嘗試了其他的東西，但沒有其他公司成功。

然而，我們有一個叫做playground的東西，你可以在那里測試提示，看看你會得到什么。那是那種出人意料的成功。某些人，雖然不多，但確實會有人整天和那東西聊天。那時我們還沒弄清楚我們的LHF，甚至還沒推出GPT 3.5。所以它不是很好，但有明確的用戶信號表明人們想和模型對話。鑒于除了文案撰寫之外，這是唯一真正有吸引力的東西，我們說，也許這正是我們應(yīng)該構(gòu)建的產(chǎn)品。因此，我們開始做一些研究，以使模型更容易聊天，而你不需要做這些復(fù)雜的提示。我們有了一個更好的模型，然后我們決定推出一個聊天界面。我們原計劃還需要構(gòu)建其他一些東西。

Vinod Khosla: 在OpenAI內(nèi)部存在一個很大的擔(dān)憂，即如果你可以聊天，是否必須是某種特定的助手，試圖幫助你學(xué)習(xí)一些東西或幫助你完成某個目標(biāo)？

Sam Altman: 因為如果你只是閑聊，人們會想這樣做嗎？或者那會讓人覺得你不知道該說什么？而且，而且我們差點就堅持下來了，但我們發(fā)布了這個預(yù)覽版，你可以在里面隨意聊天。另一個有趣的發(fā)現(xiàn)是，我們有一個這樣的測試組，但很少有用戶，這是在模型非常糟糕的時候。很少有用戶，真正堅持使用它。用戶留存率非常糟糕，但是對于那些留存下來的用戶來說，他們的使用量隨著時間的推移而增加。而且再次說明，我們差點因此而沒有發(fā)布它。我后來反思的一個重要教訓(xùn)是，如果你的產(chǎn)品有任何留存率，你實際上已經(jīng)處于非常好的狀態(tài)了。如果是5%，那完全可以接受。默認情況幾乎總是直線下降到零。但我當(dāng)時并沒有那么直觀地理解這一點。

智能操作系統(tǒng)：ChatGPT的未來愿景與企業(yè)應(yīng)用

Vinod Khosla: 所以，我不知道你們公開使用的今天的chat DVD用戶數(shù)量是多少。你對聊天DVD未來的愿景是什么？

Sam Altman: 就像，OpenAI的一個部門，我們希望構(gòu)建一套小型產(chǎn)品和一個平臺，你可以將其與任何其他服務(wù)一起使用，作為你的默認個人AGI。這是一個會了解你，會連接到你的東西，并且會按照你想要的方式行動的系統(tǒng)。如果你想通過聊天界面使用它，很好。如果你你想以一種新的方式使用社交產(chǎn)品或娛樂產(chǎn)品，很棒。如果你想通過代理和其他一堆東西完成大量工作，也很棒。如果你想能夠登錄任何其他服務(wù)，并將你的智能帶到那里，我們也會提供。隨著時間的推移，這將擴展到新型服務(wù)。我認為有一些非常重要的新型計算機需要構(gòu)建。我們希望我們的用戶也能擁有這些。但我認為人們將會與人工智能建立一種非常重要的關(guān)系，這種人工智能將幫助他們提高效率、變得更好、更快樂，或者做任何事情，只是為了推動他們的生活。我們希望成為那個人工智能。

Vinod Khosla: 所以這不僅僅是隨叫隨到的智能。

Sam Altman: 在某種程度上，這就是我們所銷售的，但在創(chuàng)造卓越的體驗并以不同的方式整合它們方面存在很多價值。

Vinod Khosla: 因此，如果你著眼于聊天活動的下一個10億用戶，它是否是相同的用例？它是否以某種方式擴展了？它是否有很多不同的細分市場？你想象的是什么？我不喜歡瀏覽我們的產(chǎn)品路線圖，但是，我認為，我們?nèi)匀惶幱谌斯ぶ悄艿慕K端階段，而且我碰巧喜歡終端。

Sam Altman: 我認為那是使用計算機的好方法。但是，當(dāng)我們圍繞它構(gòu)建現(xiàn)代計算機界面的其余部分時，雖然這不會是計算機的字面樣子，但那種設(shè)備會向前發(fā)展，我認為它會更容易使用，并且對大多數(shù)人來說更強大、更容易上手。

Vinod Khosla: 我聽您說過，ChatGPT是智能的操作系統(tǒng)。尚未達到。

Sam Altman: 我們希望達到那個程度。

Vinod Khosla: 那么還缺少什么？

Sam Altman: 所有東西都缺少。就像我們還處于非常早期的階段。

Vinod Khosla: 我們有一個完整的，我們是早期階段，但肯定有一些您認為缺少的東西。有，如果您不想談?wù)撊鄙偈裁春褪裁春芸幔矝]關(guān)系。

Sam Altman: 就像我們，那是我們的產(chǎn)品路線圖。就像，我們，

Vinod Khosla: 好的。讓我們，讓我們稍微轉(zhuǎn)換一下。顯然，除了個人使用之外，另一個重要的領(lǐng)域是企業(yè)使用。稍微談?wù)勀莻€方面。

Sam Altman: 所以我有點，我認為這里有兩個有趣的向量。其一，虛擬同事的概念，以及利用人工智能來更好地完成企業(yè)現(xiàn)在必須做的所有事情的能力，這很棒。而且你已經(jīng)可以看到一些這方面的例子。

Vinod Khosla: 編碼代理方面的東西就是一個例子，你可以看到它在企業(yè)中的明顯應(yīng)用。

Sam Altman: 人工智能客服代理在客戶支持方面所做的事情非常棒。而且我認為，在大多數(shù)企業(yè)中，人工智能完成的工作比例與人完成的工作比例相比，只會越來越高。這似乎很明顯，而且進展順利。

Vinod Khosla: 我更興奮的是，對于一個企業(yè)來說，能夠?qū)⒄麄€計算集群投入到一個非常困難的問題中意味著什么？

Sam Altman: 科學(xué)發(fā)現(xiàn)的科學(xué)案例也許是最令人興奮的，但還有很多其他非常困難、有價值的企業(yè)問題，如果他們能解決這些問題（但他們現(xiàn)在無法解決），就能實現(xiàn)新的突破。隨著我們擁有能夠深入思考問題的AI系統(tǒng)，我認為這從根本上將成為企業(yè)領(lǐng)域的一部分，并且發(fā)現(xiàn)新材料，弄清楚如何優(yōu)化一些非常困難、非常復(fù)雜的供應(yīng)鏈。我很高興看到它將走向何方。

Vinod Khosla: 如果你著眼于企業(yè)環(huán)境中的短期情況，我們已經(jīng)討論過AI科學(xué)家（非AI科學(xué)家）用于AI，AI科學(xué)家，材料科學(xué)或生物學(xué)或其他領(lǐng)域。我認為你已經(jīng)談到在所有這些模型中，某種能力層會在某個時候出現(xiàn)。我們在企業(yè)里。在短期內(nèi)，沒有新能力的情況下，它會最具顛覆性嗎？你的收入短期內(nèi)將來自哪里？

Sam Altman: 我是說，我猜在短期、極短期內(nèi)，人工智能軟件工程師將是對企業(yè)最具顛覆性的事物。就像各公司都在以最快的速度在這方面投入最多的資金。其中有很多有點奇怪的原因，使其成為一個特別好的環(huán)境。它能直接轉(zhuǎn)化為大多數(shù)公司目前的限制性試劑和收入機會。所以我敢打賭，這將是今年剩余時間里的重頭戲。也會有其他事情，但你會開始看到那些擅長此道的公司或團隊，能夠顯著地超越其他公司或團隊。

Vinod Khosla: 顯然軟件開發(fā)，我認為幾乎每個人都認識到這是一個主要領(lǐng)域，一個重要的新領(lǐng)域。軟件之外的傳統(tǒng)企業(yè)職能呢？

Sam Altman: 我認為那些，再說一次，這不再是一個理論上的東西了。就像我們從一些公司那里聽到，他們說，我正在用人工智能做我所有的客戶支持。現(xiàn)在我正在用人工智能做我所有的應(yīng)用銷售。我正在做我所有的，選擇你的其他垂直領(lǐng)域。所以這一切也在發(fā)生。我只是不認為它會產(chǎn)生完全相同的可見影響。

在不確定性中航行：OpenAI的決策哲學(xué)

Vinod Khosla: 讓切換到另一個話題。你在OpenAI經(jīng)歷了很多決策，這些決策都伴隨著極大的不確定性，圍繞著這項技術(shù)是否可行？它將如何發(fā)展？競爭對手會怎么做？你做過的最艱難的決定有哪些？哪些結(jié)果是正確的，哪些是錯誤的？或者你是怎么考慮這個問題的？

Sam Altman: 對我而言，最困難的事情不是任何單個的決定，雖然其中有很多艱難的決定，而且我們也犯了不少錯誤。而是我們必須做出的決定的數(shù)量，以及我們必須同時做的事情的數(shù)量，以及它們相互關(guān)聯(lián)的程度。而且我從來沒有找到過真正好的建議。所以我們正在努力克服它。但我認為，如果我們能夠以我們想要運營的規(guī)模運營，并且做我們想要做的那么多事情，但只需要做一半的決定，生活就會感覺非常輕松。但感覺我們在這方面實在是不勝負荷。我不知道該怎么辦。

Vinod Khosla: 因為我們確實必須同時做很多事情。

Sam Altman: 我們必須運營一個偉大的研究項目。我們必須構(gòu)建大規(guī)模的基礎(chǔ)設(shè)施。我們必須弄清楚如何構(gòu)建所有這些產(chǎn)品，比如一長串的東西。但是，我認為硅谷并沒有很好的智慧來指導(dǎo)如何快速做出許多決定。我認為對于如何做出少量決定或幾個重大決定，倒是有很好的建議。

Vinod Khosla: 但我還沒有想好如何將開放人工智能轉(zhuǎn)化為一個組織。

Sam Altman: 它只需要做出幾個重大決定，這正是我認為如果我們能做到，最能提供幫助的事情。我們已經(jīng)請她提供支持和幫助。

Vinod Khosla: 我最近聽到的關(guān)于ChatGPT的最佳應(yīng)用是，有人說它比他們用過的任何高管教練都要好得多。

Sam Altman: 它在治療和輔導(dǎo)方面表現(xiàn)出色的普遍情況讓很多人感到驚訝。在這一點上，它已經(jīng)占據(jù)了我們使用量的很大一部分。也許，也許我認為很難做出的另一類決定，就是像做…的決定，弄清楚如何做新的事情或者決定做新的事情。就像我們在OpenAI引以為豪的一點是，我們努力做新的事情，而不是抄襲競爭對手或其他研究實驗室。所以如果你看看其他研究實驗室，他們大多試圖做同樣的研究，睜大眼睛盯著，并且他們大多試圖完全克隆我們的產(chǎn)品。比如，它們在整個行業(yè)中看起來驚人地相似。

Vinod Khosla: 我過去喜歡嘲笑別人，認為這只是一種缺乏創(chuàng)造力之類的東西。

Sam Altman: 這也是原因之一。但是，做出那些用于做新事情的決定真的很難。如果你知道其他事情可行，那太誘人了。我現(xiàn)在非常理解，只是復(fù)制它而不做這些決定。我認為這不是世界進步的方式，但我現(xiàn)在真的能理解人們?yōu)槭裁催@樣做。

Vinod Khosla: 好的。那么，所以有研究實驗室，而且他們之間互相抄襲，并在彼此的想法之上進行構(gòu)建。許多企業(yè)家在極度不確定的情況下做出關(guān)于模型將擁有什么以及如何在極度不確定情況下做出決策的決定。而且可能不是決策的數(shù)量，但它們是非常關(guān)鍵的戰(zhàn)略決策。對他們來說，在如何處理這種不確定性方面有什么建議嗎？因為這個問題我可能比任何其他問題都更常被問到。人工智能的能力將走向何方，我應(yīng)該做出什么假設(shè)，以及在哪里，我該如何在此基礎(chǔ)上建立我的初創(chuàng)公司？當(dāng)前的模型？

Sam Altman: 歷史上有效的方法是假設(shè)模型在各個方面、每個維度都會變得更好，更好、更便宜，比如更多，更好的多模態(tài)，更好的智能，更好的推理能力，更低的成本。我不認為有任何理由相信這種情況在未來幾年會放緩。我認為會出現(xiàn)一些暫時的放緩，人們，重寫他們的基礎(chǔ)設(shè)施，或者等待新的集群出現(xiàn)，或者其他什么。但總的來說，我認為最好的做法就是不要自作聰明，不要試圖說，它會在這個小方面或那個方面變得更好嗎，或者確切地知道如何把握時機和時間，只需問自己一個問題，好吧，如果一個先知告訴這個模型在各個維度上每年都會提高大約10倍。我應(yīng)該在什么時候開發(fā)什么產(chǎn)品？這將是相當(dāng)好的高層次指導(dǎo)。

Vinod Khosla: 嗯哼。那么，對于那些在你的模型之上或在Traffic或谷歌的模型之上進行構(gòu)建的人來說，你認為最容易被誤解的是什么？你希望那些在你之上進行構(gòu)建的創(chuàng)業(yè)者理解什么，而不是那些試圖與你競爭的人？

Sam Altman: 我對現(xiàn)在構(gòu)建人工智能應(yīng)用程序的人印象非常深刻。

Vinod Khosla: 我認為他們對模型以及它們能做什么和不能做什么，以及如何最大限度地發(fā)揮它們的性能了解很多。

Sam Altman: 我沒有希望他們理解更多的愿望清單。有一些，我最近在我家舉辦了一次晚宴，我試圖邀請大約20位我聽說過或見過的最令人印象深刻的新一代人工智能創(chuàng)始人。就像我剛才在桌邊轉(zhuǎn)了一圈，我在想，天哪，這些人比5年或10年前的創(chuàng)始人優(yōu)秀太多了。感覺我在這里沒有什么愿望清單了。我印象非常深刻。

全球影響與未來展望：圓桌問答

Vinod Khosla: 我想談?wù)勅斯ぶ悄艿囊恍┤蛴绊懀陂_始之前，我要問你們我最喜歡的問題，并且我會留出足夠的時間給觀眾提問。謝謝。你們認為我們什么時候會出現(xiàn)一家擁有10名員工，但收入達到10億美元的公司？這種情況已經(jīng)開始了嗎？很快就會開始。不可能。顯然我有我的偏見。

Sam Altman: 我敢打賭這家公司要么已經(jīng)開始，要么會在未來幾年內(nèi)開始。

Vinod Khosla: 我完全，我一直在猜測。它可能已經(jīng)開始了，而且思考如何創(chuàng)造價值以及創(chuàng)造價值需要什么，這是一個非常了不起的想法。

Sam Altman: 這就是為什么我認為人工智能在科學(xué)領(lǐng)域應(yīng)用如此有趣。你可以想象一種藥物，產(chǎn)生超過10億美元的收入，這種藥物可能被一個人加上，你知道的，5萬個GPU或其他東西發(fā)現(xiàn)并進行試驗。

Vinod Khosla: 我剛看到一篇文章。今天早上有人在我的郵件里發(fā)給我一篇文章，我還沒來得及看，說使用人工智能發(fā)現(xiàn)了一種治療黃斑變性的方法。所以你的觀點是對的，但同樣的情況也可能發(fā)生在娛樂和其他一些領(lǐng)域。讓我們談?wù)勅蛲茝V，以及我們?nèi)绾未_保人工智能的益處在全球范圍內(nèi)更廣泛、更公平地傳播。所以，有一種擔(dān)憂，就是富者更富，因為內(nèi)部圈子，情境感知論文提到，只有幾百人了解這種變化有多大，以及它發(fā)生的速度有多快，但是談?wù)勅蛴绊懀约拔覀內(nèi)绾未_保公平，以及更廣泛地使用和傳播這些益處，首先甚至在這個國家內(nèi)部，因為這里面存在不對稱性。然后，在全球范圍內(nèi)。

Sam Altman: 所以我不想表現(xiàn)得好像，我對這個問題感到不滿，但我不希望完全否定它，因為我認為它有重要的意義。但是ChatGPT我認為是世界第五大網(wǎng)站。現(xiàn)在它是，如果它保持目前的軌跡，這很難做到，它將成為世界上最大的網(wǎng)站。在某個時候，將有數(shù)十億人使用免費的通用人工智能。每個人都將獲得很好的醫(yī)療建議。每個人都將獲得很好的教育。每個人都將有能力要求制作任何軟件，并且免費，我們將為你做。這就是，這就是科技的運作方式。而且我認為資本主義真的很棒。這并不意味著我們不需要在邊緣進行修正。我認為我們需要。我認為有一些重要的事情，我們需要以不同的方式來處理。但是，總的來說，這種方式對世界有益，科技對世界有益。你把工具放在人們手中，你讓它們免費或低成本，人們就會做出驚人的事情。

Vinod Khosla: 而且我認為有很多人，我認為有很多人認為，哦，世界還沒有準(zhǔn)備好迎接這個。

Sam Altman: 他們無法應(yīng)對。只有少數(shù)人可以理解它。那里有篇論文，還有許多其他的。但我認為人們確實大概知道他們需要什么，并且他們很擅長學(xué)習(xí)如何使用新技術(shù)。而且，再次強調(diào)，這不像是在做理論研究。這就像今天正在大規(guī)模發(fā)生的事情。我認為這非常棒，而且它正在發(fā)生，因為世界上現(xiàn)有的系統(tǒng)和激勵機制在很多方面都是非凡的。

同樣，有些事情我們需要以不同的方式去做。如果人工智能開始取得重大的科學(xué)發(fā)現(xiàn)，一些公司會利用人工智能來發(fā)現(xiàn)治療所有癌癥的方法。我希望這些人變得非常富有，但我也希望世界上所有其他人都能獲得廉價的癌癥治療方法。有人利用人工智能使核聚變商業(yè)化。我希望這些人變得非常富有，但整個世界將受益于電價暴跌。

Vinod Khosla: 所以我有點覺得整體而言，科技在傳播大規(guī)模的全球利益方面做了很多。

Sam Altman: 而過去幾百年的故事就是如此。我們不應(yīng)該為此感到羞愧。我們不應(yīng)該試圖解釋為什么我們所做的事情沒有那么邪惡。就像，它真的非常棒。我認為關(guān)于人工智能會有一些不同的地方。你可以想象這樣一個世界：算力變成一種瘋狂稀缺的資源，以某種民主的方式?jīng)Q定我們用大量的算力按什么順序解決哪些問題，這需要一種與我們過去不同的方法。你可以想象獲取算力的情況，你可以想象世界上大多數(shù)資本決定想要獲取算力，然后它就變成了一種瘋狂昂貴、瘋狂有限的東西。那樣就不好了。但我關(guān)于如何解決這個問題的答案，至少第一次嘗試的答案是，那就制造更多、更多、更多的算力。我認為這方面一直在來回變化，所以我沒有信心，但我認為這應(yīng)該是一種力量，朝著世界更加平等，而不是進一步分化的方向發(fā)展。

Vinod Khosla: 考慮到時間關(guān)系，我先提出三個問題。你可以回答其中任何一個或全部。好的。政府的角色。我預(yù)計人工智能將在2030年代造成巨大的通貨緊縮經(jīng)濟。以及具有感知能力的人工智能的風(fēng)險，你選擇你想回答的任何一個或全部。好吧，不如我先從通貨緊縮開始？

Sam Altman: 你告訴我什么時候我說得太久了，然后從其他問題中選取。我認為它應(yīng)該是非常，我希望它是通貨緊縮的。我認為它應(yīng)該是這樣，但所有將要創(chuàng)造的過剩財富都需要流向某個地方。我希望像水、食物、醫(yī)療保健、教育，以及，接近自然、與家人共度時光以及其他一切事物。我希望它能成為每個人都能負擔(dān)得起的東西。然后我們都能找到最愚蠢的地位游戲來玩，并競相抬價，把達·芬奇的畫作抬到1萬億美元，或者把星系抬到1千萬億美元，讓那些喜歡玩地位游戲、想為他人創(chuàng)造價值、并且基本上想擁有吹噓資本的人能夠去做這些事。

Vinod Khosla: 但是，我認為這是一個有趣的問題，比如如果我們希望一切都急劇通貨緊縮，如果我們希望一切都變得超級便宜，而人們，雄心勃勃，富有創(chuàng)造力，并且樂于幫助那些努力工作的人，而且我們將有某種方式來跟蹤這一點。

Sam Altman: 剩余的財富將流向哪里？而且，我認為這是一個非常有趣的設(shè)計問題。

Vinod Khosla: 沒錯。我在某種程度上非常相信經(jīng)濟將會如何通貨緊縮。如果它能很好地衡量GDP，但我認為不會，我們將如何衡量GDP增長，我認為GDP增長將會爆發(fā)。所以你會看到這兩件事同時發(fā)生。但我們先回答觀眾提問。這里能給一個麥克風(fēng)嗎？

聽眾: 嘿，薩姆。我們這次峰會的大部分人都在討論人工智能如何賦能我們的業(yè)務(wù)。我想稍微反過來，把它看作一種潛在的威脅。讓我們競爭對手構(gòu)建競爭模型，更好的模型，更快地拉平競爭環(huán)境，甚至更糟的是，對我們不利。你會，你會怎么考慮這個問題？

Sam Altman: 我不確定我是否理解這種區(qū)別。就像我認為它會賦能某些人，并使另一些人處于不利地位。而且，我認為你只需要努力站在被賦能的一方。但我認為這兩件事都是真的，但我不知道該如何采取不同的行動。就像，你所有的競爭對手和新的競爭者都會試圖用人工智能來超越你，而你所能做的就是做得更好。

Vinod Khosla: 那個問題的另一種表述是，在超級智能的世界中，競爭模式是否還有可能存在？

Sam Altman: 我不知道。答案當(dāng)然是肯定的，但我不清楚它們會是什么樣子。我認為它們會的。我認為其中一些看起來會差不多，你知道的，就像網(wǎng)絡(luò)效應(yīng)品牌。我可以想象那些東西看起來非常相似。還有很多其他的，我確信它們不會存在。我想象會有新的出現(xiàn)。

Vinod Khosla: 但這就像是，我認為這是商業(yè)中很有趣的部分。

Sam Altman: 比如，去弄清楚那些新的模式會是什么樣子，這很棒。

聽眾: 嗨，山姆。嘿，維諾德。克里斯·李，我認為你提到了一些非常有趣的東西，那就是會有一個科學(xué)問題。他們可以投入5萬個GPU。我認為聚變對我們這里的一些人來說是感興趣的。只是推測，物理世界無法如此快速地擴大規(guī)模，但你什么時候會打開開關(guān)，投入5萬個GPU來解決像聚變這樣的問題？大概就是現(xiàn)在。

Sam Altman: 我認為，我認為，我認為你想稍微提前一點，因為你會開始了解它的輪廓。我認為現(xiàn)在是啟動一些大型高計算科學(xué)項目的合適時機。我不知道這是否是確切的開始方向，但方向上是如此。

聽眾: 你好, 在能源方面類似于聚變。您如何看待能源基礎(chǔ)設(shè)施和人工智能的世界？我一月份在瑞士參加一個會議，聽到埃里克·施密特發(fā)言，他說，歐洲永遠不會在人工智能領(lǐng)域取得巨大成就，因為能源成本太高了。你需要所有這些計算能力，然后DeepSea問世了，它效率更高。當(dāng)您開發(fā)這些數(shù)據(jù)中心以滿足您技術(shù)對能源的需求時，您是否看到，您關(guān)于未來發(fā)展方向的假設(shè)發(fā)生了改變？

Sam Altman: 我認為這兩件事都是真的。

Vinod Khosla: 我認為模型將變得非常高效，而且世界上有如此多的需求。

Sam Altman: 我們將需要許多吉瓦，數(shù)十吉瓦，最終可能需要數(shù)百吉瓦的能源來運行世界上的這種人工智能需求，即使使用超高效的模型。但我對新的能源上線非常樂觀，我認為它將是豐富且廉價的。我認為人工智能和能源顯然是極度相關(guān)的。能源因其他原因也很有價值。你希望有能力讓事情在世界上發(fā)生。但我預(yù)計10年后人工智能的成本會趨同于電力成本，這種程度。就像，怎么強調(diào)都不為過。其他一切都應(yīng)該變得非常便宜。比如我們可以用機器人制造芯片，但你仍然需要驅(qū)動電子。

聽眾: 非常感謝你，薩姆。謝謝你的筆記。我想回到節(jié)點。第三個問題。政府的角色是什么？

Sam Altman: 關(guān)于人工智能基礎(chǔ)設(shè)施的問題，我認為確保我們能夠構(gòu)建足夠的人工智能，使其充足，而不是所有的可用性都被富人吸走，這一點很重要。這似乎是政府的一件重要事情。這里需要一些關(guān)于監(jiān)管的護欄。我認為，我們都能看到這可能會成為一場災(zāi)難，但對它的監(jiān)管不足本身也可能會非常糟糕。因此，制定一些全球規(guī)則，尤其是在系統(tǒng)變得更加強大時，我認為這只能由政府來完成。我認為，公司會提出并弄清楚應(yīng)該是什么，但我認為它只能由政府在全球范圍內(nèi)執(zhí)行。我認為會出現(xiàn)一些關(guān)于如何共享分配和訪問權(quán)限的問題。關(guān)于我們?nèi)绾慰创龜?shù)據(jù)，你知道的，在這個世界里，會存在一些很大的問題，而政府將不得不對此進行權(quán)衡。我預(yù)計這會像是，你知道的，到比如美國2028年大選時，會成為政治領(lǐng)域非常重要的議題之一。

聽眾: 你好，山姆。有兩個問題。一個是關(guān)于接口的帶寬。所以，似乎隨著越來越多的代理變得越來越強大，能夠做不同的事情，我可能希望達到一個可以同時與數(shù)千個代理交談的程度。問題是，如果我不斷地切換接口，并且像是等待他們回復(fù)報告，我可能就什么都做不了，只能處理代理做這件事情或那件事情。然而，另一個問題是我不能讓他們放手去做，因為他們做的事情會和我原本的確切意圖有所不同。這是可用的。就像那樣，那種理解變得清晰。一旦你甚至喜歡讓它來寫一份產(chǎn)品需求文檔（PRD），盡管它顯然不能完全滿足我的所有需求。而且，其中涉及大量的編輯工作。因此，帶寬是我可以處理的代理數(shù)量的擴展問題的原因。那么你對此怎么看？接下來該怎么做？

Sam Altman: 會有一些代理的工作是輸出，比如評估其他代理的輸出，并決定什么時候呈現(xiàn)給你，以及什么時候可以做出決定，或者理解你將做出的決定。所以這將是另一種代理的工作，我敢打賭它會非常有效。可能會有，為你定制生成的用戶界面，它會根據(jù)這些代理的輸出來實時演變，并且它會很好地判斷出何時引起你的注意。但是，我認為今天的許多問題將不會是明天的問題，因為人工智能只會越來越聰明，并且可以在越來越高的執(zhí)行功能層面上工作。

Vinod Khosla: 還有其他問題嗎？

聽眾: 嗨，山姆，米卡，來自Somite AI。首先，祝賀你們邀請到斐濟·西莫加入。她是我們的顧問，也是我認識的最出色的領(lǐng)導(dǎo)者之一。關(guān)于干細胞分化的基礎(chǔ)模型，人類干細胞，目的是，帶來，新型的療法，新型的細胞替代療法，以一種新的數(shù)據(jù)模式。我想問你們的問題是，當(dāng)你們思考，物理世界即將到來的突破，生物學(xué)等等，瓶頸在哪里？會不會，突破會來自哪里？會來自通用模型嗎？會來自，特定領(lǐng)域模型嗎？會來自數(shù)據(jù)本身嗎？在生物學(xué)領(lǐng)域，你們認為，帶來新型療法的突破或真正的首次突破會在哪里？

Vinod Khosla: 顯然我并不真正了解。

Sam Altman: 我認為在某些科學(xué)領(lǐng)域，即使沒有更多數(shù)據(jù)，更聰明的智能也能取得新的突破。比如我認為在物理學(xué)中，在沒有增加任何額外數(shù)據(jù)點，甚至不建造新的粒子加速器的情況下，人工智能可能就能解決物理學(xué)問題。我認為這不是很可能，但也許我們所需的所有數(shù)據(jù)都在那里。而我們只是沒有，我們沒有能力解決足夠難的積分或其他問題。還有像生物學(xué)這樣的領(lǐng)域，我認為即使不進行任何額外的濕實驗室實驗，我們就能治愈所有癌癥的可能性要小得多。并非不可能，但可能性不大。我認為我們將不得不構(gòu)建新的系統(tǒng)，不一定是自動化的濕實驗室。只要它向科學(xué)家發(fā)送電子郵件說，你能為我運行這個實驗并告訴我答案嗎，就可以了。但某種程度上，像主動學(xué)習(xí)系統(tǒng)一樣，可以不斷獲取新的數(shù)據(jù)點。但是什么問題會歸入哪個類別，以及限制因素的確切位置在哪里，我們只會，我們會對此采取一種經(jīng)驗主義的方法。

Vinod Khosla: 好的，謝謝你，薩姆。我想我們今天就到這里吧。謝謝你們邀請我。非常感謝你的到來。