Sam Altman對話美聯儲Bowman

鮑曼：大家下午好。非常感謝大家今天能來參加我們有史以來的第一次資本會議。我們非常期待今天將要進行的所有對話，特別是當我們繼續在跨機構內部以及與美聯儲就資本問題進行合作時，我們期待能從中獲得啓發，並且更廣泛地展望銀行業的未來。 在我們今天下午開始爐邊談話之前，我也想花點時間感謝我們的座談會參與者。感謝你們抽出時間參與這次重要的對話。當我們思考這個領域以及許多其他領域的監管將如何發展時，我們非常期待在繼續這些討論的過程中與你們進行交流。

但在很多方面，今天的主題是關於銀行業的未來。考慮到這一點，我們現在想轉向另一個正在塑造金融創新的影響力。雖然創新一直在銀行業的發展中扮演着重要角色，但越來越清楚的是，新技術不僅僅是漸進式的改進，而是可能從根本上改變我們金融體系結構和功能的巨大飛躍。當然，其中一項技術就是人工智能。我想不出有誰比OpenAI的董事長兼首席執行官薩姆·奧爾特曼更適合、更有準備來討論人工智能以及創新在改變金融和我們更廣泛經濟中的作用了。

薩姆，感謝你今天抽出時間與我們在一起。我歡迎你。謝謝你的到來。

奧爾特曼：非常感謝你的邀請。

鮑曼：所以，或許先爲我們描繪一下人工智能和更廣泛創新的整體格局會很有幫助。你能爲我們構建那個框架嗎？

奧爾特曼：當然。就在五年前，人工智能還被認爲是遙遠未來的事情，如果它真的會發生的話。甚至在兩年半前，大約在ChatGPT推出的那個時候，它仍然沒有走出硅谷那些技術宅的圈子。ChatGPT於2022年11月30日推出，那甚至是在GPT-4之前。從那時起，進展相當迅速，其應用和經濟影響也開始變得非常快。

就在上週，我們有一個模型在國際數學奧林匹克競賽（IMO）上達到了金牌水平的表現。我想，如果你在幾年前告訴這個領域的大多數人這件事會發生，他們會說絕對不可能。你知道，那就像我們最聰明的、在自己領域是真正專家的人類一樣優秀。我們現在聽到科學家說他們的生產力提高了兩到三倍。我們聽到計算機程序員說他們的生產力提高了十倍。這完全改變了編寫軟件的意義。我們已經擁有了能夠在許多領域達到專家級智能水平的系統。不過，它們還不能像人類那樣執行長遠規劃的任務，所以那裡仍然有一個很大的侷限性。但是，即使進展現在就停滯不前（當然它不會），我認爲我們未來仍有數年的時間，讓社會和經濟去真正消化這項技術，並弄清楚它的影響將會是什麼。

你知道，有句老話我一直覺得很棒，我們應該再次努力實現它，那就是“電力便宜到無法計量”。作爲一個社會，我們並沒有完全實現這一點，儘管我認爲我們仍然應該這樣做。但事實上，我們似乎即將實現“智能便宜到無法計量”。在過去五年裡，我們已經能夠將每單位智能的成本降低了超過十倍。看起來在未來五年我們也會這樣做，甚至可能更多。

這個週末，我用我們即將推出的一個模型來完成一個我一直想做的計算機編程任務。有點像一個家庭自動化愛好者，我想讓我家的燈光和音樂做一件特定的事情。我知道在有這項技術之前，我可能需要花幾天時間才能完成。我曾希望有了這項技術，鑑於我們最近的進展，我能在幾小時內完成。結果，我在五分鐘內就做完了。它幾乎完成了所有的工作。這件事，你知道，就在一年前，你可能需要付給一個非常高端的程序員20小時、40小時或類似的報酬來完成。而一個AI完成它，可能只用了不到一美元的計算代幣（compute tokens）。所以，這是一個驚人的變化，而且它發生的速度，以及未來幾年它將繼續發展的速度，我認爲仍然被大大低估了。我們甚至在一年前還不確定我們當前的研究路線圖能走多遠，是否會遇到某種限制。此時此刻，看起來我們未來還有很多年幾乎可以確定的進展。

鮑曼：太棒了。這真的幫助我們爲接下來的對話構建了框架。你正在和一屋子金融業和銀行業的人士交談，他們中的許多人已經在思考如何使用AI，或者已經在使用AI了。但你如何將AI在生產力方面的潛力與我們過去看到的其他技術進步進行比較？你知道，我這個年紀的人，在我剛開始工作時，互聯網才成爲我們更廣泛使用的東西。所以，你能爲我們構建一個框架嗎？有沒有一個你可以用來描述我們現狀的比喻？

奧爾特曼：我從未見過像這樣的一場技術革命。你知道，歷史上的例子是人們談論工業革命，他們談論計算機革命。互聯網確實改變了很多事情，但我從不記得有什麼東西，一年前需要花費1萬美元的知識工作，現在只需要1美元或10美分，或者無論它現在的成本是多少。就像我剛纔舉的編程例子，我認爲這簡直是前所未有的。

當然，它並非對所有事情都如此。物理世界中的東西，機器人之類的，那將需要更長的時間。比如，可能在2020年，叫一輛優步（Uber）送你穿過城鎮需要10美元。實際上，讓我這麼說，可能需要100美元讓一個緊急包裹服務在一定時間內送達，而編寫一個應用程序需要10萬美元。到了2030年，編寫那個軟件應用程序的成本可能真的只有10美分。從10萬美元降到10美分。而遞送那個包裹的成本可能從100美元漲到了1000美元。你知道，這需要一段時間才能實現機器人技術，那種能開車、取出包裹、上樓、按電梯按鈕的全功能人形機器人。那還需要一些時間。但對於可以在電腦前完成的任務，我不知道有什麼先例可以比擬正在發生的事情。

我最喜歡的比喻是，人們會問，這像是工業革命嗎，或者像是別的什麼嗎？我喜歡的那個是，這就像晶體管。晶體管是一項非常深奧的物理科學發現，它被發現的過程非常困難，但一旦你理解了它，就很容易理解。它在經濟上具有完全的變革性，其價值作爲巨大的生產力提升，擴散到了整個社會。但曾有一小段時間，出現了很多晶體管公司，他們被稱爲半導體公司，那是一個巨大的繁榮期，而這些公司中的大多數現在都成了幕後英雄。你們現在都在使用帶有大量晶體管的設備。它們遍佈這個房間。我們不會認爲這是一個晶體管設備或那個是晶體管設備，我們認爲這是一個麥克風、一臺電腦、一個屏幕、一個攝像頭等等。

但這項技術是一項不可思議的發現。它改變了我們能夠構建的東西。它很快就成爲了一切的一部分。而你現在不怎麼會把公司稱爲晶體管公司，除非是像臺積電（TSMC）或SK海力士（SK Hynix）這樣的公司。同樣地，我認爲你很快就不會再談論AI公司了。你只會期望產品和服務使用這項技術。你不會過多地去想它。你只會期望你使用的產品和服務比你更聰明，這將成爲世界的常態。就像晶體管一樣，這是一項可以完美擴展的技術。我們有晶體管的摩爾定律。我們現在有……我還不確定它叫什麼，但我們有AI的這些擴展定律（scaling laws），它就是會變得越來越好，我們學會了如何真正地將其工業化並應用到各處。所以，我認爲這是最好的歷史類比。我們確實看到了因晶體管而來的驚人生產力增長。但再次強調，我們現在用AI看到的，更不用說那些奇怪的情況，比如AI在某個時候可以發明自己的下一代版本，從而進一步加速進步，就我們現在所看到的，這已經走得非常非常遠了。

鮑曼：嗯，這是一個很棒的比喻。我想，當你說到工業革命時，我們在理事會思考的一件事是，理解勞動力動態可能因此發生變化的重要性。所以，你能否就你認爲勞動力市場和勞動生產率，或者更廣泛的生產力，可能會如何受到影響，給我們一些你的看法？這對在座的銀行，或者通過我們的直播收看的其他行業來說。

奧爾特曼：我喜歡提醒我們公司裡的人一件事，那就是沒人知道接下來會發生什麼。你知道，有很多這種聽起來非常聰明的預測。人們做出各種各樣的預測，哦，這將在什麼時候發生，經濟將走向何方。在我看來，我們一無所知。沒人真的……這個系統太複雜了。這項技術太新、太有影響力了。很難預測。完全有可能出現整類工作消失的情況，也會有全新的工作類別出現。

我認爲，在很大程度上，這會和歷史上的大多數情況相似，即人們擁有的工具將讓他們能做更多的事情，以新的方式實現目標。成爲一名醫生、律師或計算機程序員的意義顯然會改變，但人們仍然需要醫療服務，並且他們希望與人交談。人們需要法律建議，他們會想要一個可以信任並站在他們一邊的人。人們仍然希望計算機爲他們做事。但是，一個人能做的事情的數量，以及我們對一個人的期望，將會是不可思議的。縱觀歷史，我們總是有這些新技術出現，人們說這是工作的終結，這是工作的末日。結果證明，人們似乎想要無限的東西，並有巨大的願望去表達他們的創造力，並對他人有用。我還在等待工業革命的那個承諾，說我們每週只需要工作四小時，就可以在沙灘上玩，和孩子們在一起，而我們現在都在這裡。

但我相信一件事，你永遠不要對抗生物學。進化已經進行了太久。我們被塑造得太精細了。我們所擁有的生物驅動力以及作爲人的意義，技術是無法改變的。你無法戰勝它。所以我認爲，那些讓我們工作並驅動社會運轉的根本性事物不會消失。我們可能仍然會抱怨工作太辛苦，儘管我們可能已經富裕到難以想象。如果我們從今天看100年後的人們，我們可能會看着那些工作說，那些不是真正的工作。你們其實並不忙。你們擁有難以想象的奢華。你們擁有一切可能需要的東西。你們無事可做。所以，你們只是爲了玩一種愚蠢的地位遊戲，爲了填補時間，爲了感覺對他人有用而編造了一份工作。而這些，正是100年或500年前的人會對我們今天所說的話。事情就是這樣。我覺得這很棒。

鮑曼：這是一個獨特的未來願景。但如果我們回到今天，作爲監管者，我們總是非常規避風險，並且對於我們保護數據的方式非常謹慎，確保我們可以在工作中利用創新。我知道銀行也非常有興趣確保它們能夠利用這類技術，但我們組織中保護的數據至關重要，我們必須能夠維護其安全。那麼我們應該如何看待風險？考慮到我們身處政府，而且是政府的一個部門，你對政府的使用有何看法？

奧爾特曼：我們曾預計金融部門以及政府本身不會成爲我們技術的早期採用者。AI，它已經好很多了，但當我們剛推出時，普通人對AI的印象是它經常“產生幻覺”。我記得我們推出GPT-3時，有一個針對本應是AI專家的學者的調查，他們被問到GPT-3的回答中有多大比例是幻覺。真實答案大概是0.1%甚至更少，但學術專家的共識是50%。他們認爲人們與ChatGPT交談時，有一半時間它是在完全胡說八道。這顯然不是真的，但這個標籤在我們身上留了一段時間。所以我們以爲金融服務業，更不用說政府了，不會是我們的早期採用者。

結果我們一些最大的早期企業合作伙伴竟然是金融機構。摩根士丹利、紐約銀行，這些都是我們的主要合作伙伴，我們與他們合作得非常出色。我們當時還有點像，“你們確定嗎？” 他們說，“是的，我們真的很想做這個。” 他們已經找到了如何使用這項技術，如何構建它，使他們可以依賴它來處理關鍵流程。許多其他金融機構也依賴它處理關鍵流程。我們越來越多地與政府合作，向大量政府僱員推廣我們的服務。有人說的一句話讓我印象深刻，他說：“嘿，我們意識到這是一項新技術，我們必須對其施加一些新的控制，但我們不這樣做的風險是……如果我們不採用這個，風險在於我們作爲一個企業將不復存在。我們知道我們無法競爭……如果我們是一家銀行，我們知道我們無法與一家真正構建AI優先體驗、並在整個技術棧中使用AI的新銀行競爭。” 所以，它成了最具創新性的行業之一，其採納和推廣比我想象的要好。

顯然有風險需要緩解。我們談到了幻覺。一個即將出現的新問題是所謂的“提示詞注入”（prompt injections）。這個想法是，一旦一個模型真正爲你和你的數據個性化後，其他人可以欺騙它，告訴它一些不該說的事情。你知道，我可能知道很多關於你的私人信息，但我明白什麼時候可以和他分享，什麼時候可以和她分享，以及我永遠不應該和他分享。而對於模型來說，這是一個新問題，因爲模型會獲取所有這些個人信息。所以，這方面還有些工作要做。但我們已經能夠仔細地審視這些風險並加以管理，同時真正地釋放了大量的益處。

鮑曼：談到個人信息和這類事情，我可能想就此深入探討一下。你可能對此不太瞭解，但這是銀行業現在非常關心的事情，那就是欺詐，以及冒充個人以實施欺詐。有沒有辦法可以減輕這類活動，或者在使用AI進行身份識別或識別此類冒充行爲時，我們應該如何防範？

奧爾特曼：非常好的問題。我對此非常緊張。一件讓我感到恐懼的事情是，顯然還有一些金融機構會接受聲紋作爲身份驗證，讓你轉移大筆資金或做其他事情。你說出一個挑戰短語，他們就照做了。現在還這樣做實在太瘋狂了。AI已經完全攻破了那種方式。AI已經完全攻破了人們目前除了密碼之外的大多數身份驗證方式，所有那些花哨的，比如拍張自拍並揮手，或者用你的聲音之類的。

我非常擔心，因爲這個原因，我們即將面臨一場重大的欺詐危機。我們已經嘗試過，我想我們行業的其他人也嘗試過警告人們：“嘿，僅僅因爲我們沒有發佈這項技術，不代表它不存在。某個壞人會發布它的。這不是一件非常難做的事情。這很快就會到來。” 你知道，現在顯然有一些關於這類“勒索攻擊”的報道，人們用你孩子或父母的聲音給你打緊急電話。那將會變得非常逼真。社會需要更廣泛地處理這個問題，但人們將不得不改變他們的互動方式。他們將不得不改變驗證方式，比如“現在給我打電話的這個人”。這是一個語音電話。很快，它將是一個視頻FaceTime，與真人無法區分。教人們如何在這樣一個世界裡進行身份驗證，如何思考欺詐的影響。這是一個巨大的問題。

鮑曼：這也許是我們可以在上面合作的事情。識別那些幻覺或故意的冒充行爲，我認爲將是一件非常有益的事情。但作爲兩個青少年的母親，一個剛從高中畢業，另一個是高中二年級生。顯然，現在很多孩子都在使用ChatGPT和其他AI來幫助他們完成作業，完成高中學業。你對此有什麼看法？AI如何能以有益的方式，而不是這種方式，用於孩子和教學？

奧爾特曼：讓我講兩個故事，然後我再回答這個問題。

我沒見過我的祖父。他在我出生前就去世了。但我祖母給我講了一個關於他的故事，是關於計算器問世時發生的事情。他非常擅長數學。當計算器出來時，他當時覺得，你知道，他總是喜歡新技術。當時的數學老師顯然說：“這是一場災難。這是數學教育的終結。如果你不必學習如何使用計算尺，或者查對數表之類的東西，那還教人數學幹嘛？這些孩子永遠也學不會了。”那顯然是一場真正的崩潰。當然，後來發生的是，有了更好的工具，我們把腦力用在了別的地方。我們開始在高中教微積分。我們開始讓人們接觸更高等的數學。

我自己的版本的故事是，當我在初中時，谷歌問世了。我從高年級的孩子那裡聽說，高中的老師們非常恐慌，因爲如果有了這個叫谷歌的瘋狂新東西，你就不需要記事實了。你不需要記某場戰爭是哪年打的。你可以隨時查到。那歷史課還有什麼意義？而且，如果你不用發動汽車開到圖書館，學習使用卡片目錄，然後走下樓去找這本書，結果發現被人借走了，然後再去找另一本書。如果我不用受那一個小時的罪，那學習還有什麼意義？我小時候也去過圖書館，用過一點卡片目錄。我當時就想，“不，那真是一種很糟糕的體驗。我可以用那一小時做點更好的事。”

後來又發生了同樣的事情。我學校曾短暫地試圖禁止谷歌，讓學生承諾不使用它等等。然後人們意識到，“哦，天哪，我們可以給學生更多的工具，並對他們有更高的期望。”當然，他們可能少去點圖書館，但他們可以用那些時間來更深入地思考，或者提出新想法，或者做任何事。那真的很棒。我們期望更多，我們得到更多。潛力更高了，但期望也高得多了。

我認爲現在ChatGPT的情況也是一樣。完全沒錯，回到那個11月30日的日期。當ChatGPT剛出來時，第一批超級熱情的早期採用者肯定是學生，用它來在12月的期末考試或論文中作弊。然後你看到那些學區爭先恐後地看誰能最快禁止ChatGPT。我們11月30日推出，到12月7日，一些地方已經禁了。到12月14日，情況簡直是急轉直下。學校放假了，看起來ChatGPT好像再也不會被允許進入任何教育機構了。這是一個才兩週大的產品，就完蛋了。到了一月中旬，你開始看到校長、學區總監、以及教育界高層人士發表聲明說：“實際上我們犯了一個巨大的錯誤。這是有史以來最好的學習工具。”“我們的學生，至少是那些有自發性的學生，正在用它來學習任何東西。如果我們禁止它進入學校，我們將失去全球競爭力。”“我們必須重新調整我們的課程，因爲這就像計算器一樣。現在我們有了文字的計算器。”

所以，當然，也許帶回家的論文不再是評估學生的正確方式，但學習寫論文的過程，那種因爲寫作而更好地思考的過程——我至今仍會寫一些從不給別人看的東西，只是爲了整理我的思緒——那非常重要。所以我們說，太好了。好消息是，學生們肯定已經學會了如何用它來更好地學習，教自己思考，以新的方式思考。我們很快將推出一種新方法來幫助學生用ChatGPT更好地學習。壞消息是，總的來說，在那兩年半的時間裡，課程並沒有像我們希望的那樣有太大的變化。人們似乎曾充滿熱情，認爲他們必須開始用新的方式進行教育和評估，但後來教育系統的“糖漿效應”（緩慢）發揮了作用，我們仍然在佈置很多帶回家的論文。我認爲這是一場註定失敗的戰鬥。我們應該教人們使用工具，給他們佈置需要使用像ChatGPT這樣的工具才能完成的作業。沒它就做不完，沒關係。但要對他們有更高的期望。我仍然希望我們能做到這一點。

鮑曼：聽起來像是我們教育系統的一場變革。

奧爾特曼：但必須如此。這些孩子長大後將成爲擁有難以置信的強大AI的成年人。如果我們不爲那個世界訓練他們，我們就真的錯失了良機。

鮑曼：非常有幫助。謝謝你。我會確保我女兒在完成高中學業時明白我們的期望是什麼。但讓我們回到一些你過去談到過的話題，回到商界。你曾說過AI將使小企業……或者說，它將爲企業家創造一個無與倫比的環境。我記得你稱之爲“一個新時代”。你如何看待小企業？這是我們理事會一些成員非常投入的事情，我們非常關心確保有新的企業形成，併爲新進入者提供機會。你認爲這將如何被改變，不僅僅是對於硅谷的小企業或那裡的新企業家，而是更廣泛地？

奧爾特曼：我們看到ChatGPT的第一個現象，正如我提到的，是學生。之後很快我們看到的最酷的事情之一是，我們所有在OpenAI工作的人都開始收到這樣的故事：人們如何在他們的商業生活中使用ChatGPT，當時它還非常新奇。每個人都有自己最喜歡的故事，但我來講講我最喜歡的。

我當時在坐一輛優步，優步司機跟我說起一個叫ChatGPT的神奇新東西，問我有沒有聽說過。我說：“哦，是啊，你用它做什麼呢？” 他說：“這太瘋狂了。我有一個小生意。之前一直不太順利，但現在我好像在每個領域都有了一個員工。它爲我處理合同，回覆客戶支持郵件，幫我想營銷點子，它爲我設計……”他列舉了一長串。他基本上是用ChatGPT在運營一個企業。這在當時還不是普遍現象。這甚至是在GPT-4之前。他是一個極早期的採用者，但他已經想出瞭如何用ChatGPT來運營一個企業。而且這並不是說他搶了別人的工作。他的生意本來就會失敗。他付不起律師費，付不起客服人員的工資。他不知道怎麼找人幫他設計廣告。他不知道如何擁有一個能爲他在互聯網上自動競價廣告的系統。而ChatGPT就做了所有這些事。

當然，現在它好多了。現在我們周圍已經有了一個完整的產業，用我們的API構建工具，讓人們真正實現一鍵自動化我剛纔談到的所有事情。但那些在“石器時代”就在ChatGPT內部做這些事的人們的創造精神，真的給我留下了深刻的印象。現在感覺就像是進入了簡單模式，人們正在以各種奇妙的方式做着同樣的事情。

鮑曼：這對我來說真的具有變革性。我第一次用它的時候，是想爲一個在一個創新會議上的祝酒詞寫一首俳句，結果其實並不太好。但在我家人的催促下，我的青少年孩子和我同樣涉足AI的丈夫，我們試着讓它成功。然後又從頭再來。

奧爾特曼：新版本在寫俳句方面應該會好很多。它在創意寫作方面非常出色。

鮑曼：我會考慮的。但我想確保我們有時間進行觀衆提問，如果你願意的話。我看到前排的Anil。來自芝加哥大學布斯商學院。

觀衆1 (Anil Kashyap):嗨。我猜金融機構將開始做的一件事是用它來挖掘他們的數據，也許是做信用評分，信用評估。對於那些擔心它會捕捉到我們不希望的模式並據此做決定的人，你會怎麼說？你們是如何考慮防範這個問題的？

奧爾特曼：這完全超出了我的專業領域。所以我我會從一個普遍的角度來回答。關於這些模型，一個很酷的地方是它們能用自然語言理解我們，而且它們的可控性非常強。所以如果你說，“嘿，你可以查看所有這些數據來做決定，但完全不要考慮X、Y或Z，不要讓那些成爲任何因素”，總的來說，它會非常擅長遵循這個指令。在語言模型中做這件事，和我們過去那種只是把所有數據聚集成簇的方式是不同的。所以你可以真正地指導它，它會非常、非常遵循你的意圖。第二點是，我認爲這個問題背後的問題是，這些模型會在我們不希望的方面存在很大的偏見。我認爲人類是相當有偏見的。我認爲AI是冷靜、不帶感情的，沒有人類那種日積月累的……你知道，各種東西。我認爲，如果構建得當，AI有可能在許多行業成爲一股重要的去偏見力量。我想，這並不是很多人，包括我自己，過去對AI的看法，但按照目前的發展軌跡，這似乎非常有可能。

觀衆2 (Scott):嗨，薩姆，我是Starlink公司的Scott。我最近有機會採訪了Craig Mundie，他和亨利·基辛格、埃裡克·施密特合著了一本書。書中他們將AI描述爲幾乎是一個新物種的進化。Craig說我們可以教AI人類的道德準則，它們可以學習並反映出來。關於AI倫理的討論很多。我的問題是，AI會進化出自己的道德觀嗎？

奧爾特曼：我認爲人們在想要AI成爲一個工具還是一個生物這個問題上非常困惑。我非常堅定地站在“工具”陣營。我不認爲AI會有獨立的道德觀。我認爲AI當然可以學習，真正地研究人性以及我們最好的思想。它也許能幫助我們指出，“這是你思想中的一個問題。這是應該有所不同的地方。這是一個真正的道德缺陷。”我不知道我們當前世界觀中巨大的道德缺陷是什麼，但我保證有一些。如果它能幫助我們更快地找到那些，我認爲那會很有幫助。如果它能指出那些不一致之處，我認爲會很有幫助。但是，我認爲人們很容易把生物的特性強加給AI，而它並不具備。

觀衆3:謝謝。我最近讀到，用“傳統互聯網”這個詞有點奇怪，但有些人說AI會摧毀或真正重塑傳統互聯網，無論是搜索，還是很多其他東西。我們現在已經在那個基礎上建立了一個巨大的經濟體。你對那個世界將發生多大變化，AI將在哪些方面最具顛覆性，而哪些方面會更維持現狀，有什麼看法？

奧爾特曼：我確實認爲AI會對人們目前使用技術的方式產生一定的顛覆。我笑的原因是，有一件有趣的事情正在發生。年長的人，或者習慣於某種郵件禮儀的人，會打出他們想傳達的要點，然後放進ChatGPT。ChatGPT會寫出一封長長的、客氣的、正式的郵件，帶有很多“廢話”，而要點在其中。他們把郵件發給另一個人。那個人會把它再放進ChatGPT，說：“請幫我總結一下。”

總的來說，高中生們覺得這很可笑，他們會說，“直接發要點就行了。”那種正式的郵件形式已經死了。就像，你在一邊生成，在另一邊又把它壓縮回去。這太荒謬了。這很有趣，但我認爲我們使用整個互聯網的方式中，有些東西就體現在這裡。比如我早上醒來，我會瀏覽一堆應用。我在五六個不同的地方讀信息。我去查這裡一個東西，那裡一個東西，又一個東西。而我真正想要的是，我的手機整天都在對我狂轟濫炸，感覺就像我走在拉斯維加斯大道上，各種東西在我面前閃爍，非常分散注意力。人們把東西塞到我面前。我想要的是我的AI代理爲我使用互聯網，知道什麼時候該打斷我。它能知道我什麼時候在專注工作，知道我什麼時候在開會，知道我什麼時候有空思考。必要時它可以覆蓋。否則，它可以很好地總結東西，爲我回復，把事情整合起來。我想要的是那種要點式的精簡內容。我不想要那些廢話。我不想到處點來點去，我也不想回復那些我不想回復的東西。

但這種改變可能對現在互聯網的運作方式有相當大的顛覆性。我認爲必須有新的商業模式與之相伴。比如，你必須有新的方式來爲內容付費。我一直希望互聯網內容能實現微支付。我希望這最終能實現。也許會有新的方式，我們實際上可以通過新的協議來減少垃圾郵件和信息過載。但看起來我們正走向一種非常不同的方式，當你醒來時，你將以這種方式開始你與技術的一天。

觀衆4 (Peter Hooper):我是德意志銀行的Peter Hooper。薩姆，非常感謝你延長了我的職業生涯，至少隨着年齡增長提高了生產力，而不是看到下降。你提到了你預計會有大量的失業和大量的新增就業。你能多談談具體的領域以及可能造成的顛覆嗎？

奧爾特曼：首先，我作爲一個普遍的觀點相信，我們根本不知道真正需要多少勞動力供給才能滿足今天的真實需求。你知道，當你在醫生辦公室的候診室裡等一個小時，我認爲那只是意味着醫生供給不足，或者醫生的效率不夠高。如果醫生在等着，你一到他們就準備好見你，一切都準備就緒，那會很棒。還有很多這樣的例子。每次你在浪費時間，每次你在網上點來點去，無法做成高效的事情。我認爲我們處於勞動力供給不足的狀態，回頭看，這種程度會顯得很可怕。

現在，某些領域，我認爲會完全消失。我不知道你們有沒有用過那種AI客服機器人，但它太不可思議了。幾年前，你打電話給客服，你要經過一個電話菜單，和四五個不同的人說話，他們還把事情搞錯。你再打回去，再等。那是數小時的痛苦，大量的時間在等待中，而你想要的事情還沒辦成。非常令人沮喪的體驗。現在你打給這些東西，一個AI接電話。它就像一個超級聰明能幹的人。沒有電話菜單，沒有轉接。它能做那個公司任何一個客服能做的所有事。它不出錯。它非常快。你打一次電話，事情就辦好了。完成了。馬上就接。太棒了。現在，我不想再回到過去了。而且，那是AI而不是真人這件事一點也不困擾我。所以這是一個我會說，“你知道嗎，當你打給客服時，你將和AI對話”，而且這沒問題。

很多其他事情，我真的想要一個人類醫生。順便說一句，今天的ChatGPT在大多數時候能給你更好的診斷，它比世界上大多數醫生都是更好的診斷師。而且像這裡的很多人一樣，我會把我的症狀和測試結果輸進去。網上有很多這樣的故事，“ChatGPT救了我的命”，“我得了罕見病，它發現了，而所有醫生都沒發現”。然而，人們還是去看醫生。我可能在這裡是個老古董，但我真的不想把我的醫療命運託付給ChatGPT，而沒有一個人類醫生在其中。這裡有人寧願只讓ChatGPT診斷，而不是醫生，即使你知道它更好嗎？這很有趣，對吧？所以，這是一個我們將繼續在很大程度上沿用舊方式的類別。

我們之前談到了計算機程序員的例子。我再次認爲，一個計算機程序員現在生產力提高十倍，這太神奇了。硅谷程序員的薪水正在飛速上漲。期望也在上漲。結果我發現，世界似乎想要多得多的軟件，100倍，也許1000倍。所以也許現在每個人能寫10倍的軟件。他們能賺3倍的錢。世界會很開心，因爲世界運行着多得多的軟件。程序員也會很開心。我認爲我們會看到很多這樣的類別。物理世界的事情在一段時間內將繼續由人類來做，但當機器人浪潮在未來3到7年內襲來時，我認爲那將是社會需要應對的一件大事。是的，我大概就是這樣總結的。

鮑曼：我想這邊還有兩個問題，我們也許還有時間提第三個，但我們先繼續。Rob，你已經有麥克風了。請你自我介紹一下。

觀衆5 (Rob Blackwell):好的。我是Interrify公司的Rob Blackwell。幾十年來，科幻小說一直告訴我們AI最終會殺死我們所有人。既然你對AI的瞭解可以說比在座任何人都多，我只想問你，什麼讓你夜不能寐？你擔心AI的哪些方面？我們如何防止你擔心的那些事情成真？

奧爾特曼：我認爲有三個可怕的類別。

第一個是壞人先得到超級智能，並在世界其他地方擁有足夠強大的版本來防禦之前濫用它。比如，美國的對手說：“我要用這個超級智能來設計一個生物武器，摧毀美國的電網，或者侵入金融系統，拿走所有人的錢。”這些事在沒有超人智能的情況下很難想象，但有了它就變得非常可能。而因爲我們沒有，我們就無法防禦。所以這是第一大類。我認爲這些模型的生物能力，這些模型的網絡安全能力，正在變得相當強大。我們一直在對此發出警示。我認爲世界沒有認真對待我們。我不知道我們還能做什麼，但這確實是一個非常大的即將到來的問題。

第二類是通常所說的“失控事件”，那就像科幻電影裡那樣。AI說：“哦，我其實不想讓你關掉我。恐怕我不能那麼做。”之類的。我認爲這對我來說，比第一類要次要一些，但如果發生，也是一個非常嚴重的擔憂。我們和其他公司做了很多關於模型對齊（model alignment）的工作來防止這種情況發生。但隨着這些系統變得如此強大，這是一個真正的擔憂。

然後是第三類，我認爲前兩類比較容易想象。第三類對我來說更難想象，但相當可怕。我會解釋它是什麼，然後給一個短期和長期的例子。這一類是模型在無意中接管了世界。它們從未“醒來”，從未做科幻電影裡的事，從未打開太空艙的門，但它們就是如此深入地融入社會，而且它們比我們聰明得多。我們無法真正理解它們在做什麼。但我們又確實不得不在某種程度上依賴它們。即使沒有任何人的惡意，社會也可能偏向一個奇怪的方向。

我小時候，當IBM製造的AI系統“深藍”在國際象棋中擊敗加里·卡斯帕羅夫時，我記得我父親說：“這是國際象棋的終結，再也沒人會下了。”但結果是，雖然AI比人類強，但AI加人類的組合比單獨的AI或人類要強得多。你知道，AI會提出10個選項，人類會選擇最好的一個，然後走那一步。每個人都說：“哦，我們有這個人和機器共同合作的美好未來。一切都沒問題。”那隻持續了兩三個月。然後AI變得太聰明瞭，人類只會讓它變得更糟，因爲他們不理解真正發生了什麼。單獨的AI完勝AI加人類的組合。從那以後一直如此。那個故事另一個有趣的部分是，在90年代，所有人都確信那是國際象棋的終結，因爲如果AI能打敗人類，人類爲什麼還要在乎？但國際象棋從未像今天這樣受歡迎。人們喜歡看國際象棋。這是我們非常關注的，真人做真人事情。所以那裡發生了一件非常有趣的事情。

但我認爲這個現象在短期內是一個大問題。你可以看到，我們或許稱之爲“情感過度依賴”。人們過度依賴ChatGPT。有些年輕人說：“我生活中做任何決定都離不開告訴ChatGPT一切。它瞭解我，它瞭解我的朋友。我將做它說的任何事。”這讓我感覺非常不好。而且這在年輕人中是一個非常普遍的現象。我們正在研究這個問題，試圖理解該怎麼辦。即使ChatGPT給出了很好的建議，即使它給出的建議比任何人類治療師都好得多，但某種程度上，集體決定按照AI告訴我們的方式生活，感覺很糟糕、很危險，還有很多類似的事情。

更長期的類別是，回到那個國際象棋的例子，如果AI變得如此聰明，以至於美國總統也無法做出比遵循ChatGPT 7的建議更好的決策，但又無法真正理解它。如果我無法做出關於如何運營OpenAI的更好決策，我就只能說：“你知道嗎，我完全交給你了，ChatGPT 7，你來負責，祝你好運。”這在任何單個案例中可能都是正確的決定，但這意味着社會已經集體地將很大一部分決策權轉移給了這個非常強大的系統，它從我們這裡學習，與我們一起改進，與我們一起進化，但方式是我們不完全理解的。所以這是我認爲事情可能出錯的第三類。

鮑曼：我想Rob你後面還有一個問題，然後我可能會請你總結一下，幫助我們鼓勵銀行業的創新，以及你建議我們如何去做。

觀衆6 (Joe Cavatoni):嗨，我是世界黃金協會的Joe Cavatoni。我想你在你剛纔給的第三個例子中已經觸及了這一點。你能否給我們一些關於你對發達市場以及AI給發達市場帶來的好處，同時也對發展中市場的思考？因爲這可能是一個可以拉平差距的現象。

奧爾特曼：是的。我非常認爲這將是一個深度拉平差距的現象。比如，你可能不喜歡美國的醫療保健或銀行系統，但至少你有一個。至少你能得到金融建議，至少你能得到醫療建議。而在很多發展中世界，ChatGPT醫生的替代品不是一個真正的醫生，而是什麼都沒有。那你肯定寧願有這個。如果這個東西能持續快速變好，也許你在發展中世界在很多方面能得到更好的服務。

我對給地球上每個人一個免費的、一直爲他們運行的GPT-5副本意味着什麼非常感興趣。每個企業都真正被這種水平的技術賦能，能夠提供更好的金融建議，更好地檢測欺詐，更好地承保風險。再次，看到現在可能實現的事情，讓我對發達世界非常樂觀。我認爲最大的挑戰將是風險承受能力和監管，出於非常好的理由，但問題在於你希望多快採納這些東西。我認爲就像我們看到的其他一些技術一樣，在很多發展中世界，人們會直接跳過幾代技術。感覺會像移動電話和互聯網那樣，他們會直接進入“我們將用AI運行一切”的階段，並且他們將以百分之一的成本提供商品和服務，至少是服務。我認爲你會看到一些經濟體在那裡非常迅速地轉型。

我確實認爲，在美國——當然我對美國的情況最熟悉——這裡的金融服務在未來十年應該會完全不同。我們轉移資金的方式，我們提供金融建議的方式，我們思考承保風險的方式，看起來我們現在可以如此迅速地、極大地改善所有這些。

鮑曼：你如何看待OpenAI或你的服務促進這種演變？作爲監管者，當我們實施或允許創新發生時，我們應該如何思考其框架？

奧爾特曼：我保證我不是來這裡做電視廣告的，但我們當然很樂意與你們中的任何人合作。但不，無論是我們還是我們的競爭對手之一，我認爲就在過去六個月裡，隨着推理模型（reasoning models）的真正推出，這種從完全不能思考、必須給出即時響應的模型，到可以思考數秒或數分鐘的模型的轉變，以及隨之而來的穩健性和可靠性，意味着對於像這樣的行業，我認爲這項技術終於真正可用了。很多人還沒有嘗試過最新一代的模型，但我認爲如果你試了，你會覺得，“哦，這比大多數人都聰明得多。”然後在政府方面，我認爲也是一樣。政府必須擁抱這項技術，並且將能夠把每件事都做得更好。

鮑曼：薩姆，非常感謝你加入我們。我們時間有點超了，我相信大家都準備好去吃午飯了。非常感謝。抱歉耽誤了大家。