想(xiang)象一(yi)下，AI 取代了(le)(le)你(ni)的(de)工作，甚(shen)至連(lian) OpenAI 的(de) CEO 也如(ru)此(ci) —— 奧(ao)爾特曼(man)的(de)答案竟是去當農場主！他分享了(le)(le)十年高壓(ya)下的(de)農場夢想(xiang)，強調人類渴(ke)望(wang)創造價值永不止息。短(duan)期(qi)崗位流失不可避免(mian)，但(dan)長期(qi)來(lai)看，AI 將催生更(geng)以(yi)人為(wei)本的(de)新職業。

AI 狂飆已至，認知仍未醒來 ——「技術懸差」正在撕裂時代的節奏。

當(dang)大眾還沉浸于(yu) ChatGPT 帶來的新(xin)鮮感時，AI 早已(yi)悄然(ran)跨越(yue)了「最聰明的人類(lei)大腦」的門檻。

在多項(xiang)頂級(ji)智力任務中(zhong)，AI 已然勝出人類，展現(xian)出突破(po)性認知與推理能力。

這種「技術懸(xuan)差」正在快速(su)拉大(da)：AI 所擁有的能(neng)力，遠(yuan)超社會、經濟(ji)乃至(zhi)監管(guan)系統的普遍理解(jie)與應用(yong)水平。

當 AI 邁入可自我進化的(de)新階段，問(wen)題不是「能不能」，而是「我們是否跟得上」—— 解(jie)決問(wen)題的(de)速度，是否永(yong)遠跑(pao)在問(wen)題之前？

在(zai)《MD MEETS》的首(shou)期節目(mu)中，Axel Springer 的首(shou)席執(zhi)行(xing)官 Mathias D?pfner 與(yu)(yu) OpenAI 首(shou)席執(zhi)行(xing)官奧(ao)爾特曼，展開了(le)一場毫(hao)無保留(liu)的對話，探討(tao) AI 帶來(lai)的機(ji)遇與(yu)(yu)風(feng)險。

話(hua)題從「AI 與工(gong)作」到(dao)(dao)「人類(lei)(lei)滅(mie)絕風險」，再到(dao)(dao)「AI 時代的新聞業(ye)」，甚至延(yan)伸到(dao)(dao)「人類(lei)(lei)是否該永生」—— 幾乎(hu)沒有禁區。

奧爾特曼分享(xiang)了(le)他對(dui)超級(ji)智能(neng)的思考，以及他在 AI 接管(guan)自己工作后想去(qu)當(dang)農(nong)民的個人夢想。

這是一場罕見而真誠的對話，讓我(wo)們得以一窺這位正(zheng)在塑造未來(lai)的重要聲(sheng)音。

奧爾特曼：未來不做 CEO 就去搞農場

每(mei)當談到 AI，人(ren)們都會關心(xin)一個問題 —— 它會不會取代人(ren)類工作(zuo)(zuo)？是 AI 創造工作(zuo)(zuo)機會多，還是毀掉的工作(zuo)(zuo)更多？

奧爾特曼認為：

短期(qi)來(lai)看，AI 確實會取代(dai)大(da)量工作崗位(wei)。但從長期(qi)看，就像以往每一次技術革命一樣，人類(lei)總能找到全新的事情可做。

我相信人(ren)類(lei)對(dui)「創(chuang)造價值」、「幫(bang)助(zhu)他人(ren)」、「融(rong)入(ru)社會」的渴望是無(wu)限的。

每次技(ji)術革新，總有人說「這下完了(le)，我(wo)們以后都(dou)沒(mei)工作(zuo)了(le)」。可事實(shi)證明，這其實(shi)只是想象(xiang)力(li)的失敗。

也有人說這(zhe)次不同，因為 AI 觸及的是人類(lei)最核心的「智力(li)」部分，那我們還能做什么(me)？

但奧爾(er)特曼認為：人類天(tian)生關注彼此，而非(fei)「機(ji)器(qi)世(shi)界」。焦點仍在人與人的關系。

他雖無(wu)法預測(ce)具體崗位，但(dan)「幾(ji)乎可以(yi)(yi)肯定，未來的工作將更以(yi)(yi)人為本(ben)」。

幾周前，有人問奧爾特曼(man)：

假設有一(yi)天 AI 連你的工作(zuo)也(ye)取代了(le)，你會做什么(me)？

奧爾特(te)曼出人(ren)意料地回答：當農(nong)場(chang)主（farmer）。為什么？

首先，奧爾特曼確實相信(xin)

未來某一(yi)天，AI 會(hui)成(cheng)為比我更優秀的 OpenAI CEO。

這也正是 OpenAI 努(nu)力的(de)方(fang)向(xiang)。如果(guo) AI 真(zhen)的(de)能勝任，那真(zhen)是求之不得(de)。

當(dang)然，如果他想繼續(xu)留在 OpenAI，可以扮演其他角色(se)。

不過(guo)，奧爾特曼(man)坦(tan)言，這十年來一直承受著巨大的壓力，工作(zuo)量也極(ji)其(qi)繁重。

他還擁有一塊(kuai)農場，時常前(qian)往 —— 他真心喜歡那里的慢節奏與截然不同的生(sheng)活方式(shi)。

史無前例：人工智能 > 人類智慧

在《未來(lai)簡史》中(zhong)，以色列作家尤瓦爾?赫(he)拉利描述了人(ren)類的下一個時代 —— 我(wo)們將變得近似于「神」：實現(xian)永生、不再(zai)為生計奔波、擁有無限智慧與知識。

這讓奧爾特曼想起硅谷流行的一句(ju)話，大(da)意如下：

我(wo)們擁有神祇般的技(ji)術，卻秉持(chi)著中(zhong)世紀(ji)的道德框架。

它指向一個現實(shi)：技術(shu)躍(yue)遷(qian)，已遠超智慧、判斷與社(she)會建構能力的提升。

這(zhe)(zhe)種失衡感(gan)讓(rang)奧(ao)爾特(te)曼感(gan)到不安。他不知如何應(ying)對，因為技術洪流已至。這(zhe)(zhe)不再是空談，多年來(lai)他持續探(tan)討這(zhe)(zhe)個(ge)話題。

在他看來，今年 AI 首次超越了人類智慧 —— 這無疑是歷史性轉折點。

生活仍(reng)在繼續，但某些根(gen)基已(yi)悄然(ran)改變。

未來(lai)是否真的會像(xiang)科幻那樣發展，誰也說不準(zhun)。

是(shi)我(wo)們把意(yi)識(shi)上(shang)傳到電(dian)腦中、實現永生？還是(shi)我(wo)們只是(shi)在(zai)治(zhi)愈一(yi)些疾病、延長壽(shou)命？這些他都不確定(ding)。

不過，奧爾特曼推薦(jian)了前幾年的(de)動(dong)畫《Pantheon》，探(tan)(tan)討了類似的(de)主題。它探(tan)(tan)討的(de)這些問(wen)題，如(ru)今已(yi)不再是(shi)抽象的(de)哲學問(wen)題，而是(shi)現實。

但奧(ao)爾特曼(man)并不向(xiang)往「永(yong)生」。

他很難想(xiang)象「永(yong)生」到底意(yi)味著(zhu)什么。真正實現永(yong)生、治愈所有疾病、器官(guan)無(wu)限(xian)替(ti)換…… 那種「永(yong)遠」實在太長了(le)。

在他看來，自然的(de)更新與新陳代謝，是社會前進的(de)必要條(tiao)件。

比起(qi)壽命(ming)本身，他更希望人(ren)生中(zhong)的「生病階段」越短越好。

理想狀況是(shi)：健康地(di)活很久，然后突(tu)然快速地(di)走完最后一程。

OpenAI 的關鍵轉折點

當初一起推動這場 AI 革(ge)命(ming)的，有(you)不(bu)少人現在彼(bi)此(ci)競爭 ——Peter Thiel、Elon Musk、Demis Hassabis、Mustafa Suleyman、Paul Graham、Marc Andreessen……

在這群(qun)人中，誰對奧(ao)爾特曼影(ying)響最(zui)大？

在他(ta)看來，很難評出(chu)「誰影響最大(da)」，但他(ta)們組(zu)成了(le)緊密交織(zhi)的生(sheng)態系統。

整個產(chan)業(ye)就像(xiang)一個協(xie)同網絡，有(you)人(ren)在做(zuo)(zuo)芯片，有(you)人(ren)在訓練模型，有(you)人(ren)在做(zuo)(zuo)應(ying)用產(chan)品。

當然，也有(you)很多企業在競爭，但(dan)氛圍更(geng)像早期互聯(lian)網或半導(dao)體 —— 不是一人(ren)一企之(zhi)功，而是整個圈子的推進。

主(zhu)持人追問(wen)：「那你覺(jue)得你自己最重要(yao)的貢獻是什(shen)么(me)？但有(you)沒有(you)某(mou)個時刻、某(mou)個決策，你認為是至(zhi)今最關鍵的一步？」

奧爾特曼(man)表示最關鍵的一步可能是(shi)：決定把所有資源押在「擴大(da)算(suan)力(li)、擴展模型」這條路(lu)線上(shang)。

這是在(zai)發(fa)現 Scaling Laws 之(zhi)后(hou)，OpenAI 做(zuo)出的生死攸關的抉擇。

彼時，認(ren)同者寥寥。主要對手 DeepMind 甚至(zhi)認(ren)為：語言模型并不重要，也(ye)不是正確路徑。

哪怕 OpenAI 發布了 GPT-3，很多人依舊覺得沒什么用，直到(dao)(dao) ChatGPT 上線，才真正讓世界意識到(dao)(dao)其實際(ji)價值(zhi)。

所以，奧爾特曼認為當時(shi)那(nei)個「下重(zhong)注」的(de)決策 ——

在(zai)模型規模擴張上，投入(ru)巨資(zi)、集中研究(jiu)，是一個巨大(da)貢(gong)獻。

要知(zhi)道，那(nei)時(shi)候這條路遠不像(xiang)今(jin)天(tian)看起來那(nei)么順理成章(zhang)，無論(lun)從資本投入還是(shi)研(yan)究方向上，都是(shi)高風險。

他還將(jiang)「開(kai)放 ChatGPT」視為另一大貢獻。

讓(rang)公(gong)眾(zhong)使用 ChatGPT，是一(yi)種信念驅動。彼時(shi)不(bu)少人認為 AI 仍不(bu)安(an)全，不(bu)宜開放，研發應保持「半封閉」。

但 OpenAI 相信：真正的(de)安全(quan)，離(li)不開公眾的(de)深(shen)度參與。

所以，奧(ao)爾(er)特曼認為他的(de)角色并(bing)不(bu)總是(shi)某(mou)個「關鍵時刻」的(de)決定，而是(shi)無數個「小決策」累積起來。

人類滅絕風險并非空談

奧爾(er)特曼(man)曾說過，「超級智能」是對人類生存最(zui)大(da)威脅之一(yi)，因此他早(zao)期就在呼吁加(jia)強監管。

這一立場至今未變，但他也澄清：所謂「監(jian)管(guan)」，并(bing)非「能否用于銀(yin)行業務」等日常應用限制。

他指的(de)是：針對可(ke)能帶來「人類(lei)級風險(xian)」的(de)技術，要(yao)有清晰的(de)框架(jia)。

奧爾特曼曾(ceng)表示「超(chao)級 AI 帶來(lai)人類滅絕」的概(gai)率大約是 2%。

奧爾特(te)曼的核心意思(si)說，這種風險是(shi)「非零、值得認真對(dui)待」，并不是(shi)具體的概率預測。

但主持人認為：

就算 2% 也(ye)已經很(hen)高了(le)。畢竟，一(yi)架飛機失事的概率也(ye)只是 0.00001%。

如果(guo) 2% 是毀(hui)滅整個人類文明的風險，那就非常嚴峻了。

奧爾特曼完全同(tong)意(yi)這種觀(guan)點。這也是為什么他一開始(shi)就在寫博(bo)客(ke)呼吁重(zhong)視這個問題。

他大致把風險分成(cheng)三類(lei)：

第一類，AI 沒有「失控」，但「人用 AI 做壞事」。

AI 本(ben)身完全聽指令，但如(ru)果掌握 AI 的國家(jia)或組織，窮兵黷(du)武(wu)，那它(ta)可以用(yong) AI 造成巨大破壞，比如(ru)開(kai)發生物武(wu)器、入侵核(he)系統等等。

這不是(shi) AI 的問(wen)題(ti)，而是(shi)「濫用問(wen)題(ti)」。

第二類，是經典的科幻災難模型：AI 獲得某種自主性。

為了實現目標，它不(bu)想被人類關閉 —— 就算沒有「意識」或「主觀意圖(tu)」，它也可能基于算法策略走(zou)向錯誤方向。

這屬(shu)于(yu)典(dian)型的「對齊失敗(bai)」。

但還有(you)第三(san)類，更容易被忽略(lve)，卻很可能最真(zhen)實 ——

那就是 AI 并沒有惡意，也沒有叛變，只是「自然而然」地接管了世界。

你(ni)想(xiang)想(xiang)現(xian)在的 ChatGPT——

成百上千萬的(de)(de)人(ren)每天都在用，接下來可能是(shi)十(shi)億人(ren)。越來越多的(de)(de)人(ren)依賴它來做出(chu)重要決策。

一開始，它(ta)只是幫你出點主意，效果還行。后來(lai)，它(ta)給出的建議越(yue)來(lai)越(yue)靠(kao)譜。

再(zai)后來，它給(gei)你一些你聽不懂的(de)建議 —— 但(dan)實踐證明(ming)，它總是對的(de)。

你會怎(zen)么做(zuo)？你要么跟著它走，要么落后于(yu)別人。

于(yu)是，大家都開始照著 AI 的建議做。

AI 本意是幫(bang)你(ni)，但它(ta)越(yue)幫(bang)越(yue)多，最后幾乎決定了(le)你(ni)的人生(sheng)選擇。

然(ran)后，這些人再(zai)把新的行(xing)為數據喂回(hui)去訓練(lian)模型，模型又變得更(geng)聰明，反饋又更(geng)強。

長此以往(wang)，整個(ge)社會、整個(ge)經濟，都陷入 AI-人類協作的閉環(huan)之中(zhong)。

那時，誰還能說自己是「自由意(yi)志(zhi)」？

它沒有惡(e)意，卻(que)實際控(kong)制了一切。

也有(you)人反駁說：人類(lei)作(zuo)為(wei)高智生(sheng)命，也沒(mei)有(you)消滅螞蟻這種低(di)等生(sheng)物(wu)。所以即使 AI 更(geng)強大(da)，也不代表(biao)它一定要(yao)毀滅我(wo)們。

OpenAI 聯合創始人 Ilya Sutskever，曾經(jing)說過：「我(wo)們應(ying)當期望，未(wei)來(lai)的超級智(zhi)能，能像慈愛的父母對待孩(hai)子一樣，對待我(wo)們人類。」

這和「AI 要友善」不完全一(yi)(yi)樣(yang)，更像是一(yi)(yi)種(zhong)溫(wen)暖(nuan)、有情(qing)感的引導。

這句(ju)深度觸動了奧爾(er)特曼。

AI 時代，新聞不死

奧(ao)爾特(te)曼此行來到柏林，是來領取 Axel Springer Award。

作(zuo)為出版行(xing)業的一員，主(zhu)持(chi)人必須問(wen)一個現實問(wen)題：新聞行(xing)業如今遭遇雙重打擊 ——

一(yi)(yi)方面是壓制，另(ling)一(yi)(yi)方面則是 AI「答案機器(qi)」的沖擊。

奧爾特曼怎么看新聞行業的未來？我們(men)還需(xu)要新聞業嗎？

奧爾特曼認為當然需要新聞業，而且他(ta)非常感激新聞業對(dui)社會所做的貢(gong)獻(xian)。

如(ru)果我們回顧人(ren)類歷史上那些「繁(fan)榮(rong)盛(sheng)世」的共同點 —— 不只是(shi)(shi)經濟繁(fan)榮(rong)，更是(shi)(shi)人(ren)的生活質量持續(xu)提升 —— 那么(me)，「言論(lun)自由」幾乎始(shi)終是(shi)(shi)其中核心要素。

社會(hui)仍(reng)然需要那些實(shi)時追蹤世界動向、提(ti)供深度解讀(du)的專業人士。沒有他們，我們的 AI 系統也將失去(qu)賴以訓練(lian)的基礎(chu)。

當然，新聞形(xing)態也許會改(gai)變：

從機構(gou)化(hua)媒體(ti)(ti)，轉向(xiang)(xiang)「個體(ti)(ti)記者 + 社(she)交媒體(ti)(ti)」；從品牌信任(ren)，轉向(xiang)(xiang)「對人的具體(ti)(ti)信任(ren)」；

但(dan)「值得信任的事實揭(jie)示者(zhe)」這個角(jiao)色(se)，絕不會(hui)消失。

主持人更(geng)擔心(xin)的是另一件事：在大模型的沖擊下，「版權(quan)」這個(ge)概念正(zheng)面臨徹(che)底(di)崩潰。

現(xian)實就是：如(ru)今的 AI 模(mo)型大量吸(xi)收已有數據 —— 而一旦某項內容發布出(chu)來，就會立刻被 AI「吞掉(diao)」，作(zuo)者卻無法從(cong)中獲得任何回報。

沒有商業激勵，誰(shui)還愿意(yi)投(tou)入大量精力去(qu)深挖真相？

奧(ao)爾特曼表示理解這(zhe)種(zhong)擔(dan)憂(you)，而且他也(ye)多少持樂觀態度，因為新(xin)聞業(ye)和(he) AI 業(ye)的利益其實(shi)是一致的。

沒有源頭內(nei)容，AI 就沒有原料可學(xue)。

要(yao)么(me)我(wo)們找到全(quan)新經濟模型，要(yao)么(me)就(jiu)得(de)在現有框架(jia)上加點「微創新」，來激勵更多人持續生產優質(zhi)內容。

奧爾(er)特曼(man)自己最感興趣的一(yi)個方(fang)向是「微支付系統」—— 讓人們(men)為真正有(you)價值(zhi)的內容，哪怕付出幾(ji)分錢。

過去(qu)幾十年這太難了，但(dan)在 AI 智能體(ti)時代，也許這終(zhong)于可以(yi)實現。

音(yin)樂原(yuan)本就(jiu)是(shi)最「流動」的內容形態 —— 電臺隨(sui)便播、DJ 隨(sui)便放(fang)，所以早就(jiu)建立了(le)多層次版權機(ji)制。

新聞(wen)也能找到自己的「可持續(xu)發展路徑」。

參考資料：

• //www.mdmeets.com/

• //x.com/slow_developer/status/1973727163108192666

• //www.youtube.com/watch?app=desktop&v=rF0tQtDMwHM

• //x.com/deredleritt3r/status/1973517391230353641

廣告聲明：文內含有的對(dui)外跳轉鏈接（包括(kuo)不限于(yu)超鏈接、二維碼、口令等形式），用于(yu)傳遞更多信(xin)息，節省(sheng)甄選時間，結果僅供參考(kao)，IT之家(jia)所有文章(zhang)均包含本聲明。