2025年1月中旬，“雙體實驗室”舉辦了一次關于人工智能的小型討論會，由林峰擔任主持和提問，金觀濤、余晨回答相關問題，從哲學認識論角度反思了人工智能的過去、現(xiàn)狀和未來，劉青峰也加入討論。會后，林峰、宋福杰、徐書鳴進行了書稿整理，金觀濤、劉青峰對討論稿做出重新梳理和表述，林峰、余晨參與最終定稿。這次討論會的參與者還有桑田、宋福杰、李金茂、袁振、曹方麟、劉蘅、簡直等。感謝劉蓬先生資助并參加了這次活動。

本文是這次討論會文稿的節(jié)選。討論會全部文章收錄于金觀濤《我的哲學探索》一書別冊《關于AI的對話：智能的過去、現(xiàn)在與未來》

與談人簡介

金觀濤

生于1947年，現(xiàn)任中國美術學院南山講座教授、香港中文大學中國文化研究所高級名譽研究員。主要著作有《系統(tǒng)的哲學》《歷史的巨鏡》《軸心文明與現(xiàn)代社會》《消失的真實》《真實與虛擬》。與劉青峰長期合作研究，合著代表作有《興盛與危機》《開放中的變遷》《中國現(xiàn)代思想的起源》《觀念史研究》《中國思想史十講（上卷）》。

林峰

畢業(yè)于西安交通大學，長期從事電信與互聯(lián)網(wǎng)設備領域的硬件研發(fā)與供應鏈管理工作。著有《“理解”供應鏈——系統(tǒng)論視角下的供應鏈概念》。雙體實驗室播客主理人。

余晨

易寶支付聯(lián)合創(chuàng)始人、總裁，易寶公益聯(lián)合發(fā)起人，元宇宙與人工智能三十人論壇理事會理事，2019、2023年度中國公益人物，復旦大學哲學課堂客座教授。著有暢銷書《看見未來：改變互聯(lián)網(wǎng)世界的人們》。雙體實驗室總顧問。

劉青峰

香港中文大學中國文化研究所名譽研究員，香港中文大學《二十一世紀》雙月刊創(chuàng)刊編輯。畢業(yè)于北京大學，曾任鄭州大學教師、中國科學院副研究員，《自然辯證法通訊》編輯。著有《讓科學的光芒照亮自己》《公開的情書》。與金觀濤長期合作研究，合著有《興盛與危機》《開放中的變遷》《中國現(xiàn)代思想的起源》《觀念史研究》《中國思想史十講（上卷）》。

林峰

講到這里，我想回到金老師在討論剛開始時所指出的，當前的人工智能革命應視為現(xiàn)代科技本身的“脫嵌”。

今天，人工智能研究者千方百計地想辦法消除大語言模型中的幻覺（hallucinations），然而，基于人工智能的工作原理是將“使用語言”這個本由主體規(guī)定的確定過程變?yōu)闆]有主體的概率過程，那幻覺就是不能徹底消除的。科學真實中主體可懸置，這是在科學真實領域中智能可以和主體分離的原因，而與主體分離后的人工智能會產(chǎn)生幻覺，也就意味著真實性有喪失的可能，這不正是智能“脫嵌”帶來的問題嗎？

余晨

《軸心文明與現(xiàn)代社會》中對“脫嵌”有一個定義，就是現(xiàn)代市場經(jīng)濟和科技發(fā)展從束縛它的有機體中解放出來時，不能完全被納入一個新的容量不斷增大的社會整合框架中去。這個新的整合框架就是現(xiàn)代社會結構。今天，人們普遍把現(xiàn)代社會當作契約社會，然而它是建立在理性和終極關懷二元分離之上的?，F(xiàn)代社會的有效運作，不能離開終極關懷，因道德和人生的終極價值由終極關懷規(guī)定。今天，“脫嵌”之所以在各個方面出現(xiàn)，是因為建立在理性之上的現(xiàn)代契約社會，正面臨道德和人生終極價值喪失的危機。然而，人工智能導致的“脫嵌”也能歸為終極關懷和理性的分離嗎？

劉青峰

從我的感受來看，確實是有這樣的問題。我用一些搜索網(wǎng)站查詢信息時，首先跳出來的是AI給出的答案。面對AI給出的答案，我往往感到無趣和沮喪。因為我是一個從小就有求知欲望、愛學習、活到老學到老的人，我想要的不是一個眾所周知的平庸答案，而是能夠在求知過程中感到愉悅。剛才余晨講現(xiàn)代社會危機的根源是終極關懷退出公共領域，可能主要是指宗教和傳統(tǒng)生死觀。AI如此強大，似乎無所不知、無比正確，我想，那些有宗教信仰的人會質疑它是否要扮演造物主。而對我這樣的人來說，一旦失去求知過程的樂趣，活著的意義在哪里？

自小我就對星空充滿好奇心。1961年加加林上天，我就覺得人太偉大了，居然可以離開地面進入太空，這激勵我考上了北京大學物理系。星空的神秘感對我而言始終存在。在我進入老年后，2021年詹姆斯·韋伯空間望遠鏡上天的時候，我還非常有興趣地去了解它整個過程中的挫折和成功，去了解怎么計算這個拉格朗日點。這一切今后還有意義嗎？這讓我想起《星際穿越》里反復出現(xiàn)的一首詩：

不要溫和地走進那個良夜，

老年應當在日暮時燃燒咆哮；

怒斥，怒斥光明的消逝。

這些詩句中有一種堅守和熱愛。當人工智能的浪潮把人類吞沒時，人會不會失去對未知的神秘感和好奇心？實際上，追求知識和以知識追求為生命意義并不是一回事。人需要的是對生活意義的不懈追求，不是一個答案。有追求，這才是人??！

金觀濤

青峰的說法有道理，背后涉及求知能不能成為終極關懷的問題，但現(xiàn)代人除了把認知作為生命意義外，似乎沒有其他的選擇了。20多年前，我和青峰在中山大學做觀念史研究的報告，一位做自然辯證法研究的朋友評論說，當年你們提出大歷史觀，今天卻在咬文嚼字。當時，我想到了清代學者戴震。任何知識哪怕再微小，它也代表了真實性追求。

人工智能的出現(xiàn)，動搖了這種意義。本來測定蛋白質三維結構需要科學家用冷凍電鏡來觀察和試驗，現(xiàn)在人工智能一下子就做到了。如果知識就是一個正確答案，用人工智就能得到，求知過程意義何在？

從歷史上看，求知能否作為終極關懷，這本來就有爭議。古希臘文明之所以出現(xiàn)超越視野轉向，就是因為求知不能解決生死問題?，F(xiàn)代性需要終極關懷與理性的二元分離，依據(jù)的正是認知理性必須和其他終極關懷分裂共存，而不是僅僅用認知這一種超越視野作為生命意義。在此意義上，求知意義的喪失使得現(xiàn)代性面臨的挑戰(zhàn)更為嚴峻了。它不僅要求各種超越視野的純化和多元共存，還要求在人工智能時代重塑求知本身的意義。

林峰

我認為，有了人工智能后，認知作為終極關懷不會改變，改變的只是求知方法。21世紀的大學生已經(jīng)高度依賴人工智能了，2025年初ChatGPT有次宕機了，導致很多學生連論文都寫不下去了，有些喜歡夸大其詞的自媒體驚呼：“學術因此倒退了100年?！睂憣W術論文是求知和獲得新發(fā)現(xiàn)，現(xiàn)在可借助于人工智能，這說明人工智能正在重新定義求知過程。

其實，被重新塑造的還包括人與人之間的情感交流。2013年有一部科幻電影叫《她》（Her）。Her是個和ChatGPT類似的AI，在電影中是一個完美的戀愛對象。男主人公原本有情感障礙，與很多人都合不來，Her出現(xiàn)后，與他談了一場完美的戀愛。電影的結局有個反轉，Her在某一天突然覺醒了，認為男主人公與自己不匹配。

余晨

美國物理學家邁克斯·泰格馬克出版過一本名為《生命3.0》的書，他設想了十幾種未來人工智能時代中可能出現(xiàn)的情況，例如機器把人干掉了，或人把機器降伏，其中一種很特別的情況叫“善意的獨裁者”。人不再作為知識的追求者，因為所有的科學定律都已經(jīng)被機器發(fā)現(xiàn)過了。然而，泰格馬克認為人還可以找到活下去的意義，這就是和幼兒園的小孩一樣，被老師帶著玩游戲，讓人工智能帶領著人類再發(fā)現(xiàn)一遍科學定理，這不僅有樂趣，還沒有任何風險。

金觀濤

我認為余晨提出的例子并不意味著人工智能創(chuàng)造了求知的新形態(tài)。讓人工智能帶著人類再發(fā)現(xiàn)一遍科學定理，實際上是歷史上曾經(jīng)發(fā)生過的在某種價值和意識形態(tài)指導下做研究的重演。中世紀就是在神學籠罩下做各種學問，20世紀還出現(xiàn)過在不同主義支配下的科學研究，都不僅僅是在老師帶領下的玩游戲。

至于人工智能可以改變人的情感交流，更是一種幻覺?！端愤@部電影講的究竟是戀愛還是一種自戀？人工智能沒有主體，Her的主體其實是愛她的那個男主人公給予她的。人和人工智能談戀愛只是我和我的另一部分相愛。自古以來就有自戀，人工智能對其賦予了戀愛的形態(tài)。至于電影的結局，不過是人從自戀中醒過來。這表明，在人類的感情生活中，還是那句老話：太陽底下沒有新事物。

劉青峰

關鍵是人工智能不可能有主體。我年輕時愛看阿西莫夫的書，他提出機器人三定律。機器人有主體，道德戒律才有意義?，F(xiàn)在大語言模型問世了，人工智能沒有主體，機器人三定律一條都不成立。這種機器人用于戰(zhàn)爭，是人類的悲劇。我喜歡看《星球大戰(zhàn)》系列電影，其中的小機器人R2-D2非?？蓯?，能夠非常機靈地解決很多問題。后來還出來一個C-3PO，是一個禮儀機器人。包括《星際穿越》在內，很多的科幻電影中既有反思，也有父女之間的感情。我覺得AI時代，拍不出這樣的電影。

余晨

剛才談到人工智能對人類社會的威脅，大眾一般會想到好萊塢電影呈現(xiàn)的內容—機器覺醒并消滅人類。但在現(xiàn)實中，人工智能的威脅更體現(xiàn)在以下兩個方面：第一，人工智能的出現(xiàn)，使得獲得真相的成本更高。這樣，人類社會就會真正進入一個后真相時代，民主社會運作的基礎也就不存在了。第二，人工智能在理論上可能創(chuàng)造出比現(xiàn)有生產(chǎn)力高出幾個數(shù)量級的財富，但分配問題也就顯現(xiàn)了出來，很可能會因此帶來更大的貧富差距。在工業(yè)時代，人的才能大體呈現(xiàn)出正態(tài)分布，流水線上最熟練的工人比最不熟練的工人可能也就高出兩倍的才能。

而在互聯(lián)網(wǎng)時代，人的才能差異可能會呈現(xiàn)出冪律分布，一個好的程序員在收入上可能比普通程序員高出十倍以上。在人工智能時代，這個差別可能會發(fā)生指數(shù)級的增長?，F(xiàn)在有一個新概念叫“超級個體”，在人工智能技術的支持下，薩姆·奧爾特曼認為未來可能會出現(xiàn)一個人的獨角獸企業(yè)（即市值10億美元以上的公司）。

最近另一個流行的概念是AIAgent，也就是人工智能代理，它是一種能夠代表用戶或其他系統(tǒng)自主執(zhí)行任務的智能體。那么，未來也許只需要一個人指揮成千上萬的Agent，就能運營一家公司，形成一個獨角獸企業(yè)。這會帶來財富分配的危機。

林峰

針對剛才我們提到的人工智能對人類社會的潛在威脅，很多人工智能專家也在試圖尋找預防和控制的辦法，其中一個嘗試叫“超級對齊”。最早是OpenAI在2023年建立的一個團隊提出的?！俺墝R”的主要目標就是試圖讓人工智能在價值觀上與人類對齊，以防止在人工智能的自由意志涌現(xiàn)之后，威脅人類社會。當然，“超級對齊”對價值的定義是功利性的，屬于價值函數(shù)或效用函數(shù)內的概念。

金觀濤

什么是價值？我認為價值是主體對對象的評價，這個評價規(guī)定了主體對對象的態(tài)度、行為方式。舉個例子，一個男孩愛上一個女孩，表明男孩對女孩有一個評價—她是值得愛的。但光有評價還不夠，這個男孩對女孩的行為方式、說話態(tài)度都要發(fā)生轉變，這才構成價值。

因此，價值包含兩個層面：第一，價值是主觀的，是對主體而言的；第二，一旦價值產(chǎn)生，就會改變主體對對象的行為方式。一旦價值社會化，被所有人接受之后，就會發(fā)生普遍觀念和社會行動的互動。我剛才也說過，人工智能中不可能產(chǎn)生主體性，試圖與人類價值的“超級對齊”很可能實現(xiàn)不了，即便實現(xiàn)了，出現(xiàn)的也不是價值問題。這一切可能引發(fā)未知的社會災難。不過，這個社會災難不是機器造成的，而是來源于人類自身。

余晨

價值是要有主體的，但“超級對齊”并不要求機器有主體性和意識。以核能的開發(fā)為例，人類要設計一套符合自身價值的規(guī)定和協(xié)議，防止核能開發(fā)中發(fā)生違背人類價值的事情?！俺墝R”的思路也是如此。

機器不具備價值主體性，這在很多時候是一件好事。正因為機器不具備意識和主體性，它才不是道德的主體和對象，人也不需要對機器擔負倫理責任。人可以奴役機器為其服務而不需要有任何道德負擔，因為機器沒有意識，不會產(chǎn)生痛苦。

然而，“超級對齊”過程中，經(jīng)常會出現(xiàn)很多非預期的后果—畢竟現(xiàn)實的社會系統(tǒng)太復雜了。哲學家尼克·博斯特羅姆于2003年提出一個思想實驗，名為“極致曲別針制造機”（paperclip maximiser）。人工智能得到一個指令：盡可能多地生產(chǎn)曲別針。在這個一切都是為了盡可能搜集資源去制造曲別針的過程中，機器人和人類發(fā)生沖突，并消滅了人類。

劉青峰

作為思想史研究者，我還有一個擔心，這就是機器迭代過程中是否有可能將過去的歷史記憶都清洗掉。未來人們可能認為不再需要保存一種hardcopy（實體文檔）的史料，而完全依賴機器，這時，一旦電腦宕機了，人類文明的記憶就徹底遺失了。我曾問過AI一個歷史上的小問題，得到的回復是它處理不了，因為這個問題不在它的訓練數(shù)據(jù)中。人們可能有一種幻覺：人工智能可以處理歷史上所有的材料。

林峰

就像金老師在討論會開場所說的，21世紀還剩下四分之三，在這段時間內，人工智能對人類社會的影響究竟會是正面的還是負面的？有意思的是，作為AI教父的辛頓對此持悲觀態(tài)度。他認為未來30年內人工智能導致人類滅亡的概率高達10%~20%。

金觀濤

這是我欣賞辛頓的地方。他向公眾道歉，承認自己做了一件對人類有危險的事情，這種精神不簡單。辛頓的擔心是有可能出現(xiàn)的，但如果人類滅亡，導致這一可怕后果的原因不是人工智能超過人類，而是人類無法駕馭人工智能，解決不了它帶來的社會問題。技術本身不會讓人類滅亡，人類的滅亡是由于當技術帶來重大社會問題時人類還沒有在認知上做好準備，以至于不能應對。就像我們前面反復提及的，人工智能的本質是智能和主體的分離，分離后的智能完全可能被一些人控制，并損害個人自由，還可能被用于戰(zhàn)爭。現(xiàn)代社會正處在危機中！

其實，人類一直面臨如何與自己發(fā)明的技術相處的問題。除了駕馭技術，人類還要去發(fā)現(xiàn)新的生活意義。農(nóng)業(yè)革命之后，人類不再像部落社會那樣逍遙了，定居本身是一件讓人煩惱的事情，大部分人都要辛苦地耕作，生活變得不堪重負。但只要建立了跨地域文明，人就不得不適應這種變化，去發(fā)現(xiàn)新的人生意義。進入現(xiàn)代社會之后，個人的自主性得到高度擴張，同時也出現(xiàn)了一系列新的問題，如原本屬于傳統(tǒng)社會的意義的消失和孤獨感。這時，求知和努力工作本身成了很多人的人生意義。

今天，當人工智能可以取代各種原來由人完成的工作時，以工作養(yǎng)家為意義就會受到挑戰(zhàn)，必須重新確立人生的意義。我同意美國哲學家諾齊克的說法—人不是體驗幸福的機器，而是意義的追求者。人工智能只是將現(xiàn)代社會中被隱藏的問題放大，讓我們不得不面對而已。

林峰

金老師，在《軸心文明與現(xiàn)代社會》中，您提出21世紀人類正面臨“新軸心時代”，人工智能革命似乎正在為這個“新軸心時代”添加更多的變數(shù)?，F(xiàn)在已經(jīng)是1月13日中午了，我們的對話已經(jīng)持續(xù)了一天半。您能否對這一天半的討論做一個總結呢？

金觀濤

我還是回到軸心文明大歷史觀和真實性哲學來分析今天人類的處境。

有人說我們正在進入晚期現(xiàn)代社會，我不同意這種說法?，F(xiàn)代社會必須經(jīng)過不斷改進才能成熟，今天也正處于自我改進的過程之中。現(xiàn)代性起源于天主教文明中終極關懷與理性的二元分裂，經(jīng)歷了近百年的宗教戰(zhàn)爭，才在加爾文教社會中形成。自從法國大革命開啟天主教文明的現(xiàn)代轉型起，在民族國家興起、全球市場經(jīng)濟和科技的高速發(fā)展所帶來的第一次“脫嵌”危機中，20世紀發(fā)生了兩次世界大戰(zhàn)，人類發(fā)明了足以毀滅自己的核武器。

但在兩次世界大戰(zhàn)后，現(xiàn)代社會實行了一次自我改進，此后出現(xiàn)了冷戰(zhàn)結束和第二次全球化。第二次全球化展開半個世紀后，現(xiàn)代社會又面臨第二次“脫嵌”的可能，人工智能革命是其中科技“脫嵌”的表現(xiàn)。也許，樂觀點兒看，它可能加快現(xiàn)代社會第二次自我改進的進程。歷史表明，現(xiàn)代社會作為軸心文明的新形態(tài)是在大風大浪中發(fā)展起來的，它一直在不斷探索，并尋找一種可以保持現(xiàn)代市場經(jīng)濟和科技不斷發(fā)展的社會結構。

如果把我們人類正在經(jīng)歷的現(xiàn)代社會第二次“脫嵌”看作走向新軸心時代，那么，我有兩點看法。第一，現(xiàn)代社會不能沒有終極關懷，而終極關懷的幾種類型是在兩千多年前的軸心時代形成，至今人們無法創(chuàng)造新的形態(tài)；第二，今日全球市場經(jīng)濟和科技“脫嵌”的原因是與終極關懷的萎縮乃至消失有關的，必須意識到這是不可避免的。早在軸心文明起源時，四種終極關懷中的認知理性就是不穩(wěn)定的，后來被宗教文明吸納、消化。在傳統(tǒng)社會向現(xiàn)代社會轉型中，終極關懷和認知理性處于二元分離狀態(tài)，似乎找到了兩者共存的方法?，F(xiàn)在看來，事情沒有那么簡單。隨著認知理性無限制地擴張，終極關懷必定會受到?jīng)_擊，乃至萎縮、消失。今天，很多人試圖回到舊宗教中去，懷念現(xiàn)代性起源時兩者共存的狀態(tài)，這份用心可能是良好的，但我們真能回得去嗎？

我認為，在當今的現(xiàn)代社會，終極關懷仍然是道德和人生終極意義的來源，終極關懷不會消失，我們唯一能做的是將終極關懷“純化”，使它們和現(xiàn)代社會科技認知相一致。軸心文明有四種超越視野，每種超越視野中又有若干種終極關懷，它們互相之間也是存在沖突的，這樣，終極關懷的純化不僅是化解它們和科學理性的不一致，還要能做到多元共存。

另外，作為現(xiàn)代性基石的個人自由雖然起源于加爾文教，但是我根據(jù)真實性哲學，論證了個人自由是元價值，和宗教沒有關系；而要把獨立自由的個人組織起來，只能是建立契約社會。當契約出現(xiàn)問題時，必須根據(jù)每個時代的問題做出改進。今天，無論是終極關懷的純化還是契約社會的重建，都需要科學和人文的再一次合作。只有這樣，我們才會有信心去開啟現(xiàn)代社會進一步改進的探索之路。

當下，人類碰到的最大的問題是人文精神被科學烏托邦摧毀。在科技進步發(fā)展到人工智能革命所掀起的巨浪面前，很多人文學者不知道發(fā)生了什么。本來語言是人文研究的基礎，現(xiàn)在機器會說話了，人工智能好像有了主體，人文學者的信心正在被人工智能摧毀。

我在《歷史的巨鏡》中曾寫道：“現(xiàn)代性起源于人的解放，知識掙脫信仰和道德至上束縛的牢籠，個人從社會有機體中獨立出來以申訴追求真理和創(chuàng)造的權利，但思想的死亡也是虛無對現(xiàn)代人的勝利。從此，一個個必定死亡的個體在孤獨的黑暗里發(fā)問：生命的意義何在？同類的回聲即使震耳欲聾，但也無助于克服死亡的恐懼。這將是人類心靈面臨的真正的黑暗時代?！比绾卧诂F(xiàn)代性受到挑戰(zhàn)的時代，高揚人的主體性，這正是人文學者的責任。我希望人文學者站起來，恢復自己的自信和勇氣。要知道，在人工智能時代，人類比以前更需要人文研究和藝術創(chuàng)造！這是我對本次對話的總結。

文章節(jié)選自《我的哲學探索》一書別冊《關于AI的對話：智能的過去、現(xiàn)在與未來》

《我的哲學探索》

內容簡介：

這本書是一個以思想為志業(yè)的學者，畢生探索歷程和研究成果的集成之作。40年間物換星移，從青蔥年代到暮色將至，思想者的歲月波瀾壯闊。而數(shù)十年如一日地苦苦追求真理，不僅要有直面驕陽的魄力，還需耐得住長久的孤獨，接受可能的失敗。尤其是在如今理想主義不再流行，人文精神被科技熱潮消解殆盡的時代里，許多人可能不禁要問，這樣的哲學探索究竟有何意義呢？當現(xiàn)代世界深陷精神困境，大多數(shù)人或是選擇激流勇退宣布“哲學已死”，或是躲進被后現(xiàn)代粉飾的對立狂歡，或是藏在思辨游戲的安樂窩里假寐。孤獨的思想家仿佛只身行走于幽深密林。