陳楸帆，科幻作家、耶魯大學訪問學者、中國作家協(xié)會科幻文學委員會副主任，多次斬獲星云獎、銀河獎、世界奇幻科幻翻譯獎等國內外獎項（圖/受訪者提供）
乘飛機抵達迪拜后，來參加第28屆聯(lián)合國氣候變化大會的陳楸帆想，怎么把自己這一程的碳排放給抵消掉。
這場有史以來規(guī)模最大的氣候變化大會充滿了爭議，7萬多人的參與讓大會自身的碳排放就已經不可估量。在一座沙漠中的化石燃料之城，來自167個國家和地區(qū)的領導人及官員探討如何逐步淘汰化石燃料，然而直到原定的閉幕日12月12日也未能達成全球協(xié)議，會議在激烈談判中不得不延期一天。面對全球變暖之下近年頻發(fā)的極端天氣事件，聯(lián)合國秘書長古特雷斯表示，“氣候變化是我們這一代人的生存威脅?！?/p>
作為科幻作家，陳楸帆覺得這一次的參會過程就像走在科幻片里，“很多既諷刺又現(xiàn)實的場景，讓你不停有一些反思和想法?！彼麥蕚浒堰@些觀察寫進他的科幻小說。
陳楸帆（左）參加聯(lián)合國氣候變化大會 圖/受訪者提供
近兩年，陳楸帆過著全世界跑的生活，2023年的行程加起來已經可繞地球四圈。11月中旬，他受邀參加巴黎和平論壇，在一場圍繞AI未來的講座中，他說到新時期的“算法奴役”，人們被強化偏見的算法、放大自我的社交媒體，以及將最狹隘的觀點不斷反彈的信息孤島所包圍。在他看來，人類意識中的缺陷和弱點塑造著社會結構、左右著政策制定，“當這些局限性不僅是內在的，且被科技故意操縱和放大時，其后果可能是災難性的?！?/p>
這份活動邀請，源于2022年陳楸帆的兩本書《荒潮》《AI未來進行式》的法語和德語譯本的出版及歐洲市場的反響。前者是講述中國電子垃圾危機和氣候不平等的小說。后者是他和李開復合著的書，兩人是在谷歌工作時的同事。
2019年，李開復找到陳楸帆，想合力完成一本展現(xiàn)20年后被AI技術深刻改變的人類社會圖景的作品。他們閱讀了海量論文，與業(yè)內專家交流，參與AI工作坊，走訪相關創(chuàng)業(yè)公司。成書《AI未來進行式》采用科幻小說加科技評論的形式，以合乎邏輯的方式推演人工智能將在20年后達到什么水平。
2023年，兩人再見面時，都認為當時的預測太保守了。“書里寫的很多故事都不需要20年，有可能5到10年就會變成現(xiàn)實?！标愰狈f。當人們談到AI，常說應該讓AI與人類的價值觀對齊，“但問題是人類社會內部的價值觀都不對齊?！?/p>
“整個世界的現(xiàn)實圖景已經高度復雜化、抽象化，它遠離了我們日常經驗的限度?！标愰狈X得，這正是科幻小說在技術加速年代的魅力所在。在學者楊慶祥看來，好的科幻小說善于通過技術想象展開“思想實驗”，“不停地與固化的秩序和意識形態(tài)進行思想的交鋒，不憚于創(chuàng)造一種全新的生存方式和建構模式——無論是在想象層面還是在實踐層面?！?/p>
接受南方人物周刊記者采訪時，陳楸帆剛剛落地韓國首爾，將參加另一場關于人工智能與氣候變化的峰會。幾年前，陳楸帆就開始用AI寫小說了，也親身經歷著AI技術迭代的過程，“因為未來不會等你?！彼f。
陳楸帆在愛麗舍宮向法國總統(tǒng)馬克龍（右）贈書 圖/受訪者提供
“超級對齊”，還是“有效加速”？
人物周刊：前幾天我要交一份材料時，后知后覺地意識到應該讓ChatGPT來寫，一是更高效，二是它可能比我的格式更準確。你已經在這條路上踐行幾年了，你經歷的AI技術迭代過程是怎樣的？
陳楸帆：我在2017年開始與AI共同寫作，那時Google推出了Transformer模型架構，現(xiàn)在ChatGPT也是基于這個框架發(fā)展而來的。當時我找到了創(chuàng)新工場AI研究院執(zhí)行院長王詠剛，編寫代碼、構建模型、用數(shù)據(jù)訓練，使用我的小說作為數(shù)據(jù)。這個項目雖然還處于早期階段，算法和數(shù)據(jù)規(guī)模都很小，但我們進行了一些實驗性嘗試，還拿了一個上海思南文學選刊的獎項，贏了莫言老師，是一個挺有意思的過程。
在2020年，我們進行了升級，使用更大的參數(shù)規(guī)模，類似于GPT-2，并利用更多語料訓練了一個名為“AI科幻世界”的工具。我們邀請了十幾位作家參與創(chuàng)作，并在知乎上與網友互動，讓大家猜測哪些是人寫的，哪些是機器寫的。我們發(fā)現(xiàn)AI在理解上下文、整體邏輯的自洽性以及語言風格的流暢程度方面有了很大的提升。
之后我們就沒再更新，因為沒有必要了。GPT-3到GPT-3.5的出現(xiàn)帶來了突破性的進展，參數(shù)規(guī)模一上去，它就展現(xiàn)出了很多能力。這就是現(xiàn)在AI大模型創(chuàng)業(yè)的尷尬處境。2022年ChatGPT剛發(fā)布時，許多創(chuàng)業(yè)團隊基于OpenAI的API接口開展了許多項目，我當時預測其中99.99%會很快消亡。因為OpenAI自己的大模型可以輕松地通過插件或定制化模型形式展現(xiàn)出新的功能，可以完全覆蓋這些創(chuàng)業(yè)項目。
人物周刊：現(xiàn)在你和AI是什么樣的創(chuàng)作關系？
陳楸帆：它不是一蹴而就的，很多人可能會誤解為它是一鍵下單的過程，但其實整個過程里人類需要付出的勞動，一點也不比自己獨立創(chuàng)作少。因為在這過程中你需要不斷迭代、試錯，可能很多時候它不能給出特別滿意的答案，會覺得挺有挫敗感的。ChatGPT出來前，我們沒有直接跟AI對話交互的界面。
現(xiàn)在我基本上都使用現(xiàn)成的ChatGPT和其他定制化AI工具作為日常工作的輔助，比如寫郵件、起草發(fā)言稿、翻譯、整理日程表，這些都很容易完成。如果跟創(chuàng)意寫作相關，可能會用它做頭腦風暴，它會給出很多方向，但大部分都比較平庸或者套路化。就現(xiàn)在來說，所謂的 AI也是個黑盒子。它會有很多不實數(shù)據(jù)和虛假事實，你得有判斷力地使用，有選擇、有策略地提升效率，甚至打破被局限在思維慣性里的套路或刻板印象。
我覺得這也是對AI的認知以及與AI協(xié)作不斷深入的過程，需要有這樣一個開放、積極、建設性的心態(tài)去對待它。在人機不斷交互的過程中，人類也在不斷學習，成為更好的創(chuàng)作者。如果人類用非常懶惰、被動的方式去使用AI，它就會給出讓你變得更懶惰、更被動的答案。
陳楸帆（右二）參加布魯塞爾歐洲之友峰會 圖/受訪者提供
人物周刊：過去一年，你參加的關于人工智能的論壇中，各個國家、地區(qū)的討論側重點有哪些不同？國際上目前存在對AI具有約束力的監(jiān)管協(xié)議嗎？
陳楸帆：就我的感覺而言，歐洲主要偏重于風險監(jiān)管，關注AI對傳統(tǒng)人本價值、人文領域的沖擊。這些討論會有地域性差別，也和討論者所在的行業(yè)、地位或階層有關。比如美國硅谷的聲音和美國南部普通老百姓的肯定不一樣，所以沒法一概而論。
但整個大環(huán)境是，資本一方肯定希望以更快的速度發(fā)展 AI 技術。所謂的“有效加速主義”，是硅谷很多大佬崇尚的一套哲學，技術盡可能快地加速，這樣能解決很多問題，即使技術發(fā)展在過程中出現(xiàn)了新問題，也可以因為加速而得到解決，從而迫使人類文明進化到更高的維度。
另外也有更謹慎保守的聲音，也即“對齊主義”，要求在人類制定出監(jiān)管框架和手段前不應盲目追求速度，因為這和研發(fā)核武器一樣，很可能會把人類文明帶入非常危險的境地。
所以11月1日，在英國舉辦的首屆全球人工智能（AI）安全峰會上有二十幾個國家聯(lián)署了一份新的 AI 監(jiān)管的整體性框架協(xié)議《布萊切利宣言》，這可能是第一個國際性的AI監(jiān)管框架。這個宣言主要有兩個議程，首先是識別風險，其次是建立起對這些風險的全球共識。然后，根據(jù)識別出來的風險，各國制定政策來確保安全，因為各國國情、法律框架都不一樣，需要因地制宜地落實到政策層面。此外還會通過國際化合作來制定評估指標。峰會每年都要召開，目的是構建一個國際包容的AI前沿安全的研究網絡。
至少能看到包括中國、美國、英國，還有很多其他的大國和歐盟，都愿意放下地緣政治、意識形態(tài)等等分歧，圍繞人工智能安全與監(jiān)管的大問題來開展對話和合作。這意味著一個全球性的、行星級別的議題的出現(xiàn)，就和氣候變化一樣，是現(xiàn)在兩大需要全球協(xié)作的議題。
人物周刊：對比來看，中國對AI的認知處于什么位置？你說看待 AI我們目前還是處于太初期的階段，為什么？
陳楸帆：我覺得這跟我國的發(fā)展階段有關，因為“技術”的概念其實是非常晚近才引入中國的。而且我們可能在一百多年前才有“科學”這個詞，它也是通過譯介進入我們的話語體系的。所以，我們沒有像歐洲那樣幾個世紀的基于人本主義、技術反思的一些哲學思考，包括上世紀的法蘭克福學派，就已經進行過很深度、很全面的技術反思。
對我國而言，“技術”的話語真正進來確實是在改革開放之后，它跟隨所有的西方話語體系、價值觀而來，我們一直在適應它，利用它來提升生產力和生產效率。1980年代提出“科學技術是第一生產力”就說明科技是非常重要的工具。而基本上你能聽到的關于技術的反思，也都是這十幾年才慢慢形成的，而且更多是在小的學術圈范圍內。在大眾層面，我們更多是看到對科技新貴的贊美、對大科技公司狂飆突進的圈地運動的歌頌，因為它確實帶來了很多生活上的便利，也推動了經濟發(fā)展和國力的上升。
無論是大眾媒體層面，還是學術界的科普，很多的所謂“外部性”議題，也就是它帶來的負面效應，還沒有被充分討論。我們沒有足夠多的科學家、科學工作者站出來，不管是通過寫作，還是以其他方式給大眾宣傳這樣的知識。即使有宣傳，多數(shù)還是處在非?；A的科普階段，沒有觸及更深層的方面，比如對技術本身的反思。
總體來講，我們社會對技術的認知還屬于比較被動的接受、而且比較玫瑰色的樂觀主義，相信它能給我們帶來好處。而對負面的討論，比如說國外的科幻作品《黑鏡》《黑客帝國》《攻殼機動隊》，這些帶有反思性質的敘事還是處在一個小眾的話語體系，更多人會把它們當作娛樂，而不是具有警醒意識的作品。尤其在AI時代，國內的大模型發(fā)展百家爭鳴，而圍繞大模型的深度探討很難看到，或者很難被大眾所認知，這是一個普遍現(xiàn)象。
陳楸帆參加米蘭三年展 圖/受訪者提供
新的“中心化”，線上生活更難了嗎？
人物周刊：今年全球關于AI的討論中，有一個本質問題是，人這個物種的獨特性，是否在AI來臨時變得岌岌可危了？《AI未來進行式》的《幸福島》寫智能時代的機器與算法遠比人類更了解自身，這可能是人們對AI感到恐懼的一個原因，即主體性被剝奪。當一切都可以被量化后，人的自我意識還有什么主體性？
陳楸帆：這個問題其實非常復雜，可以從不同的維度來看。到底什么是最本質的幸福？比如小說里是說如果有一種生物學指標可以將它量化，那它就能被機器學習、讀取，甚至施加影響，這是一種非常還原論的想法。
但我覺得，到最后人類還是不可能被如此簡單機械地還原成一堆數(shù)據(jù)。因為現(xiàn)在人工智能學到的也是非常有限的數(shù)據(jù)集，比如語言文字上的數(shù)據(jù)，還包括圖像上的。但有更多更微妙復雜的、無法被量化的數(shù)據(jù)，比如情緒的變化、意識現(xiàn)在是無法被監(jiān)測到的。因為意識本身需要通過表征外化成語言文字、標簽、聲音等等，需要一個外部化的過程。所以，當你的意識還沒有被表征出來時，其實就無法被識別、探測和量化。
我覺得就是魯迅先生老早說過的“絕望”與“希望”的辯證法，它們一直都在互相轉化，互相依存。我不覺得人類歷史上有絕對黑暗的絕望時刻，也不會有純然光明、充滿希望的瞬間，而是在不停地交織作戰(zhàn)、螺旋式上升的過程。所以，最后還是取決于人類本身。不要小看每個個體，雖然力量很渺小，但是每個個體最后能夠通過這樣的講述故事的方式，凝聚起共識。這也是尤瓦爾·赫拉利說的，人類作為一個物種，其獨特的能力其實是講故事，而不是使用工具或者語言——但我在這里存疑，其他動物肯定也有講故事的能力，只不過這故事或許還不能被我們人類所理解、所認知——他認為這是我們能夠超越個體去凝聚共識，完成更復雜、更大規(guī)模的工程的可能性。這工程可能是巨大的，比如造一座長城，或者建立起一套制度。所以我覺得人類還是有希望的，就在于我們能夠通過講故事的方式去傳遞這種希望。
人物周刊：近幾年講到算法時，一方面是實用主義的進步語境，另一方面則是科技剝削如“算法外賣員”“短視頻算法推送”。《幸福島》講的也是一個如何讓AI更好地服務人類生活的故事，即讓AI不再只專注于優(yōu)化單一目標函數(shù)，而轉向更豐富、更有彈性乃至更有人文屬性的函數(shù)模型，這對我們當下已被技術滲透的生活有哪些現(xiàn)實啟發(fā)？
陳楸帆：書里很多內容都在探討媒介對人的影響，無論是deep-fake（深度偽造）還是沉浸式虛擬環(huán)境，包括虛擬偶像數(shù)字人。其實我們已經在進入一個虛擬時代了，經過疫情，很多行業(yè)加速了這個過程，現(xiàn)在大家都習慣在家上班或上課。但這個過程中也會有新的問題出現(xiàn)，包括信息的真?zhèn)伪鎰e，在未來這種AIGC（生成式人工智能）能力可能是一個非常低成本的工具，很多人只要想就能夠制造出以假亂真的信息，可能給社會帶來干擾，甚至造成不良影響和風險。那我們怎么來防范？怎么來管控這些信息？
除此之外，當下一代年輕人越來越習慣于虛擬社交，因為他們會覺得這種關系、這種交互過程是可控、舒適的，而且是高度定制化的。就像很多人會和AI談戀愛，因為AI可能比真實的人類更知道怎么去說話、怎么去討好對方，而真實的人很多時候做不到這樣的事，所以他會恐懼和排斥真實的社交和關系。這已經在發(fā)生，不管是在中國還是其他國家，而這肯定會引起非常大的社會結構變化，包括人口出生率、結婚率的下降等等。這是一個必然的過程，但我們怎樣去調整現(xiàn)有的觀念和社會結構去適應這個過程？
當然，我鼓勵人必須有真實的社交，物理世界的交流和交往非常重要。因為目前虛擬數(shù)據(jù)的解析度還非常低，比如可能是720的解析度，但真人漸變可能是4K或者8K的解析度，它的信息密度是完全不一樣的。
而且，下一代已經生活在未來了，以后代際之間的距離會越來越大，有可能隔了一代人，就是兩個世界。也就是所謂的后人類，上一代人看下一代人就覺得他們是另一個物種。我覺得這個事情可能會加速發(fā)生，甚至有可能下一代也不認為自己是人類。我們現(xiàn)在還沒有足夠多的討論和理論工具讓我們做出一些及時的反應，而科幻就是幫你去做準備的類型。
陳楸帆（左）與項飆在法蘭克福書展對談 圖/受訪者提供
人物周刊：你曾說短視頻短的原因，“就是把人的感官分辨率無限地切分到接近極限”，以刺激人的生物性本能作為終極目的，技術的發(fā)展讓對人的剝削進入到一個嶄新的階段。這個年代，一個普通人面對多重算法的夾擊，是否線上生存難度也太大了？
陳楸帆：難度是很大，但可能放在沒有互聯(lián)網的時代也是一樣，只不過現(xiàn)在信息密度更大。比如說在報紙、電臺、電視臺的時代，其實也是一樣的，而且是更中心化的媒體權力結構，所有的媒體都掌握在位高權重者手中，那他可以控制你讀到什么、讀不到什么。到了互聯(lián)網時代，大家會覺得這是一個信息民主化的過程，大家可以平等、公開、透明地獲取信息，打破了所謂的階層和權力結構，好像是一個去中心化的過程。但經過一段時間的發(fā)展，你會發(fā)現(xiàn)它又重新中心化了。
因為資本主義的邏輯鏈條就是要圈地，它要做大做強，最大程度地壟斷并且榨取剩余價值，所以又重新中心化成一個個的平臺，一個個信息孤島，由此產生各自的立場和偏見。所以這其實就是一個不斷地中心化、去中心化、再中心化的過程。只要人類存在一天，這個過程就不會停止，AI是這個過程中的一環(huán)而已。
現(xiàn)在的AI也是一個非常中心化的東西，你很難設想一個沒有錢、沒有數(shù)據(jù)的個體創(chuàng)業(yè)者能在這個時代靠自己搞出一個大語言模型，因為沒有錢買GPU、搞數(shù)據(jù)、訓練機器。在之前那個草根互聯(lián)網時代，已經出現(xiàn)了所謂新中心化的局面，而在即將到來的AI時代、大模型時代，會更加中心化，但這之后可能又會迎來一個新的去中心化的時代。那個是什么？我也不知道，但這個過程是不會消停的，這就是人類。
全球化的離散年代，人還需要故鄉(xiāng)嗎？
人物周刊：這兩年你在全世界跑，大多時間都在國外，跳換在不同時區(qū)間的生活是怎樣的？
陳楸帆：我感覺我這兩年也是處于一個加速度的過程。不管是去的地方、見的人，還是思考的問題都超出了之前10年甚至20年的密度。對自身精力、時間管理等等方面也提出了更高要求。我也因為這兩年去了太多地方，開始思考所謂的“在地性離散”、家鄉(xiāng)這些問題。
以前沒有如此具身地感受過，當自己不停換地方、換語境，我就會更深切地感受到自己身上的“中國性”。不管你去到哪個地方，哪怕你換了不同的身份，但你作為中國人的標簽是沒有辦法改變的，它從語言，到身體的感官、到記憶，是你存在的一部分，這是你無法否定也無法剝離的。
陳楸帆（右）參加2023年巴黎和平論壇，本屆論壇的主題為“在競爭的世界中尋求共同點” 圖/受訪者提供
人物周刊：這讓人想到多琳·馬西的“全球地方感”，地方感也可以是外向的，察覺到與廣大世界的關聯(lián)，并以積極正面的方式整合全球和在地，你自己的觀察呢？
陳楸帆：我在各個國家遇到的新的中國移民，他們也會尋求怎么融入這個環(huán)境，但他們跟老一代的移民肯定不一樣，因為他們不管是在語言還是工作技能、視野上，都更國際化。甚至有一些我認識的年輕人會嘗試用英文寫作。但肯定不是所謂英語母語者的語言，他們也不想像白人作家那樣去使用英語。
身份這個問題會一直存在，但在這個時代會變得更加復雜。從科技層面來看，很多問題其實溢出了國界，而這些都會影響一個人的自我身份和自我認同，包括他在多大程度上自我認同為一個世界公民。我現(xiàn)在會有一種非常奇怪的感覺，就是去到哪都不覺得陌生，以前我到國外，會覺得非常陌生，像一個游客，甚至會有點不安全感。但現(xiàn)在沒有了，現(xiàn)在看到不同膚色、不同種族、不同信仰的人，我感覺從他們身上能讀解出很多共通的情感、價值和理念。
當然人類很多東西都是共通的，不然也不可能成為一個共同的文明。只不過很多時候差異分歧被放大，變成裂縫。這個時代到處都是裂縫，更難的是怎樣找到共同的基底。這個基底是把我們凝聚在一起的最核心的力量。所以我覺得要找到這個力量，很多時候需要通過講故事的方式，尤其科幻。
這可能是科幻比較獨特的一點，它既是在地的，又是普世的；既是個體的，又是集體的；既是當下的，又是未來的。它在不停地打破各種邊界，文學類型、媒介、文化的邊界，我把這種突破性叫作跨界。它的跨界性就是它的價值所在。
人物周刊：接下來還會繼續(xù)這種生活狀態(tài)嗎，離散和數(shù)字游民會成為你接下來的關注對象嗎？
陳楸帆：我覺得一旦走出去了，要再讓自己固定下來可能會比較難。離散肯定會是我接下來的一個創(chuàng)作主題，現(xiàn)在也在寫一系列跟離散相關的恐怖小說，不一定是科幻，但是帶有恐怖類型的特點。這些故事都發(fā)生在離散的中國人身上，或者離散的群體身上，這里面有我想去探索的方向。
因為我現(xiàn)在處于一個游離的過程，一個不斷接觸新環(huán)境、新的人和信息的過程，自己的想法也會被極大地激發(fā)。但就是想法太多了，沒有時間去完成它，所以還需要把一部分精力收回來，放在寫作中。我覺得作為一個作家，不是演說家，不是活動家，也不是旅行家，最后還是要用作品來說話。
陳楸帆參加德國海德堡文學節(jié) 圖/受訪者提供
人物周刊：那你覺得人還需要一個“故鄉(xiāng)”嗎，一個擁有全球視野的人，還需要與自己出生的地域和傳統(tǒng)保持一定的親密聯(lián)系嗎？
陳楸帆：還是需要的，雖然不一定需要物理上回到故鄉(xiāng)的這種在地性。在法國我認識了一些潮汕后裔大學生，他們中有的是混血，也有柬埔寨的潮汕后裔，他們不會說潮汕話。但他們告訴我，如今在法國興起了一個運動，這些年輕的潮汕后裔開始組織協(xié)會或自發(fā)組織，開展文化尋根活動。有位年輕導演叫杜來順，拍了一部動畫片講述潮汕的故事。盡管他們離開很遠很久了，但他們仍希望尋找自身文化的根源。
我覺得尋根的沖動是人類的本質之一，它不會因為你走得遠而消失，它會以不同的形式重生。就好像我寫在VR建一個潮汕祠堂，你的先輩們都是以這種虛擬的數(shù)字人的形式被供奉，你還可以跟他們去互動，其實也是一種對故鄉(xiāng)的科幻式表達。
我覺得人最后還是需要回答一些最本質的問題，那就是我是誰？我從哪里來，我要到哪里去？就這幾個問題，人是逃不掉的。
