本刊記者 徐梅
?
跟大多數(shù)人一樣，我也是從2017年開(kāi)始關(guān)注人工智能，“阿爾法狗”連克李世石、柯潔，使得“AI”、“奇點(diǎn)”迅速成為熱詞兒，誰(shuí)都能聊上幾句?！叭斯ぶ悄軙?huì)不會(huì)搶走我們的工作？”“AI如果具備了超人的智能，會(huì)不會(huì)毀滅人類(lèi)？”
?
但很快，我們就厭倦了這樣的討論。
?
一方面，專(zhuān)業(yè)人士很不耐煩地提醒人們，AI只是一項(xiàng)技術(shù)，技術(shù)取得突破并不容易，那個(gè)機(jī)器勝過(guò)人類(lèi)、甚至對(duì)人構(gòu)成威脅的“奇點(diǎn)”可能百年以后才會(huì)到來(lái)。技術(shù)大牛吳恩達(dá)說(shuō)，整天討論這些“好比是討論火星上人口是否會(huì)過(guò)剩一樣”。
?
另一方面，對(duì)于普通人來(lái)說(shuō)，AI技術(shù)并沒(méi)有那么容易理解，AI威脅論說(shuō)來(lái)說(shuō)去也就那么幾句，這一類(lèi)題材的新鮮勁兒一過(guò)，連科幻作家都不愛(ài)寫(xiě)了。
?
從2017年開(kāi)始，每年我都會(huì)寫(xiě)一篇關(guān)于人工智能的報(bào)道，最初是想通過(guò)對(duì)圍棋產(chǎn)業(yè)這個(gè)被AI選中顛覆的第一落點(diǎn)持續(xù)觀察，看看人工智能如何改變一個(gè)職業(yè)、一個(gè)行業(yè)，以及行業(yè)中的人，同時(shí)延展到對(duì)幾個(gè)AI創(chuàng)業(yè)公司的持續(xù)觀察。
?
必須承認(rèn)，創(chuàng)業(yè)者的勇氣、智慧，以及AI產(chǎn)業(yè)的急速發(fā)展是極其吸引人的，我自己從開(kāi)始的警醒好奇，迅速被技術(shù)樂(lè)觀主義“洗腦”，重新看這些稿子時(shí)，發(fā)覺(jué)當(dāng)時(shí)更多看到技術(shù)“喜大普奔”，較少看到人。
?
技術(shù)大過(guò)了人，這本身就是問(wèn)題了。即便“奇點(diǎn)”遠(yuǎn)遠(yuǎn)未至，但AI發(fā)展所帶來(lái)的倫理與法律挑戰(zhàn)已經(jīng)無(wú)法回避，更何況交叉學(xué)科不斷帶來(lái)技術(shù)的躍遷，“奇點(diǎn)”越發(fā)不可預(yù)測(cè)。
?
“十一”假期前后，我因?yàn)椴稍L(fǎng)，集中看了三本書(shū)——哲學(xué)教授何懷宏的《人類(lèi)還有未來(lái)嗎？》、日本學(xué)者的論文合集《AI聯(lián)結(jié)的社會(huì)》、美國(guó)計(jì)算機(jī)專(zhuān)家斯圖爾特·羅素的新書(shū)《AI新生》。
?
斯圖爾特1995年出版的《人工智能》多年來(lái)不斷再版，被128個(gè)國(guó)家的1400多所大學(xué)作為教材使用。他在《AI新生》中反思，從2014年開(kāi)始，“我便公開(kāi)承認(rèn)，我的研究領(lǐng)域?qū)ξ易约核鶎俚奈锓N構(gòu)成了潛在危險(xiǎn)?！?/p>
?
他強(qiáng)烈反對(duì)業(yè)界關(guān)于人類(lèi)智慧有限、AI“奇點(diǎn)”不會(huì)到來(lái)這種“技術(shù)否定主義”，稱(chēng)這就像一位公共汽車(chē)駕駛員載著全人類(lèi)說(shuō)，“是的，我正盡我所能往懸崖邊開(kāi)，但是相信我，在開(kāi)到懸崖邊之前，我們的汽油會(huì)用完！”
?
“與人類(lèi)的聰明才智打賭是魯莽的，尤其是在我們的未來(lái)岌岌可危的時(shí)候?！备螒押暌粯?，斯圖爾特對(duì)AI有可能造出的“遠(yuǎn)比人類(lèi)強(qiáng)大的實(shí)體”充滿(mǎn)警惕，呼吁整個(gè)社會(huì)，尤其人工智能研究領(lǐng)域，將“可證明有益的人工智能系統(tǒng)”作為超級(jí)智能機(jī)器的研究目標(biāo)，“只有目標(biāo)確保完整且正確，或者可以很容易地重置機(jī)器的情況下，這種模式才有效。”
?
這一目標(biāo)的技術(shù)實(shí)現(xiàn)路徑是復(fù)雜的。坦白說(shuō)，這本書(shū)的后幾章，我讀得半懂不懂，并且最終放棄了成稿，因?yàn)闊o(wú)法在這個(gè)關(guān)鍵問(wèn)題上與作者深入討論。
?
學(xué)習(xí)的收獲很大，對(duì)于未來(lái)繼續(xù)觀察、報(bào)道AI對(duì)社會(huì)生活和個(gè)人尊嚴(yán)的影響會(huì)極有裨益。
?
這三本書(shū)里還有一個(gè)共通之處，技術(shù)已經(jīng)對(duì)我們的社會(huì)產(chǎn)生巨大影響和控制，我們的主體性已經(jīng)在消失——
?
比如，內(nèi)容推薦算法在社交媒體中通過(guò)“投其所好”，對(duì)我們既有偏好的強(qiáng)化和改變；人機(jī)協(xié)同的工作環(huán)境中，算法對(duì)人的控制和倒逼（快遞小哥、與機(jī)器人協(xié)同工作的倉(cāng)庫(kù)分揀員等）；還有AI招聘系統(tǒng)通過(guò)抓取分析應(yīng)聘者的社交媒體賬戶(hù)信息完成畫(huà)像分類(lèi)，對(duì)個(gè)人過(guò)度監(jiān)控，將復(fù)雜豐富的人格簡(jiǎn)單類(lèi)型化等等……
?
人工智能所塑造的社會(huì)和系統(tǒng)同我們每個(gè)人都深度相關(guān)，對(duì)于我們這些不具備專(zhuān)業(yè)知識(shí)的普通人來(lái)說(shuō)，討論AI，除了末日危機(jī)，還有上述那些現(xiàn)實(shí)關(guān)切。
?
而你我，都不應(yīng)該因?yàn)閼卸杌蛘咝傅?，甘于沉默?/p>
?
?
?
