作者：尼克·波斯特洛姆 出版：中信出版社

    如果真的出現(xiàn)超越人類智力水平的生命體或物質(zhì)，它會以怎樣的方式出現(xiàn)，人類的命運將會如何？或許對大多數(shù)人來說這樣的問題過于科幻，遙遙無期而不值得去過多思考，至少部分人會認為這不應(yīng)放在一個嚴肅的科學命題的角度來討論。但是，事實情況可能并非人們想象的如此樂觀。牛津大學的學者尼克·波斯特洛姆在《超級智能》中從科學角度全面論述了超級智能出現(xiàn)的可能與形式，以及它對人類社會可能帶來的影響和應(yīng)對方案。從波斯特洛姆的論述來看，超級智能已不再只是影視和文學中的想象物，而是一種近在咫尺的可能，他由此認為，我們必須對超級智能的產(chǎn)生有深入的思考和認識，如果只是坐視它的出現(xiàn)而毫無準備，那么人類社會和人類本身的命運將面臨極大的挑戰(zhàn)。

    留給我們的時間不多了

    自從現(xiàn)代計算機發(fā)明以來，人工智能概念在上世紀五十年代很快被提出，作為一種尖端科技，制造與人類智力水平相當?shù)臋C器或軟件一直在緩慢而艱難的推進，中間曾經(jīng)歷兩次大的起伏。一次是在上世紀七十年代，由于硬件技術(shù)的限制，大規(guī)模數(shù)據(jù)存儲和加工都遠遠跟不上人工智能理論的需求，科學家和投資人對研究的未來變得異常悲觀，而在計算機技術(shù)快速發(fā)展后的八十年代末，由于在可控成本內(nèi)基本上只能實現(xiàn)運行單一程序的小規(guī)模系統(tǒng)，讓人工智能研究再次陷入低潮，直到九十年代才緩慢復蘇。

    雖然研究進程磕磕絆絆，但波斯特洛姆還是向我們列舉了諸多人工智能上的成就，比如1997年擊敗國際象棋世界冠軍卡斯帕羅夫的深藍，自動出入境程序中的人臉識別系統(tǒng)，還有美國軍隊在海灣戰(zhàn)爭中運用的智能計劃日常安排程序等等。不過這些成就都有致命缺陷——此類獨立系統(tǒng)都只能在有限范圍和領(lǐng)域內(nèi)實現(xiàn)單一的認知，無法像真正的人類智慧一樣具有普遍的問題解決能力，這類系統(tǒng)所以也被稱為“弱人工智能”。

    那么，是否有可能獲得具備人類智能水平的“強人工智能”呢？波斯特洛姆給出了肯定的回答。他認為，計算機硬件技術(shù)一直保持著高速發(fā)展，而且很多領(lǐng)域呈幾何增長態(tài)勢，并且單一系統(tǒng)的人工智能應(yīng)用已比較發(fā)達，延伸和擴散得很快，再加上軟件工程和計算機神經(jīng)系統(tǒng)科學等領(lǐng)域的突飛猛進，今天人工智能發(fā)展的成熟度整體上已很高，在未來40年內(nèi)會有50%的可能出現(xiàn)等同人類智能的系統(tǒng)，最晚也會在本世紀末出現(xiàn)。而從“強人工智能”到超級智能的出現(xiàn)會有三種情況：一是瞬間爆發(fā)，也就是在短短幾分鐘，幾個小時，幾天的時間內(nèi)，人工智能會突破“跨界點”，之后將完全按自己的想法行動；二是緩慢爆發(fā)，跨界時間會被拉長到幾十甚至上百年。三是溫和爆發(fā)，也就是中等時間長度，預計爆發(fā)時間在幾個月或幾年內(nèi)。波斯特洛姆發(fā)現(xiàn)，智能的增長率與智能爆發(fā)的反抗度成反比關(guān)系。反抗度也就是智能水平增長及實現(xiàn)環(huán)境的阻礙，在一般情況下，在越接近人類智能水平時反抗度越高，而越過這個坎人工智能的增速將呈現(xiàn)下坡式的加速狀態(tài)。所以達到人類智能水平后出現(xiàn)超級智能的時間最有可能的是瞬間和溫和兩種，而不是大家認為最有可能的緩慢出現(xiàn)。據(jù)此而論，留給人類的準備時間其實并不多了。

    如何以及邁向怎樣的超級智能

    波斯特洛姆認為，超級智能的實現(xiàn)路徑?jīng)Q定了最后它會以何種形式出現(xiàn)，也決定了它所帶來的問題和我們可能面臨的機遇。而就目前的技術(shù)水平而言，有五個通往超級智能的路徑，一個是狹義上的人工智能，即通過編寫完全模擬人類思維的程序，并兼具學習進化能力。這種方式最大的關(guān)鍵在于遺傳算法對計算機能力的需求和計算機技術(shù)的發(fā)達程度，只要這兩個關(guān)鍵因素得到突破，這將是最可能在瞬間完成跨界的方式之一。這種方式也留下了一個契機：無需模仿人類心智，也就是說對于人類情感無能為力，如何賦予其道德情感，這會是個巨大的問題，也為人類如何挑戰(zhàn)留下了機會。第二種是全腦仿真，通過精細掃描人類大腦，將原始數(shù)據(jù)輸入計算機，然后構(gòu)建起一個完全模仿人類大腦的智能程序，這其實是前一種方法的延續(xù)，其問題與挑戰(zhàn)也類似。第三種生物認知，通過人工育種實現(xiàn)優(yōu)生來求得智能上的突破，顯然這種方式不僅面臨極大的道德挑戰(zhàn)和倫理風險，且耗時非常長，不確定性也非常多，實現(xiàn)的可能性最小。第四種是人腦與計算機交互，植入技術(shù)是最常見的交互方式，這極為復雜，且可替代性很強，所以也不理想。第五種是通過網(wǎng)絡(luò)和組織讓人類的大腦相連，在適當時候這種網(wǎng)絡(luò)會成為集體超級智能，比如互聯(lián)網(wǎng)，這種方式最不確定，無人知曉其確切原理，只能靠機緣。

    不難發(fā)現(xiàn)，最有可能出現(xiàn)的超級智能是人工智能和全腦仿真，尤其是前者。那么最后會得到何種超級智能呢？波斯特洛姆認為有三種，高速、集體、素質(zhì)超級智能。由于網(wǎng)路和組織方式獲得超級智能難以實現(xiàn)，最終我們可能見到的是一個比人類更為聰明，并且結(jié)算能力超快的智能體。

    問題及應(yīng)對

    由于超級智能出現(xiàn)的時間可能較短，在世界范圍內(nèi)可能只有單一項目會突破“跨界點”，那么也就是只有一個單一的超級智能體會擁有決定性戰(zhàn)略優(yōu)勢。先不說超級智能對社會、經(jīng)濟、人類位置帶來的影響，它可能的最大威脅是導致地球上智能生命的滅亡或使其失去發(fā)展?jié)撃�，在波斯特洛姆看來這已不是妄談。因為超級智能的突然出現(xiàn)是缺乏人類情感和最終的價值觀體系的，在此情況下超級智能自身存在的目標可能是隨機或簡單的，但有一點可以確定，即出于工具性目的，它將會把無限攫取資源看成自身目標的保障，占有和消耗資源最多的人類無疑會在邏輯上成為被限制的“物”。

    波斯特洛姆通過背叛轉(zhuǎn)折和反常目標實現(xiàn)形式來論證了這種可能的必然性。他提出，要克服這個結(jié)果，只有在超級智能出現(xiàn)以前做好準備，對其可能出現(xiàn)的能力設(shè)法預防性控制，對其動機選擇設(shè)法限制。能力控制有遏制系統(tǒng)性能和信息傳輸?shù)暮凶臃椒�，采取代碼獎賞使其目標循環(huán)的激勵方法，以及設(shè)置絆網(wǎng)探測危險行動后關(guān)閉的方法。動機限制則可采取直接或間接的規(guī)則載入，或在選擇可能的超級智能體前，將其設(shè)置為類似人類和對人類友好，或者直接限定超級智能體突變前的目標。