【美國(guó)《時(shí)代》周刊網(wǎng)站11月5日?qǐng)?bào)道】題：亨利·基辛格最后的神圣戰(zhàn)爭(zhēng)：阻止危險(xiǎn)的人工智能(記者貝琳達(dá)·勒斯科姆)

美國(guó)前國(guó)務(wù)卿亨利·基辛格在98歲高齡之際，有了全新的興趣點(diǎn)：人工智能。在2016年召開(kāi)的比爾德貝赫會(huì)議期間，時(shí)任谷歌公司執(zhí)行董事長(zhǎng)埃里克·施密特說(shuō)服他參加了一場(chǎng)關(guān)于人工智能主題的講座，讓他對(duì)此產(chǎn)生了濃厚的興趣。兩人與麻省理工學(xué)院蘇世民計(jì)算機(jī)學(xué)院院長(zhǎng)丹尼爾·胡滕洛赫爾合作，撰寫(xiě)了一本令人振奮的新書(shū)——《人工智能時(shí)代》。書(shū)中探討了人工智能迅速崛起并投入使用所帶來(lái)的影響，用他們的話說(shuō)，這“預(yù)示著人類(lèi)事務(wù)的一場(chǎng)革命”。這本書(shū)提出的觀點(diǎn)是，人工智能的進(jìn)程如此勢(shì)不可擋，如此天衣無(wú)縫地嵌入人類(lèi)事務(wù)，而且如此不可預(yù)知，如果沒(méi)有一定的深謀遠(yuǎn)慮與妥善管理，它們將帶來(lái)的“劃時(shí)代轉(zhuǎn)型”可能讓人類(lèi)歷史走向危險(xiǎn)的方向。

基辛格與施密特一同坐下來(lái)接受了《時(shí)代》周刊記者的采訪，講述了他們所展望的未來(lái)。

技術(shù)缺乏哲學(xué)引導(dǎo)

問(wèn)：基辛格博士，您是一位資歷深厚的政治家。您為什么認(rèn)為人工智能對(duì)您來(lái)說(shuō)是一個(gè)足夠重要的主題？

基辛格：我在讀大學(xué)本科時(shí)，寫(xiě)了一篇300頁(yè)的論文，題為《歷史的意義》。歷史的意義和我們向何處去的主題一直占據(jù)著我的生活。技術(shù)奇跡并沒(méi)有讓我如此著迷；真正讓我著迷的是，我們正在進(jìn)入人類(lèi)意識(shí)的新時(shí)期。對(duì)此，我們理解得還不夠透徹。

說(shuō)到人類(lèi)意識(shí)的新時(shí)期，我們指的是，對(duì)世界的認(rèn)知會(huì)有不同，至少像啟蒙運(yùn)動(dòng)時(shí)期與中世紀(jì)之間的不同那么明顯，當(dāng)時(shí)西方世界在從宗教角度認(rèn)知世界轉(zhuǎn)向基于理性認(rèn)知世界，這個(gè)進(jìn)程是非常緩慢的。這次，轉(zhuǎn)變的速度會(huì)快一些。

其中有一個(gè)重要的不同。啟蒙運(yùn)動(dòng)時(shí)期，存在一個(gè)基于信仰的概念世界。因此，伽利略和已故的啟蒙運(yùn)動(dòng)先驅(qū)們擁有一套當(dāng)時(shí)盛行的哲學(xué)，他們要在這種背景下檢驗(yàn)自己的思想。你可以追蹤這種思想的發(fā)展演變。事實(shí)上，我們?nèi)缃裆�活的世界沒(méi)有哲學(xué)，也沒(méi)有占主導(dǎo)的哲學(xué)觀。因此，技術(shù)專(zhuān)家可以為所欲為。他們可以研發(fā)改變世界的東西，但沒(méi)有人會(huì)說(shuō)，“我們要把它融入某個(gè)東西當(dāng)中”。

問(wèn)：您遇到埃里克·施密特后，他邀請(qǐng)您對(duì)谷歌員工發(fā)表講話，您說(shuō)您認(rèn)為谷歌是對(duì)文明的威脅。您為什么會(huì)這樣想？

基辛格：我不希望哪一個(gè)組織壟斷信息的供應(yīng)。我認(rèn)為，一家公司能夠提供信息，并且能夠根據(jù)它對(duì)公眾想要什么信息或認(rèn)為什么樣的信息可信所做的研究來(lái)調(diào)整它所供應(yīng)的信息，這是極其危險(xiǎn)的。這樣一來(lái)，真相變成相對(duì)而言的概念。我當(dāng)時(shí)就是這樣認(rèn)為的。而他之所以邀請(qǐng)我與他的算法團(tuán)隊(duì)見(jiàn)面，是為了讓我明白，這并非專(zhuān)斷之舉，在為呈現(xiàn)哪些內(nèi)容所做的選擇背后，有思考和分析。這并沒(méi)有打消我對(duì)一個(gè)私人機(jī)構(gòu)擁有這種權(quán)力的擔(dān)憂。不過(guò)，我正是這樣進(jìn)入這一領(lǐng)域的。

施密特：參觀谷歌的這次經(jīng)歷讓他思考。等我們開(kāi)始談?wù)撨@件事時(shí)，基辛格博士說(shuō)，他非常擔(dān)心這批技術(shù)給人類(lèi)及其生存帶來(lái)的影響，而技術(shù)專(zhuān)家在運(yùn)用這些技術(shù)時(shí)卻沒(méi)有弄明白它們的影響或歷史。我認(rèn)為，這樣的擔(dān)心是完全正確的。

問(wèn)：許多人覺(jué)得您現(xiàn)在或者過(guò)去針對(duì)技術(shù)公司所做的事情——讓人感覺(jué)它們并不是真的值得信任，它們?yōu)榱烁纳谱陨斫?jīng)營(yíng)而采取的許多做法對(duì)社會(huì)來(lái)說(shuō)未必是好事�？紤]到這一點(diǎn)，您認(rèn)為技術(shù)行業(yè)領(lǐng)袖在這個(gè)新體系中扮演什么角色？

基辛格：我認(rèn)為，技術(shù)公司引領(lǐng)大家進(jìn)入了人類(lèi)意識(shí)的新時(shí)期，就像啟蒙運(yùn)動(dòng)時(shí)期的幾代人在從宗教轉(zhuǎn)向理性時(shí)所發(fā)揮的作用，而技術(shù)專(zhuān)家正在向我們展示如何將理性與人工智能關(guān)聯(lián)起來(lái)。這在某種意義上是一門(mén)不同的學(xué)問(wèn)，因?yàn)檎f(shuō)到理性，也就是我成長(zhǎng)的環(huán)境，證據(jù)是相互印證的。說(shuō)到人工智能，最令人震驚的地方在于，你得出了一個(gè)正確結(jié)論，可是你不知道其中的原因。這是一個(gè)全新的挑戰(zhàn)。因此，從某些方面講，他們創(chuàng)造的東西是危險(xiǎn)的。但它讓我們的文化向前邁進(jìn)。如果從來(lái)沒(méi)有創(chuàng)造出這種技術(shù)，我們會(huì)不會(huì)過(guò)得更好？我不知道答案。不過(guò)既然它已經(jīng)存在，我們就必須了解它。而且也不能將它根除。我們已經(jīng)在這上面消耗太多的精力。

人類(lèi)失去思考能力

問(wèn)：您認(rèn)為人工智能興起所帶來(lái)的主要地緣政治影響是什么？

基辛格：我認(rèn)為我們還沒(méi)有深入研究過(guò)這個(gè)問(wèn)題。想象一下，中美之間爆發(fā)戰(zhàn)爭(zhēng)，你擁有人工智能武器。和所有人工智能技術(shù)一樣，這種武器對(duì)你計(jì)劃好的目標(biāo)能夠?qū)嵤└�有效的打擊。但它們打擊自己所認(rèn)定的目標(biāo)時(shí)可能也很有效。因此，如果你說(shuō)，“A目標(biāo)是我要打擊的目標(biāo)”，它們可能會(huì)認(rèn)為別的什么目標(biāo)更符合這樣的標(biāo)準(zhǔn)。因此，你身處一個(gè)有點(diǎn)不確定的世界。其次，因?yàn)閺膩?lái)沒(méi)有人真正在大規(guī)模軍事行動(dòng)中測(cè)試過(guò)這些東西，你無(wú)法確切地知道雙方的人工智能戰(zhàn)斗機(jī)發(fā)生互動(dòng)時(shí)會(huì)出現(xiàn)什么情形。這樣一來(lái)，你所處的世界可能具有徹底的毀滅性，你的做法也存在極大的不確定性。

問(wèn)：所以您擔(dān)心的是人工智能過(guò)于有效嗎？還有我們不能確切知道它們的行為的原因？

基辛格：我這一生大部分時(shí)間在研究我所談?wù)摰哪切﹩?wèn)題；在人工智能這個(gè)領(lǐng)域，我只研究了四年�！吧疃人伎肌庇�(jì)算機(jī)通過(guò)和自己對(duì)弈，只用四個(gè)小時(shí)就學(xué)會(huì)了下棋。它還下了一盤(pán)人類(lèi)從未見(jiàn)過(guò)的棋局。我們目前最好的計(jì)算機(jī)也只是偶爾能打敗它。如果這種情況發(fā)生在其他領(lǐng)域，而這是一種必然，同時(shí)也是現(xiàn)實(shí)，那可是一件大事，而我們的世界根本沒(méi)有為此做好準(zhǔn)備。

問(wèn)：這本書(shū)提出，由于人工智能進(jìn)程的推進(jìn)速度極快，有人擔(dān)心人類(lèi)有可能失去思考、構(gòu)思和反思的能力。怎么來(lái)看待這種擔(dān)憂？

施密特：我們已經(jīng)從讀書(shū)轉(zhuǎn)變成聽(tīng)書(shū)，再到既沒(méi)時(shí)間看，也沒(méi)時(shí)聞思考、沒(méi)時(shí)間討論的地步，因?yàn)閯e的東西正應(yīng)運(yùn)而生。因此，我認(rèn)為這種時(shí)間和信息的加速的確超出了人類(lèi)的能力。這是勢(shì)不可擋的，大家在抱怨這一點(diǎn)；他們沉迷其中，他們無(wú)法思考，連獨(dú)自吃飯都做不到了。我認(rèn)為人類(lèi)不是生來(lái)就可以應(yīng)對(duì)這樣的局面。這讓壓力激素水平之類(lèi)的東西激增。所以，在極端情況下，信息過(guò)載很可能超越我們處理正在發(fā)生的種種事情的能力。

我一直談到，在這本書(shū)中也提到的一點(diǎn)是，你會(huì)需要一名助手。就你而言，你是一名記者，有一大堆事情要做，你會(huì)需要一臺(tái)計(jì)算機(jī)助手，它會(huì)對(duì)你說(shuō)：“這些是當(dāng)下要做的重要事項(xiàng)。這些是需要思考的問(wèn)題，搜索一下歷史記錄，會(huì)讓你更加高效�！爆F(xiàn)在的問(wèn)題是，你已經(jīng)非常依賴(lài)這種人工智能系統(tǒng)。我們?cè)跁?shū)中也說(shuō)了，誰(shuí)來(lái)控制人工智能系統(tǒng)的所作所為？它有偏見(jiàn)怎么辦？如何對(duì)出現(xiàn)的情況加以調(diào)控？尤其是對(duì)年輕人而言，這是個(gè)非常令人擔(dān)心的地方。

假如武器自動(dòng)發(fā)射

問(wèn)：您在書(shū)中談到的一點(diǎn)是，人工智能有好的一面和壞的一面。這要表達(dá)什么意思？

基辛格：我們要說(shuō)的是，它可能確實(shí)會(huì)帶來(lái)非常大的收益。它可能也是可以管控的。但在對(duì)某些方面加以管理上，還存在我們尚未開(kāi)展研究或者研究得不夠透徹的地方。我仍然感到擔(dān)憂。我反對(duì)因?yàn)檫@個(gè)原因就說(shuō)我們必須除掉這種技術(shù)。它現(xiàn)在已經(jīng)存在了。重點(diǎn)之一是，我們認(rèn)為應(yīng)該創(chuàng)造某種哲學(xué)來(lái)引導(dǎo)這方面的研究。

問(wèn)：您會(huì)建議由誰(shuí)來(lái)形成這種哲學(xué)？下一步要做什么？

基辛格：我們需要由一些規(guī)模不大的團(tuán)體來(lái)提出問(wèn)題。我在讀研究生時(shí)，核武器是新生事物。當(dāng)時(shí)，哈佛大學(xué)、麻省理工學(xué)院和加州理工學(xué)院一些憂心忡忡的教授會(huì)在很多個(gè)周六下午碰頭，表達(dá)自己心中的疑問(wèn)：答案是什么？我們?cè)撊绾螒?yīng)對(duì)？最后他們有了軍備控制的想法。

問(wèn)：這些團(tuán)體需不需要在規(guī)模上做到國(guó)際化？需不需要在聯(lián)合國(guó)的支持下做這項(xiàng)工作，還是在其他什么人的支持下？

施密特：這些事情通常的運(yùn)作方式是，有規(guī)模相對(duì)較小、相對(duì)精英的群體一直在思考這個(gè)問(wèn)題，他們需要實(shí)現(xiàn)對(duì)接。比如，目前有牛津大學(xué)的人工智能與倫理策略團(tuán)隊(duì)，這是很好的嘗試。世界各地零星存在這類(lèi)小規(guī)模團(tuán)體。我了解到中國(guó)也有一定數(shù)量的此類(lèi)團(tuán)體。但這些團(tuán)體沒(méi)有實(shí)現(xiàn)對(duì)接；這只是個(gè)開(kāi)始。所以，如果你相信我們所相信的東西，也就是說(shuō)十年后，人工智能技術(shù)會(huì)變得異常強(qiáng)大，那么我們最好從現(xiàn)在就開(kāi)始考慮這種技術(shù)所帶來(lái)的影響。

我給你舉個(gè)我最喜歡的例子，與軍事準(zhǔn)則有關(guān)。一切都變得更快了。我們不希望看到的局面是，武器會(huì)基于它們自己對(duì)局勢(shì)的分析而自動(dòng)發(fā)射。

基辛格：因?yàn)閷?shí)施攻擊的武器可能比人腦的分析速度更快，于是出現(xiàn)了惡性循環(huán)。你很想讓武器變得自動(dòng)，但你又不想讓它過(guò)于自動(dòng)，自動(dòng)到可以根據(jù)你或許無(wú)法做出的判斷來(lái)采取行動(dòng)。

施密特：所以，當(dāng)前各個(gè)大國(guó)之間沒(méi)有就這一點(diǎn)展開(kāi)討論。不過(guò)，這是顯而易見(jiàn)的問(wèn)題。我們圍繞人類(lèi)速度可及的事物展開(kāi)了大量討論�？墒�，當(dāng)一切發(fā)生得太快，超出了人類(lèi)的速度時(shí)，該怎么辦？我們需要就某種上限，相互的設(shè)限達(dá)成一致，需要就這些系統(tǒng)的最高運(yùn)行速度達(dá)成一致，因?yàn)椴贿@樣的話，我們會(huì)陷入極其不穩(wěn)定的局面。

避免技術(shù)遭到濫用

問(wèn)：可以想見(jiàn)人們會(huì)覺(jué)得很難接受您會(huì)有這樣的觀點(diǎn)。因?yàn)楣雀柚�所以這么成功，就是因?yàn)樗�能夠提供那么多信息，而且速度那么快。許多人會(huì)說(shuō)，你們其實(shí)對(duì)這個(gè)問(wèn)題的出現(xiàn)起了推波助瀾的作用。

施密特：是的，我感到內(nèi)疚。我們建立了非常非�？斓钠脚_(tái)。有時(shí)它們的速度超出了人類(lèi)能夠理解的范疇。這是問(wèn)題所在。

問(wèn)：我們有過(guò)領(lǐng)先技術(shù)一步的時(shí)候嗎？我們不是向來(lái)都在新技術(shù)到來(lái)后才有反應(yīng)嗎？誠(chéng)然，我們不理解正在發(fā)生的事情�？墒侨藗儺�(dāng)初也不理解為什么打開(kāi)開(kāi)關(guān)，燈會(huì)亮起來(lái)。出于同樣的道理，許多人并不擔(dān)心人工智能的到來(lái)。

施密特：我非常擔(dān)心所有這些技術(shù)遭到濫用。我當(dāng)初沒(méi)有料到政府會(huì)利用互聯(lián)網(wǎng)來(lái)干預(yù)選舉。我從未想過(guò)會(huì)有這種事。我錯(cuò)了。我沒(méi)想到互聯(lián)網(wǎng)會(huì)如此糟糕地被用來(lái)推動(dòng)反疫苗運(yùn)動(dòng)。我沒(méi)有及時(shí)行動(dòng)。我們下一次不會(huì)錯(cuò)過(guò)。我們會(huì)事先有所動(dòng)作。

基辛格：如果你提前知道會(huì)是這種情況，你會(huì)怎么做？

施密特：我不知道。我本來(lái)可以采取不同的做法。如果我十年前就知道，我本來(lái)可以打造不同的產(chǎn)品。我可以用不同的方式游說(shuō)。我可以用不同的方式發(fā)表演講。我可以在事情發(fā)生之前給人們敲響警鐘。

本文摘自于參考消息