超級英雄 DeepMind CEO： 創(chuàng)造比人類大腦更強(qiáng)力的軟件 | 深度專訪

eaoogle_WSN

按：本文來自theguardian，新智元原創(chuàng)翻譯。

通過他的公司DeepMind，倫敦人Demis Hassabis正在領(lǐng)導(dǎo)著谷歌的一個(gè)計(jì)劃——創(chuàng)造比人類大腦更強(qiáng)力的軟件。但是，這對于人類的未來而言，意味著什么？

Demis Hassabis有著謙遜低調(diào)的風(fēng)度和平易近人的神情，但是當(dāng)他告訴我他正在為“解開智力的謎團(tuán)，隨后將之用于解決其他一切問題”的使命而努力時(shí)，他看上去無比嚴(yán)肅。如果從其他人——幾乎任何一個(gè)其他人——口中

聽到這句話，都會(huì)讓人發(fā)笑，但是從他口中聽到就沒那么讓人想笑了。

39歲的Hassabis曾經(jīng)是一位圍棋大師和一位視頻游戲策劃，而他的人工智能研究初創(chuàng)公司DeepMind在2014年據(jù)傳被谷歌以6.25億美元收購。他的父母都是移民，他在Finchley讀了一所州立綜合學(xué)校，又從劍橋大學(xué)和倫敦大學(xué)學(xué)院（UCL）獲得了計(jì)算機(jī)科學(xué)和認(rèn)知神經(jīng)科學(xué)的學(xué)位。一位“空想家”，與他一起工作的人們是這么評價(jià)他的，Hassabis也順?biāo)�推舟地表示，他已�?jīng)找到了“讓科學(xué)研究更高效”的方法，并且在領(lǐng)導(dǎo)著一個(gè)“21世紀(jì)的阿波羅登月計(jì)劃”。他是那種你在街上看到也不會(huì)留下印象的樣貌平平的家伙，但是Tim Berners-Lee曾經(jīng)對我說，他是地球上最聰明的人之一。

人工智能已經(jīng)來到我們的身邊，這毫無疑問，每當(dāng)我們詢問Siri或是從安卓上看到推薦信息時(shí)，背后都有人工智能的影子。而在短期內(nèi)，谷歌的產(chǎn)品肯定會(huì)從Hassabis的研究中獲益，即使個(gè)人化、搜索、YouTube、語音和面部識別從名字上看并沒有“AI”這個(gè)詞（“于是這只是軟件，對吧？”他露齒一笑，“這只是某種能派上用場的東西�！保�。不過，從長遠(yuǎn)來看，他正在研發(fā)的技術(shù)所具有的意義并不會(huì)僅僅止步于有情感的機(jī)器人和更智能的手機(jī)。它甚至不會(huì)止步于谷歌，也不會(huì)止步于Facebook、微軟、蘋果、以及其他正在搜刮人工智能博士并往這場最近的科技軍備競賽中砸下數(shù)以億計(jì)金錢的巨頭們。它關(guān)系著我們能想象得到的一切，以及更多我們想象不到的東西。

如果這聽上去極其野心勃勃——就是這樣沒錯(cuò)。大多數(shù)AI系統(tǒng)都是“狹隘”的，訓(xùn)練事前編寫好程序的代理（agent）來掌握某種特定的任務(wù)，它們并沒有太多其他的能力了。所以IBM的“深藍(lán)”可以在國際象棋上擊敗Gary Kasparov，卻無法在畫圈圈叉叉的井字棋上和一個(gè)三歲小孩對戰(zhàn)。Hassabis站在另一邊：他從人類大腦中獲取靈感，試圖創(chuàng)造第一臺“通用用途的學(xué)習(xí)機(jī)器”，一組靈活的、適應(yīng)性強(qiáng)的算法，能夠——就像生物系統(tǒng)做的那樣——只利用原始數(shù)據(jù)來學(xué)習(xí)如何從頭開始掌握任何一種任務(wù)。

這就是人工通用智能（AGI），重點(diǎn)在于“通用”。在他憧憬的未來中，超級智能的機(jī)器將會(huì)與人類專家共同協(xié)作，差不多能解決任何問題�！鞍┌Y、氣候變化、能源、基因組、宏觀經(jīng)濟(jì)、金融系統(tǒng)、物理學(xué)，我們想要掌握的系統(tǒng)中有許多都在變得日益復(fù)雜，”他說道，“信息太過泛濫，即使是對于最聰明的人類來說，要在有限的生命中掌握這些也正變得越來越艱難。我們要如何篩選這些鋪天蓋地的數(shù)據(jù)、從中找到正確的洞見？人工通用智能可以被當(dāng)作某種自動(dòng)將非結(jié)構(gòu)信息轉(zhuǎn)化為有行動(dòng)意義（actionable）的知識的過程�！�

獲得這種元解決方案可能仍然有數(shù)十年的路要走，但是它似乎正在不可避免地漸漸來臨。2015年2月，全球頂尖的科學(xué)雜志《自然》在封面上刊登了像素游戲“太空侵略者”的圖片，配以“自我學(xué)習(xí)的AI軟件”已經(jīng)獲得了“人類級別的視頻游戲表現(xiàn)”的概述。翻開這期雜志，這篇來自DeepMind的論文描述了第一個(gè)成功的通用“端到端”學(xué)習(xí)系統(tǒng)，其中他們的人工代理（agent）——圖像處理單元上一個(gè)被稱作Deep-Q網(wǎng)絡(luò)的算法——學(xué)會(huì)了如何處理屏幕上的一個(gè)輸入，理解這個(gè)輸入的意義，然后做出決策來達(dá)到希望的結(jié)果（在這個(gè)例子里，就是成為精通許多經(jīng)典雅達(dá)利2600游戲（包括太空侵略者、拳擊、和Pong）的超人）。這個(gè)突破在科技界一石激起千層浪。

隨后，在上個(gè)月，DeepMind第二次登上了《自然》雜志封面——在如此短的時(shí)間內(nèi)第二次登上封面本身就是一件值得稱道的事了。這次，它略過70年代和80年代的復(fù)古街機(jī)游戲，回溯到更久以前選擇游戲。圍棋，這種來自中國的深?yuàn)W的策略游戲，已經(jīng)有超過2500年的歷史，連孔子的作品中也提到過圍棋。圍棋的分支因子非常龐大，它可能的行動(dòng)步數(shù)超過了宇宙中的原子數(shù)量，并且，與象棋不同，它不能通過暴力計(jì)算來破解。它非常棘手，也不可能為它寫出一個(gè)評估函數(shù)（通過一組規(guī)則來告訴你誰在某個(gè)位置的輸贏以及輸多少贏多少）。取而代之的是，圍棋需要旗手具備某種類似“直覺”的東西：當(dāng)被問起為何做出某個(gè)落子的決定時(shí)，專業(yè)旗手們往往說出類似這樣的話：“這樣做感覺比較對�！�

很顯然，計(jì)算機(jī)一直以來在做這種判斷方面都不太在行。因此，對于AI來說，圍棋始終被視為“不同凡響的偉大挑戰(zhàn)”之一，大部分研究者預(yù)期至少還需要10年才能看到機(jī)器破解圍棋的希望。

但是經(jīng)過嚴(yán)格的同行評審的證據(jù)就擺在面前：DeepMind的最新人工智能算法，AlphaGo，已經(jīng)在去年秋天的一場秘密賽事中以5比0的成績完勝蟬聯(lián)三屆歐洲圍棋冠軍的樊麾，并且將在之后的3月于世界圍棋冠軍李世石對戰(zhàn)。“一個(gè)讓人震驚的成就”，帝國理工學(xué)院認(rèn)知機(jī)器人學(xué)教授Murray Shanahan這樣向我描述這件事。“一個(gè)重要的里程碑”，超人類主義哲學(xué)家Nick Bostrom表示了贊同，他在《超級智能：路線圖，危險(xiǎn)性與應(yīng)對策略》一書中曾寫道，如果能夠完成AGI，這將會(huì)是一個(gè)無與倫比的事件——也許，借用谷歌工程主管Ray Kurzweil的話來說，甚至稱得上是“撕裂人類固有的歷史結(jié)構(gòu)（a rupture in the fabric of history）”。在Bostrom位于牛津大學(xué)人類未來研究所的辦公室中，他告訴我，AlphaGo的出現(xiàn)“讓過去幾年間機(jī)器學(xué)習(xí)領(lǐng)域的進(jìn)展一下子變得引人注目起來”。

“這相當(dāng)酷，當(dāng)然，”Hassabis同意道。當(dāng)時(shí)我們約在他的辦公室見面，討論最近的這場勝利。像往常一樣，他穿著不倫不類的黑色上衣、褲子、以及鞋子：你覺得他是一個(gè)實(shí)習(xí)生也無可厚非，雖然據(jù)傳谷歌的收購讓他個(gè)人獲益8000萬歐元。“圍棋就是終極：它是所有游戲的頂峰，需要的智力深度（intellectual depth）也最高。它讓人目眩神迷，而令我們感到激動(dòng)的不只是我們掌握了這個(gè)游戲，還有我們在其中使用的神奇有趣的算法。”比起科學(xué)，下圍棋更像一種藝術(shù)，他堅(jiān)持道，“而AlphaGo的下棋方法與人類非常像，因?yàn)樗�是像人類一樣學(xué)習(xí)圍棋、接著通過不斷下棋變得日益強(qiáng)大的，就像你我會(huì)做的那樣�！盚assabis可能看上去還像個(gè)學(xué)生，但是他現(xiàn)在笑得像是為孩子感到自豪的家長。AlphaGo是他在職業(yè)生涯中獲得的最讓人興奮的成就�！斑@個(gè)量級超出了任何人的想象，”他對此津津樂道，“不過對于我們來說，最重要的是，這不是一個(gè)使用手工打造的規(guī)則的專家系統(tǒng)。使用通用用途的機(jī)器學(xué)習(xí)技術(shù)，它自己學(xué)會(huì)并精通了這個(gè)游戲。最終，我們希望將這些技術(shù)應(yīng)用于中藥的現(xiàn)實(shí)世界的問題上，比如氣候建�；蚴菑�(fù)雜病癥分析，對吧？所以開始想象它可能下一步會(huì)解決什么問題是非常激動(dòng)人心的�！�

“氣候建模，復(fù)雜病癥分析——開始想象它可能下一步會(huì)解決什么問題是非常激動(dòng)人心的�！�

——Demis Hassabis

我第一次見到Hassabis是在2014年夏天，那是DeepMind被收購之后幾個(gè)月。從那時(shí)起，我一直觀察著他在各種各樣的環(huán)境中工作，在過去的8個(gè)月里也曾在不同情況下對他進(jìn)行了3次正式采訪。這段時(shí)間里，我看著他從一個(gè)谷歌的AI天才逐漸成長為一個(gè)言辭鑿鑿的溝通者，找到了有效的方式向我這種非科學(xué)家描述他那極其復(fù)雜的工作——他對那些工作熱情洋溢——以及為何他的工作是重要的。他用詞質(zhì)樸而易懂，非常擅長深入淺出地講解DeepMind使用的方法——也就是結(jié)合舊有和全新的AI技術(shù)——比如，在圍棋中，使用了傳統(tǒng)的“樹搜索”方法來分析落子效果，以及新穎的“深度學(xué)習(xí)網(wǎng)絡(luò)”（它模擬了大腦中的神經(jīng)元網(wǎng)絡(luò)）——還有他們對不同領(lǐng)域AI研究的方法學(xué)“聯(lián)姻”。

在DeepQ中，他們將深度神經(jīng)網(wǎng)絡(luò)與“強(qiáng)化學(xué)習(xí)”相結(jié)合，強(qiáng)化學(xué)習(xí)是所有動(dòng)物都用到的、通過大腦中多巴胺驅(qū)動(dòng)的獎(jiǎng)勵(lì)系統(tǒng)進(jìn)行學(xué)習(xí)的方法。在AlphaGo中，他們更進(jìn)一步，增加了另一個(gè)更深度的強(qiáng)化學(xué)習(xí)，用來處理長期規(guī)劃。下一步，他們將會(huì)整合其他的，比如說記憶能力，以及其他的東西——直到理論上所有的智力里程碑（intelligence milestone）都就位�！拔覀冊谶@些能力的數(shù)量方面有一個(gè)想法，”Hassabis說道，“結(jié)合所有這些不同的領(lǐng)域會(huì)是一把鑰匙，因?yàn)槲覀冇信d趣的是能夠?qū)⒃谀硞�(gè)領(lǐng)域中學(xué)到的東西應(yīng)用到另一個(gè)領(lǐng)域中的算法�！�

這聽上去有一點(diǎn)像人類自身。對于他簡歷的第一印象可能是他對一切都一知半解的好奇心，從棋盤游戲到視頻游戲到計(jì)算機(jī)編程到認(rèn)知神經(jīng)科學(xué)，更不用說人工智能了。事實(shí)上，他能取得今天的地位是因?yàn)榫劢褂谝稽c(diǎn)：將他強(qiáng)大的、幾十年一遇的智力與他畢生鉆研的那些領(lǐng)域精心結(jié)合。（簡要重點(diǎn)回顧：8歲編寫自己的計(jì)算機(jī)游戲；13歲國際象棋達(dá)到大師水平；17歲創(chuàng)造最早的包含AI的游戲之一“主題公園”；20歲從劍橋大學(xué)獲得計(jì)算機(jī)科學(xué)雙重一級榮譽(yù)學(xué)位（double first）；不久之后創(chuàng)辦自己的開創(chuàng)性視頻游戲公司Elixir；在2011年創(chuàng)辦DeepMind之前一直在被譽(yù)為“拼圖的最后一塊”的海馬體和情節(jié)記憶方面進(jìn)行開拓性的學(xué)術(shù)研究）

“我很容易感到厭倦，而這個(gè)世界是那么有趣，有那么多很棒的事情可以做，”他承認(rèn)（他也保持著蟬聯(lián)5屆腦力奧林匹克運(yùn)動(dòng)會(huì)全能腦力王（Pentamind）稱號的紀(jì)錄，腦力奧林匹克運(yùn)動(dòng)會(huì)中，參賽者們通過各種游戲進(jìn)行比賽）�！叭绻�我是一個(gè)體育運(yùn)動(dòng)員，我一定會(huì)想要成為一個(gè)十項(xiàng)全能選手�！�

體育運(yùn)動(dòng)比賽的榮耀從未垂青于他。雖然Hassabis是利物浦球隊(duì)的忠實(shí)粉絲，也喜歡觀看所有的體育比賽，他4歲時(shí)開始下國際象棋，只有僅僅一年就在國內(nèi)立于不敗之地，并在不久之后世界無敵。想必這很明顯地預(yù)示了他日后的生命將以腦力為重心。

1976年的倫敦北部，他誕生在一個(gè)有希臘-塞浦路斯混血的父親和新加坡-中國混血的母親的家庭中，是3個(gè)孩子中的老大。他的父母都是教師，曾經(jīng)開過玩具店。他的妹妹是一位作曲家和鋼琴家；他的弟弟研究的是創(chuàng)造性寫作。對科技的熱情并沒有盤踞在這個(gè)家庭中�！霸谖壹�，我絕對是一頭奇怪的黑羊，”他開了一個(gè)玩笑，回憶起他小時(shí)候怎樣把國際象棋比賽的獎(jiǎng)金花在當(dāng)時(shí)的個(gè)人電腦ZX Spectrum 48K和Commodore Amiga上——買回來以后，他立刻將它們拆開，找出了如何編程的方法。“我的父母都是不喜歡新科技的人。他們不怎么喜歡計(jì)算機(jī)。他們有一些像波西米亞人。我的妹妹和弟弟也都走了藝術(shù)家的路線。他們沒有一個(gè)人真的對數(shù)學(xué)或是科學(xué)有興趣，”他聳了聳肩，有些抱歉的意思，“所以，好吧，這有些怪異，我不太確定（我的）這一切是從哪兒來的。”

他的公司在谷歌收購時(shí)只有50名員工，現(xiàn)在已經(jīng)雇傭了接近200人；他們來自超過45個(gè)國家，將位于倫敦國王十字地區(qū)一角的大樓的6個(gè)樓層都占滿了。Hassabis下定決心要讓他的公司接近他的根源，無論受到何種搬遷的壓力（想必也包括搬遷往硅谷山景城）。

“倫敦北部生養(yǎng)了我，”他提醒我，“我絕對熱愛這座城市，這就是為什么我堅(jiān)持留在這里：我不覺得有什么理由說倫敦不能擁有一個(gè)世界頂級AI研究所。而且我對于我們所在的地方感到非常自豪。”所有的房間都以智力上的巨人命名：特斯拉、拉瑪奴江、柏拉圖、費(fèi)曼、亞里士多德。還有瑪麗·雪萊（他是粉絲嗎？“當(dāng)然，”他向我保證，“《科學(xué)怪人（Frankenstein）》我讀了好幾遍。時(shí)刻記得這些東西是很重要的�！保�

一樓是一間咖啡屋和裸露著磚塊結(jié)構(gòu)的接待臺，擺著儲存椰子水的冰箱、桌上足球機(jī)和沙包，就像你對一家世界上最雄心勃勃的科技公司的期待一樣。上樓以后，在原本的樓頂上是新添的現(xiàn)代開放式結(jié)構(gòu)，放眼望去，滿目都是倫敦的屋頂風(fēng)光，美麗得讓人難以抗拒。

星期五的晚上，DeepMind的員工就在這里聚會(huì)歡飲。一位員工熱情地向我描述這個(gè)聚會(huì)，說是“醉人地結(jié)束一周”的方法。社交是一種內(nèi)在生活方式：他們告訴我DeepMind內(nèi)部有跑步俱樂部、足球隊(duì)、還有棋盤游戲俱樂部。墻上有一幅帶有可移動(dòng)照片的位置圖，上面標(biāo)明了每個(gè)人在特定某天會(huì)出現(xiàn)在哪張辦公桌上（hot-desking）。這是一種激進(jìn)的開放式環(huán)境。走廊中與我擦肩而過的工程師們——大部分是男性——粉碎了我對于在科學(xué)的枯燥角落工作著的人們的刻板印象：這些家伙看上去健康，快樂，又酷炫。不得不說，空氣中散發(fā)著一股才智的迷人氣息。盡管有許多谷歌的最大競爭對手們都越來越多地重視起AI，更不用說全球的一流大學(xué)了，但是毫無疑問，地球上最聰明的人們都在排著隊(duì)想進(jìn)入這里工作，到現(xiàn)在為止離職率還是漂亮的0%。

“我們真的很幸運(yùn)，”Hassabis說，他將他的公司與阿波羅計(jì)劃和曼哈頓計(jì)劃類比，因?yàn)樗�正在以越來越快的速度集結(jié)起來的研究人員的質(zhì)量和DeepMind的野心都讓人驚嘆不已�！懊恳荒辏�毫不夸張地說，我們都能夠從每個(gè)國家獲得最好的科學(xué)家。所以我們將會(huì)有，比如說，波蘭的奧林匹克物理冠軍，法國的頂尖數(shù)學(xué)博士。我們已經(jīng)有的想法比我們已經(jīng)有的研究人員還要多，不過與此同時(shí)，青睞我們的優(yōu)秀人才數(shù)量也比我們能接收的還要多。所以我們正處在一個(gè)非常幸運(yùn)的位置。唯一的局限是，在不傷害公司文化的前提下，我們能吸收的人員數(shù)量�！�

這種文化不只是沙包、免費(fèi)的零食和屋頂?shù)钠【�。Hassabis堅(jiān)持不讓谷歌的收購以任何方式強(qiáng)行影響他自己的研究路徑，他估計(jì)自己花費(fèi)了“至少和思考算法一樣多的時(shí)間來思考DeepMind的運(yùn)轉(zhuǎn)效率”，并將這家公司描述為“調(diào)和了最好的學(xué)術(shù)圈與最激動(dòng)人心的初創(chuàng)企業(yè)，擁有令人難以置信的能量來為創(chuàng)造力和成就助力�！彼�好幾次提到“創(chuàng)造力”這個(gè)詞，他觀察到，雖然他接受的正式訓(xùn)練都來自于科學(xué)領(lǐng)域，但是他“本能地站在創(chuàng)造力或是直覺的一側(cè)”�！拔艺劜簧鲜且粋�(gè)標(biāo)準(zhǔn)的科學(xué)家，”他評價(jià)道，看上去并無諷刺之意。對于DeepMind的構(gòu)造來說至關(guān)重要的，是被他稱作“膠水大腦（glue minds）”的人才：能夠在相當(dāng)程度上理解無數(shù)科學(xué)領(lǐng)域、以此“用某種別具一格的方式找到不同領(lǐng)域間的連接點(diǎn)、隨后迅速鑒別出有前途的交叉領(lǐng)域連接可能是什么”的博學(xué)者。符合標(biāo)準(zhǔn)以后，這些像膠水一樣的人才可以每隔幾周在工作中的小組中登記信息，隨后快速靈活地在需要時(shí)調(diào)用資源和工程師�！八�以如果你有一個(gè)讓人吃驚的天才研究員，那么幾乎立刻——與學(xué)術(shù)圈中不同——就會(huì)有三四個(gè)來自其他領(lǐng)域的人可以接過他的指揮棒、將自己的智慧添加進(jìn)去，”他這樣描述道，“這會(huì)導(dǎo)致令人震驚的結(jié)果的產(chǎn)出速度非常迅速。”啟動(dòng)于僅僅18個(gè)月前的AlphaGo項(xiàng)目就是對這一點(diǎn)的完美闡釋。

每天晚上，Hassabis都要登上北線列車，及時(shí)回家與家人團(tuán)聚、享用晚餐。他們居住在海格特，離他長大的地方不遠(yuǎn)。他的妻子是一位意大利分子生物學(xué)家，研究的是阿茲海默病。他們的兩個(gè)兒子一個(gè)7歲，一個(gè)9歲。Hassabis會(huì)與他們一起玩游戲、讀書，或是幫他們一起做作業(yè)（“他們都以自己的方式發(fā)揮著聰明才智，但是他們幾乎就像我對立的兩面，一面是科學(xué)，一面是創(chuàng)造”）。

他會(huì)帶他們上床睡覺，就像任何一個(gè)普通人家的父親一樣。隨后，大概晚上11點(diǎn)左右，當(dāng)大部分人可能都合理地預(yù)計(jì)將要睡覺了的時(shí)候，他開始了他自己說的“第二天”。與美國方面的常規(guī)Skype通話將會(huì)持續(xù)到凌晨1點(diǎn)。之后是“純粹思考的時(shí)間。直到凌晨3點(diǎn)或是4點(diǎn)之前，那是我用來思考的時(shí)間：思考研究，思考我們的下一個(gè)挑戰(zhàn)，或是寫一份算法設(shè)計(jì)文檔”。

并沒有太多真正的AI代碼，他承認(rèn)，“因?yàn)槲业臄?shù)學(xué)現(xiàn)在已經(jīng)不行了。這更像是直覺性的思考。或者可能是對公司的策略性思考：如何擴(kuò)張它，如何管理好它�；蛘呖赡苤皇俏覐囊黄�文章里讀到的東西、或是那一天從新聞里看到的東西，我會(huì)思考我們的研究能如何與它相連�！�

這讓我想起了AlphaGo，它就在谷歌強(qiáng)大到難以想象的計(jì)算云中，不停地下棋、下棋、下棋，每一天的每一分每一秒都在自我提高，因?yàn)樗鼘W(xué)習(xí)的唯一方式就是繼續(xù)不停地做下去…

“它休息過嗎？”我問。

“沒有。無休無止！它甚至沒有圣誕假期�！�

我猶豫了一下�！八�需要休息嗎？”

“也許它就喜歡這樣，”他駁回了我的話，眼神閃亮。

懂了。所以Hassabis自己呢？“絕對是超人，”他的一位同事順口告訴過我。他關(guān)機(jī)休息過嗎？他能夠讓自己關(guān)機(jī)休息嗎？“這很難，”他承認(rèn)，“我從來沒有真的感到過工作與生活對立的問題；它們是同一張畫布上的部分。我的確喜歡讀書、看電影、聽音樂，但這些都傾向于和我做的事有所關(guān)聯(lián)�！保ㄋ�是一個(gè)影迷，與最近執(zhí)導(dǎo)AI電影《Ex Machina》的Alex Garland是朋友；他也提到了他剛與美國電影制片人Brian Grazer見過面，那是一個(gè)“真的很酷的家伙”，而他們的會(huì)面討論的是，你猜得到的，就是AI）�！拔业拇竽X就是為它而運(yùn)轉(zhuǎn)的�！�

那他的孩子、朋友、還有日常生活呢？“當(dāng)然，我在試圖保持腳踏實(shí)地，否則我會(huì)變得有點(diǎn)瘋狂。關(guān)于孩子，最神奇的一點(diǎn)是，他們是唯一能讓你以類似的方式度過時(shí)間的存在�！�

“如果存在超越了人類智能的數(shù)字智能，那么‘助手’這個(gè)詞就不是一個(gè)正確的描述了。”

—Elon Musk

他和自己的朋友們保持著親密的關(guān)系：他在UCL讀博士的時(shí)候遇到了DeepMind的聯(lián)合創(chuàng)始人之一Shane Legg，另一位Muatafa Suleyman則是他的發(fā)小。他講述了一段令人愉快的經(jīng)歷：他在劍橋大學(xué)時(shí)與本科同學(xué)Dave Silver成了朋友，隨后在空閑時(shí)間教他如何下棋盤游戲，包括某種古老的中國游戲。二十年后，我注意到，David Silver是DeepMind里圍棋項(xiàng)目的主要程序員，而且也是最近這篇《自然》論文的第一作者�！笆堑�，Dave和我認(rèn)識很久了，”Hassabis笑著說，“我們曾經(jīng)夢想在未來做這件事情，所以19歲的我們可能對于現(xiàn)在取得的這個(gè)成就感到非常欣慰�！�

他沉思了一下，補(bǔ)充道：“雖然如此，但我真的沒有多少日常生活。在所有醒著的時(shí)刻，我都在思考這些東西，也許在我夢里也是這樣。因?yàn)樗�是如此讓人興奮，如此重要，也是我最有熱情的事情�！�

他的眼里有一種神采，我只能用熠熠生輝來描述，就像孩子一樣天真無辜�！拔矣X得太幸運(yùn)了。我想不出比我正在研究的更有趣的問題了，而且我也可以每天都思考這些問題。每時(shí)每刻，我都在致力于做那些我抱有信心的事。否則的話，生命如此短暫，為何還要做這些（不抱信心的）事呢？”

如果史蒂芬霍金、比爾蓋茨、Elon Musk、Jaan Tllinn、Nick Bostrom和其他一些偉大科學(xué)家對于AI的恐懼成真了，那么我們的生命可能會(huì)比我們預(yù)期的要短很多。對AI的顧慮從未經(jīng)審查的人工通用智能武裝、到揮散不去的“技術(shù)奇點(diǎn)”的陰影，最終是讓機(jī)器有能力迭代地自我完善的“智能爆炸”，這會(huì)讓機(jī)器的智能超越人腦的智能，接著，就是超越人類的控制。如果超級智能之災(zāi)即將來臨，那么過去的歷史是無法可靠地指示我們預(yù)見到這一點(diǎn)、在一切無法挽回前退出AI軍備競賽的�！爱�(dāng)你看到某樣?xùn)|西在技術(shù)上很誘人時(shí)，”Robert Oppenheimer曾經(jīng)觀察到，這非常著名，“你會(huì)上前研究它；而只有在你取得了技術(shù)成果以后，你才會(huì)回過頭來討論應(yīng)該用它來做什么�！薄叭绻�有辦法能確保超級智能永遠(yuǎn)不會(huì)傷害人類，”Bostrom在幾十年后說道，“那么這樣的智能將會(huì)被創(chuàng)造出來。如果沒有這樣的保證，可能無論如何它們也會(huì)被創(chuàng)造出來�！薄俺晒�創(chuàng)造AI，”霍金在最近簡練地總結(jié)道，將是“人類歷史上最大的事件。但不幸的是，它可能也是最后一個(gè)事件�！�

“好吧，我希望不會(huì)這樣，”Hassabis面不改色地說。在他看來，公眾對人工通用智能危言聳聽的態(tài)度，模糊了它近期巨大的潛力和價(jià)值，而且在根本上就錯(cuò)位了，尤其是在時(shí)間上。 “我們距離任何類似人類水平的通用智能的東西都還有幾十年的時(shí)間，”他提醒我，“我們還踩在梯子的第一條橫杠上。我們都不過是在玩游戲�！彼�也認(rèn)同，有一些“我們應(yīng)該現(xiàn)在就考慮起來的法律風(fēng)險(xiǎn)”，但是他堅(jiān)定地認(rèn)為，這些要考慮的風(fēng)險(xiǎn)不是科幻小說中超級智能機(jī)器把它們的人類創(chuàng)造者無情消滅的反烏托邦場景。

此外，他強(qiáng)調(diào)，談到減少人工通用智能的潛在危險(xiǎn)時(shí)，這個(gè)領(lǐng)域的領(lǐng)導(dǎo)者是DeepMind。雖然，很明顯，這家公司不像政府領(lǐng)導(dǎo)的阿波羅計(jì)劃和曼哈頓計(jì)劃那樣需要接受官方審查，但它的運(yùn)作也相當(dāng)透明。它傾向于發(fā)布自己的代碼，而它接受谷歌收購時(shí)的協(xié)議也包含了禁止將它的技術(shù)應(yīng)用于軍備或是智能應(yīng)用的條款。Hassabis和他的同事們在召開2015年波多黎各人工智能大會(huì)方面起到了重要的作用，并且簽署了公開信宣誓為“良好的目的”而使用技術(shù)，同時(shí)“避免潛在的陷阱”。最近他們幫助協(xié)辦了另一場在紐約的會(huì)議，會(huì)議期間他們組建了被大肆報(bào)道的內(nèi)部倫理委員會(huì)和咨詢委員會(huì)（雖然是私下組建的）。“Hassabis對人工智能的安全性爭議了解得非常透徹，”Murray Shanahan說，“他當(dāng)然不是幼稚的人，也不會(huì)把頭埋在沙子里當(dāng)鴕鳥�！�

“在鼓勵(lì)圍繞這些問題展開對話溝通這一方面，DeepMind一直是行業(yè)中的佼佼者，”Bostrom對此表示贊同，“并且在致力于進(jìn)行一些未來可能需要用于解決這些挑戰(zhàn)的研究方面也是如此�！�

我讓Hassabis列出他認(rèn)為的未來主要的長期挑戰(zhàn)�！半S著這些系統(tǒng)變得越來越復(fù)雜，我們需要開始思考它們能怎樣做出優(yōu)化、能對什么做出優(yōu)化，”他回答道，“技術(shù)本身是中性的，但它是一個(gè)學(xué)習(xí)系統(tǒng)，所以，不可避免地，它們會(huì)帶有一些設(shè)計(jì)者的價(jià)值體系和文化背景的印記，所以我們對于價(jià)值觀的思考必須非常謹(jǐn)慎小心。”

關(guān)于超級智能問題，他說：“我們需要確保設(shè)定的目標(biāo)是正確指明的，并且其中沒有任何模棱兩可的東西，隨著時(shí)間推移也依舊穩(wěn)定。但在我們所有的系統(tǒng)中，最高級的目標(biāo)仍然要由它的設(shè)計(jì)者們指定。系統(tǒng)可能會(huì)得出自己的方法來實(shí)現(xiàn)這個(gè)目標(biāo)，但是它自己是不會(huì)創(chuàng)造一個(gè)自己的目標(biāo)的。”

他用毫無動(dòng)搖的語調(diào)寬慰我�！翱矗�這些都是既有趣又困難的挑戰(zhàn)。隨著配備上所有新穎強(qiáng)大的技術(shù)，人工智能需要被負(fù)責(zé)地、符合倫理地使用，而這就是為什么我們現(xiàn)在正積極地呼吁對這個(gè)問題展開辯論和研究，那么當(dāng)時(shí)候到來時(shí)，我們才會(huì)準(zhǔn)備充足�！�

什么時(shí)候到來？機(jī)器變得超級智能的時(shí)候，還是它們超越人類的時(shí)候？他笑了起來，“不，不，不，我指的是還要在那些之前！”（我覺得他是在開玩笑，盡管在2011年，他的同事Shane Legg的確說過：“我認(rèn)為人類滅絕這件事可能會(huì)發(fā)生，而技術(shù)有可能在其中發(fā)揮不小的作用。”）Hassabis澄清道：“我的意思是，當(dāng)這些系統(tǒng)強(qiáng)大到不只是會(huì)玩游戲時(shí)，我們放任它們處理更現(xiàn)實(shí)、更重要的事，比如醫(yī)療。然后我們需要確保我們知道它們將會(huì)有怎樣的能力�！彼麑ξ衣洱X一笑：“那將會(huì)阻止機(jī)器掌管世界的情景成真�！�

Hassabis經(jīng)常微笑。他待人友好，言辭讓人信服。他所說的一切似乎都很有道理，并不自以為是，而且誰知道呢：說不定人工通用智能將一直處于在我們的控制之下。但是許多人仍持懷疑的態(tài)度�！帮@然，如果存在一個(gè)任何方面都大大超過人類的數(shù)字智能，‘助手’這個(gè)詞就不是一個(gè)正確的描述了�！盓lon Musk反對道，他最近將AI技術(shù)的進(jìn)步描繪成人類“正在召喚一個(gè)惡魔”。這位SpaceX的創(chuàng)始人、Tesla和PayPal的聯(lián)合創(chuàng)始人，曾經(jīng)是DeepMind最早的投資者之一，但他投資DeepMind不是為了獲得金錢上的回報(bào)�！拔业耐顿Y并不是為了投資所帶來的經(jīng)濟(jì)利益，”他在加利福尼亞州的辦公室中這樣對我說，“我投資DeepMind的原因僅僅是因?yàn)橄雽�AI的進(jìn)展與威脅有更好的理解。如果我們對AI不夠小心，讓一些不好的事情發(fā)生了，到那時(shí)銀行存款將變得毫無意義�！�

“Elon是這個(gè)行業(yè)里最聰明的人之一，并且有著驚人的溝通能力，”Hassabis態(tài)度中立地回應(yīng)道，“而且我真的認(rèn)為，像他這樣的人正在如此關(guān)注AI，是一件很酷的事情，因?yàn)檫@恰恰顯示了AI是一件大事。”他保持著外交辭令般的回應(yīng)，但是來自其他領(lǐng)域的科學(xué)家放肆地公開對AI下斷言這樣的事確實(shí)激怒了他：畢竟，你沒有聽到過他對粒子物理學(xué)指手畫腳。

“總體來說，我發(fā)現(xiàn)了那些不真正在AI領(lǐng)域工作的人對于AI的理解都是不完全的。他們通常都沒有與許多AI專家交談過，所以他們腦袋里的思想實(shí)驗(yàn)總是把他們帶偏，因?yàn)檫@些想法都是基于一些我認(rèn)為即將被證明是錯(cuò)誤的假設(shè)。”他又再一次提到，他組織的內(nèi)部倫理委員會(huì)和咨詢委員會(huì)——其中都是來自各個(gè)科學(xué)和哲學(xué)領(lǐng)域的頂尖學(xué)者——將會(huì)管理未來任何的人工通用智能技術(shù)的應(yīng)用。他毫不動(dòng)搖地堅(jiān)持現(xiàn)階段不公開進(jìn)程的決定�！爸�前沒有任何人嘗試做過類似的東西，所以在我們對于公眾揣測我們在Twitter或者其他什么東西上做了什么能有額外的審查之前，我們還有許多事情需要探索，從第一天就要開始�！边@個(gè)初始階段，他說，是關(guān)于“給每個(gè)人提供最新的消息，這樣下一階段我們才能準(zhǔn)備好討論實(shí)際的算法和應(yīng)用。對于許多參與其中的人來說，這不是他們的核心領(lǐng)域。我們需要他們的專業(yè)知識，但是他們必須弄清楚將會(huì)發(fā)生什么事。”

史蒂芬霍金作為一個(gè)“得到最新消息”意味著什么的榜樣，被人引以為鑒。Hassabis最近邀請霍金在劍橋大學(xué)進(jìn)行私人會(huì)談�！皟H僅是見到他對于我來說就顯然是巨大的榮耀了，” Hassabis興奮地說著，拿出手機(jī)——無論他的新東家怎么看，Hassabis仍然是霍金的擁躉——向我展示了他和霍金的自拍合照�！拔覀儽緛碇话才帕�1個(gè)小時(shí)的時(shí)間，但是他提出了那么多的問題，以至于我們最后談了4個(gè)小時(shí)。他錯(cuò)過了午餐，所以他的陪同人員不大喜歡我。”

在他們的會(huì)面之后，Hassabis指出，霍金沒有再在媒體報(bào)道時(shí)提及“任何關(guān)于AI的有煽動(dòng)性的言論”；最令人驚訝的是，在他上個(gè)月的BBC Reith講座上，他所列出的他認(rèn)為將會(huì)對人類產(chǎn)生威脅的列表上沒有將AI技術(shù)。“可能聽到更多關(guān)于實(shí)用性、更多關(guān)于我們可能建立的真實(shí)的系統(tǒng)，以及我們對這些系統(tǒng)能夠有的監(jiān)察和控制的討論，的確起到了作用�！� Hassabis大膽地猜想道。他環(huán)顧這間有許多布滿了難以辨認(rèn)的字跡的白板的屋子。“一旦你理解了工程，這一切看上去就變得好理解多了，也合理得多了�！�

很明顯，我沒有希望做到這一點(diǎn)，但是他真的相信霍金轉(zhuǎn)變了思想嗎？“我想，在談話的最后，是的，他寬慰了不少。他擁有這種好笑的、干巴巴的幽默感，在我離開之前，我對他說，‘所以你怎么想呢？’，然后他把打出了這樣的字，‘我祝你好運(yùn)’。隨后，他眼里閃爍著的光芒，又補(bǔ)充道，‘但是不要太多�！�”Demis Hassabis給了我一個(gè)勝利的微笑，說到：“我當(dāng)時(shí)想，‘我會(huì)把這當(dāng)做是勝利的宣告’�！�