美媒：人類(lèi)擔(dān)心AI統(tǒng)治世界？10年內(nèi)沒(méi)啥可怕的

　　10月26日消息，據(jù)科學(xué)美國(guó)人雜志報(bào)道，伊隆·馬斯克(Elon Musk)最新宣布，旗下特斯拉電動(dòng)汽車(chē)公司制造的所有汽車(chē)都將支持全自動(dòng)駕駛功能。但這需要讓人相信，特斯拉的AI(人工智能)技術(shù)能夠確保所有汽車(chē)都能實(shí)時(shí)讀取數(shù)據(jù)，并對(duì)不同的情況做出反應(yīng)。

　　現(xiàn)在，AI的確可以執(zhí)行許多令人感到驚奇的事情，比如上周AlphaGo電腦程序的開(kāi)發(fā)者報(bào)告稱(chēng)，他們的軟件已經(jīng)學(xué)會(huì)了在倫敦復(fù)雜的地鐵系統(tǒng)中導(dǎo)航，就像個(gè)“本地通”。甚至就連白宮也緊跟潮流，于數(shù)日前發(fā)布報(bào)告，宣稱(chēng)將幫助美國(guó)應(yīng)對(duì)未來(lái)，屆時(shí)機(jī)器可能會(huì)像人類(lèi)那樣思考。

　　可是，已經(jīng)研究AI數(shù)十年，并嘗試解決AI基本問(wèn)題的計(jì)算機(jī)科學(xué)家?jiàn)W倫·埃齊奧尼(Oren Etzioni)認(rèn)為，在人類(lèi)擔(dān)心機(jī)器將接管世界之前，機(jī)器的進(jìn)化之路依然十分漫長(zhǎng)。埃齊奧尼如今是艾倫人工智能研究所(AI2)的首席執(zhí)行官，這個(gè)組織是微軟聯(lián)合創(chuàng)始人保羅·艾倫(Paul Allen)2014年創(chuàng)建的，重點(diǎn)是研究AI的潛在益處。艾倫認(rèn)為，好萊塢甚至其他研究人員都將AI描述得過(guò)于邪惡，甚至可能威脅人類(lèi)生存。

　　AI2啟動(dòng)的AI項(xiàng)目并不十分華麗，比如基于AI、支持學(xué)術(shù)研究的搜索引擎Semantic Scholars。但他們卻專(zhuān)注于解決AI領(lǐng)域的難題，比如推理等?！犊茖W(xué)美國(guó)人》最近在紐約AI大會(huì)上采訪了埃齊奧尼，他擔(dān)心當(dāng)前公司過(guò)多吹噓AI的現(xiàn)有能力，特別是機(jī)器學(xué)習(xí)技術(shù)(又稱(chēng)深度學(xué)習(xí))。這種技術(shù)可運(yùn)行大量數(shù)據(jù)集，通過(guò)網(wǎng)絡(luò)模擬人類(lèi)大腦的神經(jīng)網(wǎng)絡(luò)，以便教授計(jì)算機(jī)自己解決具體問(wèn)題，比如識(shí)別模式或識(shí)別照片中的特定目標(biāo)等。

　　埃齊奧尼還反思為何10歲孩子都比谷歌旗下AI公司DeepMind的AlphaGo更加聰明，以及最終為何需要開(kāi)發(fā)出AI“監(jiān)護(hù)人”程序以便確保其他AI程序不會(huì)變得更危險(xiǎn)。以下就是采訪摘要：

　　問(wèn)：在尋找研發(fā)AI技術(shù)的最好方式時(shí)，AI研究人員之間是否存在分歧?

　　埃齊奧尼：有些人已經(jīng)看到了一點(diǎn)兒未來(lái)。我們?cè)谠S多AI領(lǐng)域都取得了巨大進(jìn)展，比如語(yǔ)音識(shí)別、無(wú)人駕駛汽車(chē)以及AlphaGo等。所有這些都是值得稱(chēng)道的技術(shù)成就。但是如何解釋它們呢?深度學(xué)習(xí)顯然是非常有價(jià)值的技術(shù)，但我們?cè)谘邪l(fā)AI過(guò)程中還有許多問(wèn)題有待解決，比如推理(即機(jī)器人可理解而僅僅限于計(jì)算2+2=4)、獲得背景知識(shí)(機(jī)器能用于創(chuàng)造情境)等。自然語(yǔ)言理解是另一個(gè)問(wèn)題。即使我們開(kāi)發(fā)出AlphaGo，但我們依然沒(méi)有程序能夠解讀和充分理解一個(gè)段落甚至簡(jiǎn)單的句子。

　　問(wèn)：有人認(rèn)為，深度學(xué)習(xí)是AI領(lǐng)域最好的技術(shù)。深度學(xué)習(xí)到底有什么作用?

　　埃齊奧尼：當(dāng)你有大量數(shù)據(jù)需要處理時(shí)，而計(jì)算機(jī)又知道它們代表的意義，那么你將具備強(qiáng)大的計(jì)算能力，你可以嘗試找出數(shù)據(jù)中隱藏的模式，深度學(xué)習(xí)在這個(gè)領(lǐng)域堪稱(chēng)無(wú)敵。此外，AlphaGo可以處理3000萬(wàn)個(gè)與位置有關(guān)的數(shù)據(jù)，這些位置可教授AI程序在不同的情況下采取正確行動(dòng)。還有其他例證，比如放射圖像，它可以顯示是否存在腫瘤，而深度學(xué)習(xí)程序可以調(diào)整顏色，確定這份圖像是否是之前看過(guò)的。深度學(xué)習(xí)還能夠執(zhí)行很任務(wù)，這是真正的前沿技術(shù)。

　　問(wèn)：那么深度學(xué)習(xí)面臨哪些挑戰(zhàn)?

　　埃齊奧尼：?jiǎn)栴}是系統(tǒng)有了智慧還不行，還必須有更多數(shù)據(jù)可被用于訓(xùn)練它。以學(xué)生的標(biāo)準(zhǔn)化考試為例，比如SAT或紐約高考數(shù)據(jù)。以前，為了獲得高分，智能程序可通過(guò)3000萬(wàn)份被打上成功或不成功標(biāo)記的考卷進(jìn)行學(xué)習(xí)，而新的AI程序需要更復(fù)雜、更多互動(dòng)的學(xué)習(xí)過(guò)程。AI還可通過(guò)設(shè)備、對(duì)話或讀書(shū)學(xué)習(xí)。盡管深度學(xué)習(xí)有如此明顯的優(yōu)勢(shì)，但10歲孩子也能做到這些，比如選擇一本書(shū)、讀一個(gè)章節(jié)、回答與其相關(guān)的問(wèn)題等。

　　問(wèn)：為何AI能夠通過(guò)標(biāo)準(zhǔn)考試意味著其取得巨大進(jìn)展?

　　埃齊奧尼：實(shí)際上，我們已經(jīng)在AI2啟動(dòng)了這樣的研究項(xiàng)目。去年，我們宣布懸賞5萬(wàn)美元，鼓勵(lì)人們開(kāi)發(fā)可通過(guò)8年級(jí)標(biāo)準(zhǔn)科學(xué)測(cè)試的AI軟件。來(lái)自全世界的780多個(gè)團(tuán)隊(duì)耗費(fèi)數(shù)月時(shí)間，但最終沒(méi)有人的分?jǐn)?shù)超過(guò)60分。這為我們提供了AI現(xiàn)狀的現(xiàn)實(shí)、定量評(píng)估。

　　問(wèn)：如何才能讓頂級(jí)AI系統(tǒng)正確回答問(wèn)題?

　　埃齊奧尼：通常情況下，語(yǔ)言中都隱藏著各種線索。最成功的系統(tǒng)可以從科學(xué)文本和其他公共資源中收集信息，然后利用調(diào)節(jié)信息檢索技術(shù)為每個(gè)多選問(wèn)題確定最佳答案。舉例來(lái)說(shuō)，什么是最好的電導(dǎo)體：塑料勺、木叉還是鐵蝙蝠?AI系統(tǒng)非常善于運(yùn)用公式，可以在大量常見(jiàn)的文件中檢測(cè)電、鐵或?qū)щ娭g的關(guān)系，可以很輕松地給出答案。為此，有時(shí)候AI系統(tǒng)可以采取快捷方式，非常迅速地給出答案。之所以沒(méi)有系統(tǒng)獲得及格分?jǐn)?shù)，我只能說(shuō)這些系統(tǒng)都使用統(tǒng)計(jì)學(xué)進(jìn)行猜測(cè)，而非仔細(xì)推理。

　　問(wèn)：AlphaGo背后的DeepMind團(tuán)隊(duì)現(xiàn)在已經(jīng)開(kāi)發(fā)出新的AI程序，通過(guò)使用外部存儲(chǔ)系統(tǒng)超越深度學(xué)習(xí)。他們的工作對(duì)創(chuàng)造更像人的AI有何影響?

　　埃齊奧尼：在移動(dòng)深度神經(jīng)網(wǎng)絡(luò)領(lǐng)域，DeepMind依然是領(lǐng)跑者。這種特別貢獻(xiàn)非常重要，但在推理方面卻不算太大突破?，F(xiàn)有的系統(tǒng)可以很輕松地完成類(lèi)似任務(wù)，但這里涉及到神經(jīng)網(wǎng)絡(luò)如何通過(guò)例證學(xué)習(xí)執(zhí)行任務(wù)的問(wèn)題。總體來(lái)說(shuō)，DeepMind邁出了一大步，但對(duì)于人類(lèi)來(lái)說(shuō)依然是一小步。

　　問(wèn)：有人將深度學(xué)習(xí)、機(jī)器視覺(jué)和記憶等技術(shù)結(jié)合起來(lái)，以開(kāi)發(fā)更完整的AI嗎?

　　埃齊奧尼：這是個(gè)非常有吸引力的創(chuàng)意，實(shí)際上已經(jīng)有許多類(lèi)似研究。我在華盛頓大學(xué)擔(dān)任教授時(shí)，就曾基于這個(gè)想法，利用互聯(lián)網(wǎng)充當(dāng)AI系統(tǒng)的數(shù)據(jù)庫(kù)。我們建立了名為信息公開(kāi)提取的技術(shù)，它可以為50億個(gè)網(wǎng)頁(yè)做索引，并從中提取語(yǔ)句，試圖將它們變成機(jī)器可操作的知識(shí)。這臺(tái)機(jī)器擁有超自然的能力，可以快速吸收這些網(wǎng)頁(yè)和所有句子，問(wèn)題是那些文本或圖片上的句子很難吸收。人類(lèi)大腦擁有不可思議的能力，計(jì)算機(jī)科學(xué)家們至今還未破解。這種能力可以映射出推理等反應(yīng)。但是迄今為止，我們還么有找到機(jī)器能像人腦那樣工作的機(jī)制。

　　問(wèn)：你曾提及，要想達(dá)到人類(lèi)水平，AI的研發(fā)至少還需要25年時(shí)間。你所謂的人類(lèi)水平AI指什么，為何給出這樣的時(shí)間框架?

　　埃齊奧尼：人類(lèi)水平AI能夠真正地理解自然語(yǔ)言、擁有人類(lèi)智慧的廣度、能夠玩PokemonGo、走過(guò)街道等，這種多樣性是人類(lèi)智慧的標(biāo)志，而我們今天能做的就是研發(fā)“狹隘的學(xué)者”，以便其能在某些方面表現(xiàn)更突出。至于25年的時(shí)間框架，我曾詢(xún)問(wèn)人工智能發(fā)展協(xié)會(huì)的朋友：計(jì)算機(jī)系統(tǒng)何時(shí)能在廣義上變得像人類(lèi)那樣聰明?沒(méi)人認(rèn)為10年內(nèi)能夠?qū)崿F(xiàn)這種假設(shè)，67%的人認(rèn)為至少要到25年之后。25%的人認(rèn)為永遠(yuǎn)無(wú)法實(shí)現(xiàn)。他們錯(cuò)了嗎?你會(huì)選擇相信誰(shuí)，把握AI脈搏的人還是好萊塢?

　　問(wèn)：為何如此多令人尊重的科學(xué)家和工程師警告稱(chēng)，AI可能滅亡人類(lèi)?

　　埃齊奧尼：對(duì)于我來(lái)說(shuō)，很難推測(cè)史蒂夫·霍金(Stephen Hawking) 或馬斯克警告AI威脅的動(dòng)機(jī)。我猜，談?wù)摵诙纯赡苁欠浅o(wú)聊的，因?yàn)檫@是個(gè)緩慢進(jìn)化的主題。但有一件事我要說(shuō)，當(dāng)他們談?wù)揂I變得邪惡或引發(fā)潛在災(zāi)難性后果時(shí)，他們總會(huì)插入限定詞，比如“最終”或“可能”。我同意這樣的觀點(diǎn)，如果我們談?wù)?000年后或無(wú)限未來(lái)，AI很可能導(dǎo)致人類(lèi)滅絕。但我認(rèn)為，這種長(zhǎng)期討論不該分散我們的注意力，我們應(yīng)該更關(guān)注現(xiàn)實(shí)問(wèn)題，比如AI與就業(yè)、AI與武器系統(tǒng)等。

　　問(wèn)：鑒于AI存在的缺點(diǎn)，我們應(yīng)該擔(dān)心汽車(chē)制造商對(duì)無(wú)人駕駛汽車(chē)與日俱增的興趣嗎?

　　埃齊奧尼：我不是那些沒(méi)有方向盤(pán)或剎車(chē)板的無(wú)人駕駛汽車(chē)的忠誠(chéng)粉絲。鑒于我對(duì)計(jì)算機(jī)視覺(jué)和AI的了解，我對(duì)無(wú)人駕駛汽車(chē)感覺(jué)十分不舒服。但我是綜合系統(tǒng)的支持者，比如當(dāng)你在車(chē)上打盹時(shí)，AI能幫你剎車(chē)。人類(lèi)司機(jī)和自動(dòng)系統(tǒng)相結(jié)合可能比單純的人類(lèi)司機(jī)或AI駕車(chē)更安全。這很復(fù)雜，將新技術(shù)融入到人類(lèi)日常工作與生活中同樣不容易。但我不確信這種解決方案是否能有效。

　　問(wèn)：谷歌、Facebook以及其他大科技公司近來(lái)聯(lián)合推出了“人工智能造福人類(lèi)和社會(huì)合作組織”，為AI研究設(shè)定道德和社會(huì)規(guī)范。對(duì)此你有何看法?

　　埃齊奧尼：世界上領(lǐng)先的科技公司聯(lián)合起來(lái)思考這些事情是好事，我認(rèn)為他們這樣做是回應(yīng)人們的擔(dān)憂，即AI是否會(huì)接管世界。許多恐懼完全被夸大了。即使我們有了無(wú)人駕駛汽車(chē)，也不會(huì)立即造成破壞性影響。馬斯科等人談及的AI對(duì)人類(lèi)生存威脅至少是數(shù)十年乃至數(shù)百年之后的事情?？墒牵壳坝性S多非?，F(xiàn)實(shí)的挑戰(zhàn)：自動(dòng)化、數(shù)字化技術(shù)以及AI都在影響就業(yè)，無(wú)論是機(jī)器人還是其他技術(shù)，這非常令人擔(dān)憂。無(wú)人駕駛汽車(chē)和卡車(chē)會(huì)大幅改善安全，但他們也會(huì)對(duì)依賴(lài)駕駛謀生的大量工人造成影響。這個(gè)新組織談?wù)摰钠渌虑橐泊嬖谄?jiàn)。如果AI技術(shù)被用于處理貸款或信用卡申請(qǐng)，它們能否法律或道德規(guī)范嗎?

　　問(wèn)：你認(rèn)為如何能確保AI遵守法律和道德規(guī)范?

　　埃齊奧尼：如果你是銀行，利用軟件程序處理貸款，你將無(wú)法藏身其后。一口咬定計(jì)算機(jī)做錯(cuò)了事不是借口，計(jì)算機(jī)程序可能參與了歧視行為，那是因?yàn)橛?jì)算機(jī)系統(tǒng)需要使用許多變量和統(tǒng)計(jì)，以便尋找與其他變量有關(guān)的聯(lián)系。如果它使用了影響決定的替代變量，那真會(huì)成為問(wèn)題，對(duì)于人類(lèi)來(lái)說(shuō)也很難發(fā)現(xiàn)和追蹤。為此，我們提議研發(fā)AI“監(jiān)護(hù)人”，以監(jiān)測(cè)和分析基于AI開(kāi)發(fā)的貸款處理程序的行為，確保其遵守法律和道德規(guī)范。

　　問(wèn)：AI“監(jiān)護(hù)人”已經(jīng)存在嗎?

　　埃齊奧尼：我們已經(jīng)發(fā)出呼吁，并開(kāi)始研發(fā)這些程序。我認(rèn)為，很快就會(huì)出現(xiàn)類(lèi)似程序，其愿景非常被看好。我們希望AI“監(jiān)護(hù)人”的創(chuàng)意能夠應(yīng)對(duì)《終結(jié)者》等好萊塢電影中對(duì)AI的誤解，即技術(shù)變得邪惡，并成為龐大的壟斷力量。