專(zhuān)家談人機(jī)圍棋大戰(zhàn)：技術(shù)群體戰(zhàn)勝了天賦個(gè)人

 

記者劉功虎

 

連日來(lái)，“阿爾法圍棋”（AlphaGo）與韓國(guó)棋手李世石的圍棋人機(jī)大戰(zhàn)，引起全世界“圍觀”。截至13日，4場(chǎng)較量，前3場(chǎng)“阿爾法圍棋”連勝，第4場(chǎng)李世石扳回一城。五局系列賽，勝負(fù)已分。

 

人機(jī)圍棋大戰(zhàn)，應(yīng)如何看待輸贏？人工智能最終會(huì)向何處去？人類(lèi)最具顛覆性的技術(shù)發(fā)展到底是人工智能，還是其他？13日，中山大學(xué)人機(jī)互聯(lián)實(shí)驗(yàn)室主任翟振明接受長(zhǎng)江日?qǐng)?bào)記者專(zhuān)訪，談他眼中的“人機(jī)大戰(zhàn)”。

 

阿爾法圍棋讓一些人感受到了危機(jī)

 

讀+：人機(jī)對(duì)決，反響熱烈，有人為之興奮，有人焦慮。你怎么看這種輸贏？

 

翟振明：“阿爾法圍棋”橫掃李世石，或者二者互有輸贏，我不覺(jué)得有什么特別的不同。無(wú)論如何，我們都可以說(shuō)，人工智能博弈領(lǐng)域的技術(shù)取得了長(zhǎng)足進(jìn)步。

 

但對(duì)一些人來(lái)說(shuō)，也許這意味著某種危機(jī)的開(kāi)始。機(jī)器人可能接管腦力勞動(dòng)。他們感覺(jué)到了分分鐘被淘汰的危險(xiǎn)。

 

其實(shí)人類(lèi)的價(jià)值，并不在于多么會(huì)干活，體力或腦力勞動(dòng)都是為了解決我們自己給自己設(shè)定的任務(wù)。有了這種設(shè)定，才知道什么是該干的活，什么是有效勞動(dòng)。下棋一類(lèi)智力活動(dòng)，屬于高級(jí)游戲活動(dòng)，有工具之外的意義。這場(chǎng)人機(jī)大賽，讓一部分人們感覺(jué)到一種自我認(rèn)同上的危機(jī)，產(chǎn)生了將被機(jī)器人淘汰的焦慮。

 

在我看來(lái)，強(qiáng)大智能機(jī)器的發(fā)明，你說(shuō)是了不起的里程碑也可以，但這并不是人工智能技術(shù)的斷裂性突破。

 

讀+：是否可以認(rèn)為，這種人機(jī)大戰(zhàn)，人設(shè)計(jì)的機(jī)器戰(zhàn)勝真人棋手，實(shí)際還是人和人之間的大戰(zhàn)？

 

翟振明：這說(shuō)法還算靠譜。但是我不太想用戰(zhàn)爭(zhēng)隱喻來(lái)刻畫(huà)這個(gè)事件。換句話說(shuō)，這只說(shuō)明了，在單一的抽象博弈智能方面，技術(shù)群體戰(zhàn)勝了天賦極高的自然個(gè)體。

 

機(jī)器沒(méi)有獨(dú)立的意志。最終說(shuō)來(lái)，“輸”與“贏”的說(shuō)法，都是我們?nèi)祟?lèi)單方面的投射，與機(jī)器“自己”無(wú)關(guān)。“阿爾法圍棋”根本就沒(méi)有所謂的“自己”。沒(méi)有獨(dú)立的意志，怎么和人發(fā)生“大戰(zhàn)”呢？

 

讀+：一個(gè)流行的說(shuō)法是，“最可怕的不是‘阿爾法圍棋’戰(zhàn)勝李世石，而在于它能贏卻故意輸?shù)?rdquo;。對(duì)此你怎么看？

 

翟振明：這話雖然原本只是玩笑，但其內(nèi)涵可以非常深刻，涉及到人們常說(shuō)的“強(qiáng)人工智能”與“弱人工智能”的根本差別的問(wèn)題。什么叫“故意”輸?shù)簦?ldquo;阿爾法圍棋”并沒(méi)有自我意識(shí)啊，沒(méi)有自由意志啊，如何談得上“故意”？“故意”可是一種截然不同的能力，是強(qiáng)人工智能技術(shù)所追求的境界。目前還見(jiàn)不到端倪。

 

人工智能屬于漸進(jìn)發(fā)展的常規(guī)技術(shù)

 

讀+：難道“阿爾法圍棋”系統(tǒng)就沒(méi)有什么值得夸耀的地方？

 

翟振明：當(dāng)然有。首先，這里比較容易引起混亂的是所謂“阿爾法圍棋”已經(jīng)獲得“學(xué)習(xí)功能”的說(shuō)法。其實(shí)，這是基于一種模仿人腦神經(jīng)元的網(wǎng)狀連接結(jié)構(gòu)的軟件運(yùn)行時(shí)的符號(hào)累積迭代過(guò)程。這種神經(jīng)網(wǎng)絡(luò)算法裝在高速計(jì)算機(jī)上，使得這個(gè)機(jī)器棋手可以永不疲倦地練習(xí)對(duì)弈，所有人類(lèi)“棋圣”合起來(lái)的練棋次數(shù)與之相比都只是零頭。

 

再加上巨大數(shù)據(jù)庫(kù)和無(wú)與倫比的推演速度，絲毫不受情緒影響的“阿爾法圍棋”不贏才怪。在我看來(lái)，人工智能到現(xiàn)在才開(kāi)始贏倒有點(diǎn)兒難以理解。畢竟，美國(guó)科學(xué)家首次提出神經(jīng)元網(wǎng)絡(luò)數(shù)學(xué)模型至今已經(jīng)70多年。

 

與當(dāng)年擊敗世界國(guó)際象棋冠軍的深藍(lán)不同，基于“阿爾法圍棋”同種原理的人工智能系統(tǒng)，可以學(xué)習(xí)把握醫(yī)療數(shù)據(jù)，掌握治療方法，幫助人們解除病痛。它可以讓人類(lèi)從純功利性質(zhì)的腦力勞動(dòng)中解放出來(lái)，給我們的生活帶來(lái)極大便利。“深度心智”團(tuán)隊(duì)的新目標(biāo)，據(jù)說(shuō)是開(kāi)發(fā)出可以從零開(kāi)始的參與所有博弈競(jìng)賽的通用學(xué)習(xí)型人工智能。

 

讀+：比起人腦，“阿爾法圍棋”最大的缺陷是什么？

 

翟振明：“阿爾法圍棋”表現(xiàn)出了強(qiáng)大的計(jì)算功能，但與人相比，它沒(méi)有感官系統(tǒng)、沒(méi)有主體可體驗(yàn)內(nèi)容、沒(méi)有主觀意向、沒(méi)有情緒涌動(dòng)。“阿爾法圍棋”或類(lèi)似的人工智能系統(tǒng)再?gòu)?qiáng)大，也是在馮諾依曼框架下的改進(jìn)。沒(méi)有超出這個(gè)框架，也就只能是工具型的沒(méi)有第一人稱(chēng)世界的機(jī)器。

 

讀+：為什么那么多人關(guān)注這次人機(jī)對(duì)決？

 

翟振明：關(guān)注可以，但是沒(méi)有必要過(guò)于興奮或焦慮。至于人們這次空前的關(guān)注度，是否可以這樣理解，就像一百年前小說(shuō)家講述的科學(xué)怪人“弗蘭肯斯坦”那樣，他創(chuàng)造了怪物，最后自己又被怪物控制。這故事確實(shí)讓我們覺(jué)得，與一般的自然災(zāi)難相比，我們?nèi)祟?lèi)會(huì)自造怪物而“失控”，回過(guò)頭來(lái)對(duì)付我們，的確讓人懊惱。

 

但是，目前這種人工智能，再怎么自動(dòng)學(xué)習(xí)、自我改善，都不會(huì)有“征服”的意志，也不會(huì)有“利益”訴求和“權(quán)利”意識(shí)。在我看來(lái)，當(dāng)前，無(wú)論從緊迫性上看，還是從終極可能性上看，人工智能問(wèn)題都屬常規(guī)性問(wèn)題，并且是漸進(jìn)呈現(xiàn)的，我們不必過(guò)于興奮或擔(dān)憂。我們有更值得擔(dān)心、警醒、緊迫的事情要去做。

 

“強(qiáng)人工智能”才有人格，可視為人類(lèi)后代

 

讀+：人類(lèi)因自造怪物而“失控”，甚至被消滅——在你看來(lái)，這份警醒是多余的？

 

翟振明：這種擔(dān)心可以理解，但是并沒(méi)有理性根據(jù)。我們要看到，所有的人造機(jī)器，包括“阿爾法圍棋”，都是在某些方面的能力高于人類(lèi)。這本來(lái)就是人造機(jī)器的目的，很正常。在現(xiàn)有條件下，它不會(huì)失控，即使以后真的失控，也與我們對(duì)飛機(jī)、高鐵、大壩之類(lèi)的失控屬同類(lèi)性質(zhì)。

 

“阿爾法圍棋”具有的說(shuō)到底仍是一種工具能力，是那種“弱人工智能”。這種“弱人工智能”很可能通過(guò)圖靈測(cè)試，但與人的意向性及主體感受能力不相干。

 

讀+：什么樣的人工智能才是根本性的突破？

 

翟振明：“強(qiáng)人工智能”相對(duì)“弱人工智能”，聽(tīng)起來(lái)好像只有程度強(qiáng)弱，實(shí)際存在其間的是一條鴻溝。所謂“強(qiáng)”，指的是超越工具型智能，達(dá)到第一人稱(chēng)主體世界，意向性、命題態(tài)度、愛(ài)恨情感乃至自由意志統(tǒng)統(tǒng)發(fā)生。

 

很多科學(xué)家和哲學(xué)家認(rèn)為，按照現(xiàn)在這種思路來(lái)搞人工智能，搞出來(lái)的東西不可能有自我意識(shí)和意志。按照量子力學(xué)的基本構(gòu)架來(lái)進(jìn)行，倒有點(diǎn)可能。

 

最近，美國(guó)量子物理學(xué)家斯塔普、英國(guó)物理學(xué)家彭羅斯、美國(guó)基因工程科學(xué)家蘭策都提出了人類(lèi)意識(shí)的量子假設(shè)，中國(guó)清華大學(xué)副校長(zhǎng)施一公院士、中科大副校長(zhǎng)潘建偉院士等也大膽猜測(cè)，人類(lèi)智能的底層機(jī)理就是量子效應(yīng)。對(duì)于這個(gè)問(wèn)題，我?guī)资昵熬烷_(kāi)始探索研究，同樣的看法日漸增強(qiáng)。

 

“強(qiáng)人工智能”實(shí)現(xiàn)以后，這種造物就不能被當(dāng)作純粹的工具，因?yàn)樗鼈兙哂腥烁窠Y(jié)構(gòu)，人類(lèi)成員所擁有的權(quán)利地位、道德地位、社會(huì)尊嚴(yán)等等，他們應(yīng)該平等擁有。與我們平起平坐的具有獨(dú)立人格的“機(jī)器人”，還是機(jī)器人嗎？

 

不是了！這才是真正的突破。

 

讀+：“強(qiáng)人工智能”會(huì)不會(huì)與人類(lèi)對(duì)抗，最終毀滅人類(lèi)？

 

翟振明：要理解這種擔(dān)憂的實(shí)質(zhì)，我們需要好好反思：我們對(duì)人工智能的敵對(duì)情懷究竟從何而來(lái)？我們?cè)O(shè)計(jì)制造了這種新型主體，不就等于以新的途徑創(chuàng)生了我們自身的后代嗎？長(zhǎng)江后浪推前浪、青出于藍(lán)而勝于藍(lán)，人類(lèi)過(guò)往的歷史不都是這樣的、或至少是我們所希望是的嗎？一旦做到了，為何又恐懼了呢？

 

就算真的有“征服”發(fā)生，那也是新人類(lèi)征服了舊人類(lèi)，而不是人類(lèi)的末日。對(duì)新技術(shù)可能引發(fā)的后果，我們切忌葉公好龍。

 

讀+：你說(shuō)的更值得擔(dān)心和警醒、更加緊迫的事情，是指什么？

 

翟振明：今年被很多人稱(chēng)為“虛擬現(xiàn)實(shí)元年”。不出幾年，我們都會(huì)見(jiàn)證虛擬現(xiàn)實(shí)的驚人威力和魅力，你們大伙準(zhǔn)備好了沒(méi)有?。?/p>

 

三問(wèn)“虛擬現(xiàn)實(shí)”

 

什么是“虛擬現(xiàn)實(shí)”

 

記者劉功虎

 

翟振明：你看過(guò)電影《王牌特工》吧，英國(guó)頂尖的特工分布于世界各地，他們要湊到一起開(kāi)會(huì)怎么辦？不用每個(gè)人都飛去倫敦，一人戴副眼鏡，就可以湊到一間“會(huì)議室”里開(kāi)會(huì)，如同身臨其境。

 

微信的領(lǐng)頭人張小龍不經(jīng)意說(shuō)過(guò)，“希望五年后大家開(kāi)會(huì)不用出門(mén)，戴上一副眼鏡，全都和在現(xiàn)場(chǎng)一模一樣”。到時(shí)候，我們的微信群就不是一個(gè)頭像、一個(gè)昵稱(chēng)湊一起了，而是共同進(jìn)入一個(gè)與現(xiàn)實(shí)世界無(wú)可分別的虛擬會(huì)所，面對(duì)面互動(dòng)交流。

 

我弄的人機(jī)互聯(lián)實(shí)驗(yàn)室在6樓，你戴上我改裝過(guò)的頭盔，再加上其他輔助器件，開(kāi)著一輛電瓶車(chē)，就可以無(wú)縫穿越到北京?；氐綇V州，回到我所在的大樓，你自己先覺(jué)得在1樓，可以和現(xiàn)實(shí)中的保安打招呼。轉(zhuǎn)悠一會(huì)，回到6樓，摘下頭盔一看，還是實(shí)驗(yàn)室。

 

物聯(lián)網(wǎng)建成后，會(huì)有很多彼此分離的人機(jī)互動(dòng)界面被連成一體，虛擬現(xiàn)實(shí)將成為擴(kuò)展的現(xiàn)實(shí)。

 

要不了多少年，全世界共同進(jìn)入網(wǎng)絡(luò)化的虛擬世界。我之所以認(rèn)為它比別的高科技更重要，更值得重視，因?yàn)樗鼘⑼耆嵏踩祟?lèi)的生活形態(tài)和實(shí)質(zhì)?？梢哉f(shuō)：人工智能是讓人類(lèi)生活的勞作性?xún)?nèi)容越來(lái)越少，而虛擬現(xiàn)實(shí)、擴(kuò)展現(xiàn)實(shí)是讓人類(lèi)生存生活的創(chuàng)造性意義大規(guī)模擴(kuò)充。

 

翟振明：如果“機(jī)器人”有真愛(ài)的能力，就不再是“機(jī)器”，而是“人”。既然是人與人之間的情感，就不存在顛覆性，按人類(lèi)既有的倫理道德對(duì)待就行了。

 

我所提到的“虛擬現(xiàn)實(shí)”，是人與人之間的空間距離關(guān)系被完全打亂重整，人際交往的物理障礙幾乎全都不復(fù)存在，而人的非工具性的創(chuàng)造力的發(fā)揮有了極大的空間。人工智能貌似是我們把機(jī)器變成“都教授”，而虛擬現(xiàn)實(shí)是把我們自己變成神仙。

 

“虛擬現(xiàn)實(shí)”將引發(fā)人類(lèi)的倫理觀念的巨大變革。黑客帝國(guó)不是虛構(gòu)，就要降臨到我們的日常生活中，這些似乎馬上就要發(fā)生了。虛擬世界將是我們現(xiàn)實(shí)生活的翻倍，并與真實(shí)生活糾纏不清。它將完全改變每個(gè)人的生活方式、生活觀念，改變?nèi)俗陨?。這是全新的、徹底的技術(shù)革命。如果說(shuō)人類(lèi)曾經(jīng)是被造物主創(chuàng)造出來(lái)的，那么虛擬現(xiàn)實(shí)則是由人一手創(chuàng)造的。人將充當(dāng)虛擬世界的造物主，制定其全部的游戲規(guī)則和倫理體系。

 

虛擬現(xiàn)實(shí)是純?nèi)斯?gòu)建、創(chuàng)立的世界，我們當(dāng)然要事先預(yù)想、防范可能出現(xiàn)的侵犯人的尊嚴(yán)和權(quán)利的問(wèn)題。比如說(shuō)國(guó)界問(wèn)題，把主從機(jī)器人、物聯(lián)網(wǎng)整在一起后，假設(shè)你的自然身體在中國(guó)，但在美國(guó)訂了一個(gè)替身，并連接上了。就像電影《阿凡達(dá)》看到的那樣，你在這里一動(dòng)，它在美國(guó)同時(shí)做一樣的動(dòng)作。到時(shí)候，你這個(gè)人算是出國(guó)了沒(méi)有？你到底是在中國(guó)，還是在美國(guó)？你如果指揮你的替身在美國(guó)殺了人，那么算誰(shuí)殺的？法律上怎么定義你在哪里，又怎么定義“你”？該由哪個(gè)政府部門(mén)管轄？所以構(gòu)建虛擬現(xiàn)實(shí)的倫理秩序非常重要。

 

另外，總有一些權(quán)力欲、控制欲爆棚的人，他們很可能把人及其虛擬替身變成物聯(lián)網(wǎng)的附屬，服務(wù)他們的權(quán)力意志。擴(kuò)展的虛擬現(xiàn)實(shí)如果向這個(gè)方向發(fā)展，將是人類(lèi)的災(zāi)難。所以我們要未雨綢繆。

 

翟振明：可以發(fā)揮作用，也可以不依賴(lài)它。作為人類(lèi)的便捷工具，人類(lèi)當(dāng)然不排斥用它在擴(kuò)展現(xiàn)實(shí)中做一些復(fù)雜而枯燥重復(fù)的工作，并且結(jié)合大數(shù)據(jù)，可以在人不上線的時(shí)候冒充在線與其他人繼續(xù)交流。

 

也就是說(shuō)，在虛擬世界里也可以有數(shù)碼版的機(jī)器人，我將其稱(chēng)為“人偶”。但這種“弱人工智能”不是虛擬現(xiàn)實(shí)的主要元素。如果虛擬現(xiàn)實(shí)進(jìn)一步與物聯(lián)網(wǎng)整合成“擴(kuò)展現(xiàn)實(shí)”，主從機(jī)器人被大量部署，人們?cè)谔摂M世界中就可以完成幾乎所有工具性的體力和腦力勞動(dòng)。但是，主從機(jī)器人，基本上屬于無(wú)智能的機(jī)器人。

 

等到量子計(jì)算機(jī)進(jìn)入實(shí)用階段，也許“強(qiáng)人工智能”時(shí)代就到了，那又是另一番景象啦，我們的想象力現(xiàn)時(shí)也許都達(dá)不到呢。到時(shí)，我們的后裔還會(huì)下圍棋嗎？“阿爾法圍棋”將真的會(huì)像搖尾巴的寵物狗一樣吧。

 

“虛擬現(xiàn)實(shí)”會(huì)引發(fā)倫理問(wèn)題嗎

 

玩穿越的哲學(xué)家

 

記者劉功虎

 

【人物】

 

翟振明在國(guó)內(nèi)學(xué)理工科，在美國(guó)改學(xué)哲學(xué)，主攻英美倫理學(xué)、現(xiàn)象學(xué)、認(rèn)知哲學(xué)和政治哲學(xué)，持續(xù)關(guān)注“虛擬現(xiàn)實(shí)”技術(shù)領(lǐng)域的進(jìn)展。獲哲學(xué)博士學(xué)位后在美國(guó)多所大學(xué)任教，還兼職寫(xiě)過(guò)軟件代碼。

 

1998年他出版探討虛擬現(xiàn)實(shí)技術(shù)和哲學(xué)的英文專(zhuān)著，在多個(gè)領(lǐng)域產(chǎn)生影響。書(shū)中思想實(shí)驗(yàn)派生出來(lái)的技術(shù)已獲專(zhuān)利一項(xiàng)，另有16項(xiàng)正在申報(bào)中。翟振明自2000年任中山大學(xué)哲學(xué)系教授。他治學(xué)的特點(diǎn)是追求原創(chuàng)和系統(tǒng)性，以問(wèn)題導(dǎo)向?yàn)橹行?，且不拘泥于哲學(xué)學(xué)科的內(nèi)部分野。

 

近年，他利用學(xué)校專(zhuān)款，獨(dú)立創(chuàng)建一間“人機(jī)互聯(lián)實(shí)驗(yàn)室”，把人和機(jī)器連接起來(lái)，利用特制的硬件和軟件，隨時(shí)可以體驗(yàn)“穿越”的感覺(jué)。他的實(shí)驗(yàn)室通過(guò)了沙盤(pán)測(cè)試，目前正在升級(jí)改造中。

 

翟振明熱心科普，從事藝術(shù)創(chuàng)作，與網(wǎng)友互動(dòng)頻繁。他在理論方面的貢獻(xiàn)，加上對(duì)虛擬現(xiàn)實(shí)技術(shù)的熱心實(shí)踐，讓他得到了騰訊、天涯等公司的支持。

 

人工智能在“虛擬現(xiàn)實(shí)”可發(fā)揮作用嗎

 

翟振明 本人供圖