原標(biāo)題：阿爾法狗之父揭秘最強(qiáng)“狗”如何煉成：3天走完人類千年棋史

倫敦當(dāng)?shù)貢r(shí)間10月18日18：00（北京時(shí)間19日01：00），谷歌旗下的DeepMind團(tuán)隊(duì)公布了進(jìn)化后的最強(qiáng)版AlphaGo ，代號AlphaGo Zero。

新版本的AlphaGo究竟有多厲害？打敗李世石的AlphaGo用了3000萬盤比賽作為訓(xùn)練數(shù)據(jù)，AlphaGo Zero用了490萬盤比賽數(shù)據(jù)。經(jīng)過3天的訓(xùn)練，AlphaGo Zero就以100：0的比分完勝對陣?yán)钍朗�的那版AlphaGo。

DeepMind聯(lián)合創(chuàng)始人兼CEO 、AlphaGo之父戴密斯·哈薩比斯（Demis Hassabis）和AlphaGo團(tuán)隊(duì)負(fù)責(zé)人大衛(wèi)·席爾瓦（Dave Sliver） 等人同時(shí)在官方博客上發(fā)表文章，詳解最強(qiáng)版本阿爾法狗是如何煉成的，與前代有何不同。

哈薩比斯

與學(xué)習(xí)大量人類棋譜起步的前代AlphaGo不同，AlphaGo Zero是從“嬰兒般的白紙”開始，通過3天數(shù)百萬盤自我對弈，走完了人類千年的圍棋歷史，并探索出了不少橫空出世的招法。

哈薩比斯等人專文：《AlphaGo Zero：從零開始》

席爾瓦在烏鎮(zhèn)人機(jī)峰會上發(fā)言

從語音識別、圖像分類到基因和藥物研究，人工智能發(fā)展迅速。這些專家系統(tǒng)，很多是借用海量人類經(jīng)驗(yàn)和數(shù)據(jù)開發(fā)出來的。

然而，在有些特定問題上，人類的知識要么過于昂貴，要么不靠譜，要么無法獲得。因此，人工智能研究的一個(gè)長期目標(biāo)就是跳過這一步，創(chuàng)造能在最有挑戰(zhàn)性的領(lǐng)域，不用人類輸入就達(dá)到超人水平的算法。我們發(fā)表在《自然》期刊上的最新論文，展示了實(shí)現(xiàn)該目標(biāo)的關(guān)鍵一步。

論文介紹了首個(gè)戰(zhàn)勝人類圍棋冠軍的電腦程序AlphaGo的最新進(jìn)化版本：AlphaGo Zero。AlphaGo Zero更為強(qiáng)大，可以一爭史上最強(qiáng)圍棋手。

AlphaGo的前幾代版本，一開始用上千盤人類業(yè)余和專業(yè)棋手的棋譜進(jìn)行訓(xùn)練，學(xué)習(xí)如何下圍棋。AlphaGo Zero則跳過了這個(gè)步驟，自我對弈學(xué)習(xí)下棋，完全從亂下開始。用這種方法，它很快超過了人類水平，對陣此前戰(zhàn)勝人類冠軍李世石的前代AlphaGo取得了100連勝。

AlphaGo Zero之所以能當(dāng)自己的老師，是用了一種叫強(qiáng)化學(xué)習(xí)的新模式。系統(tǒng)從一個(gè)對圍棋一無所知的神經(jīng)網(wǎng)絡(luò)開始，將該神經(jīng)網(wǎng)絡(luò)和一個(gè)強(qiáng)力搜索算法結(jié)合，自我對弈。在對弈過程中，神經(jīng)網(wǎng)絡(luò)不斷調(diào)整、升級，預(yù)測每一步落子和最終的勝利者。

升級后的神經(jīng)網(wǎng)絡(luò)與搜索網(wǎng)絡(luò)結(jié)合成一個(gè)更強(qiáng)的新版本AlphaGo Zero，如此往復(fù)循環(huán)。每過一輪，系統(tǒng)的表現(xiàn)就提高了一點(diǎn)點(diǎn)，自我對弈的質(zhì)量也提高了一點(diǎn)點(diǎn)。神經(jīng)網(wǎng)絡(luò)越來越準(zhǔn)確，AlphaGo Zero的版本也越來越強(qiáng)。

這種技術(shù)比此前所有版本的AlphaGo都更為強(qiáng)大。這是因?yàn)�，它不再受到人類知識的限制，而能夠從嬰兒般的白紙狀態(tài)，直接向世界上最強(qiáng)大的棋手——AlphaGo本身學(xué)起。

AlphaGo Zero相較前代還有幾點(diǎn)明顯的差別：

首先，AlphaGo Zero僅用棋盤上的黑白子作為輸入，而前代則包括了小部分人工設(shè)計(jì)的特征輸入。

其次，AlphaGo Zero僅用了單一的神經(jīng)網(wǎng)絡(luò)。在此前的版本中，AlphaGo用到了“策略網(wǎng)絡(luò)”來選擇下一步棋的走法，以及使用“價(jià)值網(wǎng)絡(luò)”來預(yù)測每一步棋后的贏家。而在新的版本中，這兩個(gè)神經(jīng)網(wǎng)絡(luò)合二為一，從而讓它能得到更高效的訓(xùn)練和評估。

第三，AlphaGo Zero并不使用快速、隨機(jī)的走子方法。在此前的版本中，AlphaGo用的是快速走子方法，來預(yù)測哪個(gè)玩家會從當(dāng)前的局面中贏得比賽。相反，新版本依靠的是其高質(zhì)量的神經(jīng)網(wǎng)絡(luò)來評估下棋的局勢。

所有這些差異，都提高了系統(tǒng)的表現(xiàn)，使其更為普適。不過，是算法上的變化使得系統(tǒng)更為強(qiáng)大和高效。

僅僅自我對弈3天后，AlphaGo Zero就以100：0完勝了此前擊敗世界冠軍李世石的AlphaGo版本。自我對弈40天后，AlphaGo Zero變得更為強(qiáng)大，超過了此前擊敗當(dāng)今第一人柯潔的“大師”版AlphaGo。

通過數(shù)百萬次自我對弈，AlphaGo從零開始掌握了圍棋，在短短幾天內(nèi)就積累起了人類幾千年才有的知識。AlphaGo Zero也發(fā)現(xiàn)了新的知識，發(fā)展出打破常規(guī)的策略和新招，與它在對戰(zhàn)李世石和柯潔時(shí)創(chuàng)造的那些交相輝映，卻又更勝一籌。

這些創(chuàng)造性的時(shí)刻給了我們信心：人工智能會成為人類智慧的增強(qiáng)器，幫助我們解決人類正在面臨的一些嚴(yán)峻挑戰(zhàn)。

盡管才剛剛發(fā)展起來，AlphaGo Zero已經(jīng)走出了通向上述目標(biāo)的關(guān)鍵一步。如果類似的技術(shù)可以應(yīng)用在其他結(jié)構(gòu)性問題，比如蛋白質(zhì)折疊、減少能耗和尋找新材料上，就能創(chuàng)造出有益于社會的突破。