郝景芳

新浪科技訊 11月5日下午消息，今日“2017騰訊WE大會”在京舉辦，中國科幻作家、第74屆雨果獎獲得者郝景芳出席并發(fā)表演講。

郝景芳介紹說，人工智能只能處理特定邊界的問題，目前，人工智能頭上還有三朵小烏云，分別是綜合認(rèn)知的能力、理解他人的能力和自我決定的能力。“人工智能無法回答跨界問題、常識問題;無法回答需要因人而異、體察人情的問題;它不會做這樣的決定，因為它并沒有對于自我的了解、自我的認(rèn)知。這種能夠從自己出發(fā)做決定的能力，也能夠看得出來人工智能和人的區(qū)別。”

郝景芳解釋說，綜合認(rèn)知的難度在于，現(xiàn)在的深度學(xué)習(xí)網(wǎng)絡(luò)，一個網(wǎng)絡(luò)只能夠?qū)W習(xí)一件事情，這在科學(xué)界被稱為遺忘的災(zāi)難，一個這樣的人工智能只能干一件事情，不可能像我們?nèi)艘粯佑型ㄗR的能力，這是人類和人工智能很大的不同，人是觸類旁通的。

對于理解他人的能力，郝景芳分析說，現(xiàn)在是有一些人工智能和人的語言對話，但自然語言處理仍然還是一個難題，只有在特定領(lǐng)域的專業(yè)問答，可以有比較好的答案匹配，就是因為人工智能實(shí)際上還仍然不能理解大量的情景，就是因為它的頭腦里面沒有對人類世界、物理世界、人情世界的通識知識體系，所以他理解很多的自然情景都會很困難。此外人工智能由于沒有內(nèi)心豐富的情感世界，并不能夠推己及人。

第三點(diǎn)自我決定的能力，它得需要兩個方面的突破，一是自我表征的能力，人工智能需要能夠自己說出來，我做這個事情是為什么;此外，人工智能沒有自我意識。

對于這些能力是否能夠突破和解決，郝景芳認(rèn)為，有可能，但是不是現(xiàn)在，不僅僅靠算力提高，需要有更好的、更強(qiáng)的綜合性算法以及更多技術(shù)突破。

“人工智能下一步發(fā)展，不管它往哪個方向發(fā)展，它要處理的接下來就是綜合的、多功能的、多能力的、多目標(biāo)的任務(wù)的相互協(xié)調(diào)，多種價值觀、多種任務(wù)的相互協(xié)調(diào)，這是我們需要更多地去理解人類的大腦、理解我們?nèi)祟惖男闹窍到y(tǒng)。”

提到人工智能最大的威脅，郝景芳表示并不是取代工作，它們會取代一部分工作，但是他們會制造出更多更多的就業(yè)崗位。“人工智能對我們最大的威脅就在于，當(dāng)我們過于依賴很多的數(shù)據(jù)系統(tǒng)以后，我們自己如果變得懶于思考、懶于自我反思，而讓我們自己的智慧退化的話，這是對人類最大的威脅。”(譚宵寒)

以下為郝景芳演講全文：

我要講什么故事?是講的有關(guān)人工智能的故事，人工智能這兩年真是太火了，從去年開始就有很多人一直在談?wù)?，人工智能現(xiàn)在已經(jīng)戰(zhàn)勝了圍棋世界第一的高手，人工智能什么時候全面地戰(zhàn)勝人類?他們會不會超越人類?會不會全面的取代人類，甚至?xí)挥幸惶鞖缛祟惸?

我們前些日子都看過一個電影叫《機(jī)械姬》，里面有一個很有錢的老板請了一個科學(xué)家去幫他測試他的人工智能能不能通過圖靈測試。

我今天要講的故事是前一段時間又有一個老板請我過去，說你作為一個科幻作家?guī)臀覝y一測我剛剛花了大價錢買的人工智能機(jī)器，你幫我測一測它能不能通過圖靈測試。我說好，你這個機(jī)器是什么算法，什么原理?他說就是現(xiàn)在最流行深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)、大數(shù)據(jù)學(xué)習(xí)。我說好，我用三個小測試就能幫你測出來，我猜它是通不過圖靈測試的。這三個小測試很簡單，他說什么三個小測試?我說就是我們?nèi)硕紩?，但是機(jī)器現(xiàn)在都不會的測試。

第一個測試題，如果哥倫布沒有發(fā)現(xiàn)新大陸對中國哪個菜系影響最大?這對我們?nèi)祟悓?shí)在是太簡單了，我們都知道哥倫布從美國帶回來了南瓜、玉米、紅薯、花生、辣椒，還有很多別的食物。那么哪個食物影響最大?對于我們吃貨界來講，也不難回答，當(dāng)然是辣椒。如果沒有辣椒，當(dāng)然沒有川菜，所以肯定是對川菜影響最大。

而這個涉及到我們的日常生活的常識，盡管所有的其他食物也很重要，但是只有像現(xiàn)在這樣一個靈魂式的味覺食物，它能夠調(diào)味，才對菜系影響最大。

所以對于人工智能來講這是一個跨界問題，它涉及到歷史，也涉及到日常生活的常識，也涉及到飲食對這種跨界問題、常識問題，人工智能是答不出來的。我跟老板說你就測試它這第一問題。

第二個測試題，她說沒想到今天這么冷，她希望你如何回復(fù)它?人工智能如果回復(fù)給她一個天氣預(yù)報，肯定不是他心里希望的，如果一個女孩子說了這樣的話，她希望你怎么回復(fù)她?抱抱?這也不是唯一的答案，答案要看你和她的關(guān)系，要看這個女孩子她是一個什么樣的個性，也要看當(dāng)時在一個什么樣的場合下。如果真的是一個跟你關(guān)系很不錯，有一點(diǎn)曖昧的可愛的姑娘、萌妹子，也許說這個話，是想讓你把衣服給她，然后順便抱抱。

但是如果這個時候不是這樣的場合，是一個女老板，剛正不阿的女上司，她說沒想到今天這么冷，那你再說我抱抱您吧，她肯定一個耳刮子就扇上來了。這個時候她可能是跟你說，你的工作是失職的，為什么沒有給我把房間弄得更暖和一點(diǎn)，你這個時候趕緊得說對不起老板，我下次給您提前安排。

所以這是什么問題，就是對方當(dāng)他說一句話的時候，他心里的意思，他的含義，他希望我們的回應(yīng)，這是完全因人而異的，這是需要我們能夠察言觀色，能夠體察對方、理解他人的心思才能夠給出正確答案。我說這種問題人工智能它是不會做的，您放心我?guī)湍鷾y這個它肯定不行。

第三個測試題，明年可以學(xué)英語，也可以學(xué)編程，你會選擇學(xué)什么?為什么?這種問題對于我們?nèi)藖碇v也很容易的，我們每天都在看大量形形色色的廣告，每天都被各種各樣的信息充斥，我們在其中能夠根據(jù)我們自身選出我們自己想要的，這也是沒有正確答案的問題，因為實(shí)際上該學(xué)什么，要從你自身找答案，你要知道你是一個什么性格的人，你的夢想是什么，你未來的目標(biāo)是什么，你想要達(dá)到目標(biāo)要怎么做，根據(jù)你自己的自身情況來決定學(xué)什么。

人工智能它們不理解自己，它們沒有這種元認(rèn)知能力，他們并不能夠為自己做決定，當(dāng)你跟AlphaGo說下圍棋，它不會說我不要下圍棋，我今天想去看場電影，它不會做這樣的決定，因為它并沒有對于自我的了解、自我的認(rèn)知。

所以我說這種能夠從自己出發(fā)做決定的能力，也能夠看得出來人工智能和人的區(qū)別。

然后老板就問我說，可是你說的這幾個東西在我聽起來實(shí)在是太簡單了，AlphaGo都這么厲害了，AlphaGo Zero在已經(jīng)戰(zhàn)勝了原本的AlphaGo，它不能很快就學(xué)會嗎?我說那我們要來看看AlphaGo它會什么、不會什么。AlphaGo厲害的地方在于深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)，它有很強(qiáng)的算力、它有大數(shù)據(jù)。深度學(xué)習(xí)是一種神經(jīng)網(wǎng)絡(luò)，是一種基于大數(shù)據(jù)的統(tǒng)計的算法，模仿了我們大腦皮層的神經(jīng)網(wǎng)絡(luò)，能夠從很多的數(shù)據(jù)里面找到規(guī)律，自己學(xué)到最好的算法。它和過去上一代的人工智能最大的不一樣就是上一代的人工智能經(jīng)常是專家系統(tǒng)，就是專家告訴你怎么下棋你就怎樣下棋，但是這一代的人工智能用了這樣深度學(xué)習(xí)的辦法，可以自己學(xué)會下棋的套路。但是它是非常有局限性的，因為這樣的深度學(xué)習(xí)算法它只能夠處理數(shù)據(jù)透明規(guī)則明確的一個特定領(lǐng)域的問題。

也就是說，在一個特定的邊界里面，處理這個邊界里面的數(shù)據(jù)，然后找到最好的結(jié)果。它并不知道它自己在下圍棋，它也不知道它是AlphaGo，它不知道它戰(zhàn)勝了世界上所有的高手，它下了圍棋也不會高興，它只是在處理一些數(shù)據(jù)，但是它并沒有我們剛才說過的一些高層次認(rèn)知能力，自我認(rèn)知能力，自我意識能力。

然后老板說，我知道現(xiàn)在算力是進(jìn)展很快的，過幾天我們計算能力又上了一個新臺階，你說的這些高級能力是不是就能夠?qū)W會了呢?我說，其實(shí)我相信未來總有一天人工智能會克服這些難關(guān)，學(xué)到我剛才說的這些能力。但是，這是一個階梯狀，并不是拿現(xiàn)在的算法增強(qiáng)算力，就一定能夠解決所有的問題，而是要跨過一個又一個檻，上一個又一個臺階。這就像是當(dāng)時發(fā)明了蒸汽機(jī)、電，人們就覺得自己能夠解決世界上所有的問題了，物理大廈就剩下了三朵小烏云，后來就是這三朵小烏云提出了相對論、量子力學(xué)，把人類帶入了新的世界。

我說，未來可能會實(shí)現(xiàn)，但是它需要有很大的鴻溝、很大的跨越，才能夠?qū)崿F(xiàn)。

現(xiàn)在人工智能頭上三朵小烏云的就是綜合認(rèn)知能力、理解他人的能力、自我決定的能力。

綜合認(rèn)知的能力困難在哪?現(xiàn)在的深度學(xué)習(xí)的網(wǎng)絡(luò)，一個網(wǎng)絡(luò)只能夠?qū)W習(xí)一件事情，當(dāng)它學(xué)習(xí)了下圍棋，它把圍棋領(lǐng)域的數(shù)據(jù)都學(xué)會了之后，它整個網(wǎng)絡(luò)記住了這一件事情，一旦這個網(wǎng)絡(luò)再去學(xué)另外一件事情，這個網(wǎng)絡(luò)就把前一件事情忘記了，因為它是用整個網(wǎng)絡(luò)所有的參數(shù)來學(xué)習(xí)了這一件事情，一旦學(xué)習(xí)另外一件事情，它就已經(jīng)不會記得前一件事情所有的參數(shù)。

這個在科學(xué)界被稱為遺忘的災(zāi)難，一個網(wǎng)絡(luò)，一個這樣的人工智能只能干一件事情，只能在一個特定領(lǐng)域里面做一件狹窄的事情，不可能像我們?nèi)艘粯佑型ㄗR的能力，我們?nèi)撕腿斯ぶ悄芎艽蟮牟煌?，就是我們?nèi)耸怯|類旁通的，當(dāng)我們學(xué)習(xí)了政治、經(jīng)濟(jì)、歷史、社會文化、家庭日常生活的做飯、交通出行，我們不會認(rèn)為這些都是不同領(lǐng)域的事情，我們是把它融會貫通，融在一起的。

人類在我們的頭腦當(dāng)中有一個世界模型，很多時候我們并沒有意識到這個世界模型的存在，它就是我們對物理世界，對于人情世故這個世界常識的來源，但是這個世界模型非常重要。

當(dāng)我們有了這樣的世界模型，我們在看眼前的一幅畫面，明明是一個二維畫面，我們會用自己頭腦當(dāng)中的知識，把這個畫面在我們眼前構(gòu)建成一個三維的，栩栩如生的畫面。

我們現(xiàn)在看到面前的禮堂、舞臺、座位，我們會覺得這是一個有縱深的，三維的舞臺?？墒侨斯ぶ悄軟]有這樣一個世界模型在自己的頭腦當(dāng)中，它分辨圖象要用很多很多真的圖象，非常非常多的計算來做。

現(xiàn)在有一些實(shí)驗室做這樣的視覺，已經(jīng)開始試圖用這樣一個模型來構(gòu)造這樣的視覺。而我們的頭腦當(dāng)中都有這樣的模型，我們有關(guān)于世界的理解、關(guān)于他人的理解，關(guān)于整個社會的理解，我們的常識系統(tǒng)，這種通識知識體系，是我們理解事情的基礎(chǔ)，也是我們超越人工智能的地方。

第二理解他人的能力，理解他人的能力，現(xiàn)在是有一些人工智能和人的語言對話，自然語言處理仍然還是一個難題，只有在特定領(lǐng)域的專業(yè)問答，可以有比較好的答案匹配，為什么自然語言處理會難呢?就是因為人工智能實(shí)際上還仍然不能理解大量的情景，就是因為它的頭腦里面沒有對人類世界、物理世界、人情世界的通識知識體系，所以他理解很多的自然情景都會很困難。

現(xiàn)在的語言很多時候是用的這樣一個優(yōu)化算法的搜索，你出了一個問題，它去搜索一個答案匹配給你，但是很多時候并不能夠真正理解對方的意思。

此外人工智能由于沒有內(nèi)心豐富的情感世界，并不能夠推己及人。我們?nèi)祟愂窃鯓酉嗷チ私獗舜说哪?有幾個方法，第一個我們用目光接觸。研究共情的學(xué)者會發(fā)現(xiàn)，最先進(jìn)的靈長類的大猩猩可以通過這樣的目光交流，人類絕對可以通過目光來理解對方，小孩子大概從9個月的時候就開始有這種能力。我們頭腦當(dāng)中有鏡像神經(jīng)元，鏡像神經(jīng)元可以直接反映出對方的一些意圖和對方的感受，我們能夠直接感受到對方。

另外，我們有推己及人的能力，在這個時候，當(dāng)我們生病的時候，希望對方噓寒問暖，我們就能夠推導(dǎo)出對方生病的時候，一定希望我們噓寒問暖，而人工智能由于沒有這樣的自己內(nèi)部的情感，它自然也很難推己及人。

人工智能在理解他人的能力方面，目前還是有很多的困難。我也知道有很多實(shí)驗室，現(xiàn)在已經(jīng)開始試圖把整個的認(rèn)知框架、認(rèn)知模型帶到自然語言處理上面，但是可能是很久很久以后的事情。

第三個自我決定的能力，它得需要兩個方面的突破，一個是自我表征的能力，人工智能需要能夠自己說出來，我自己做這個事情是為什么。現(xiàn)在我們的智能網(wǎng)絡(luò)，當(dāng)它學(xué)會了一件事情，你給到它很多數(shù)據(jù)，它直接給你說出一個結(jié)果，我們?nèi)瞬⒉恢浪鼮槭裁催@么做，它自己也說不出來為什么這么做。這種真正提取出對于自己來說有意義的因果表達(dá)能力，它使得我們做很多事情可以舉一反三，可以泛化，我們可以從一件事情學(xué)到的東西，可以帶著這樣的因果關(guān)系用到另外的事情。但是，人工智能在很多時候缺少這樣的語言認(rèn)知能力。

此外，人工智能并沒有一個說，原來這就是一個我，這樣的一種自我意識，可能未來要到很久之后才會產(chǎn)生，不知道要到什么時候，其實(shí)人工智能目前并不是一個獨(dú)立體系，不像我們?nèi)伺c人，我們每個人所有的思想、靈魂都封閉在我們同一個身體里面，我們并不能隨時聯(lián)通到互聯(lián)網(wǎng)，但是人工智能不一樣，很多時候是要與其他的網(wǎng)絡(luò)去連接、聯(lián)通。

所以，這樣的孤立自我意識，很可能跟我們?nèi)送耆灰粯印?/p>

現(xiàn)在這幾朵小小的烏云是人工智能目前不能做到和我們?nèi)祟愐粯拥牡胤?，未來有沒什么可能突破呢?有可能，但是不是現(xiàn)在，不僅僅靠算力提高，需要有更好的、更強(qiáng)的綜合性算法，以及更多技術(shù)突破。

這個老板就問我說，你覺得人工智能未來怎么達(dá)到一個更高水平的智慧呢?我說其實(shí)最好的方法就是更多地了解我們?nèi)俗陨?，去理解我們?nèi)祟愖陨淼男闹窍到y(tǒng)是怎么樣的。人工智能能夠在一個領(lǐng)域里面做到極致，但是我們?nèi)耸且粋€自我綜合協(xié)調(diào)的系統(tǒng)，我們?nèi)瞬⒉皇且粋€單一心智的，我曾經(jīng)最喜歡的人工智能學(xué)家馬文·明斯，1985寫過一本書叫《心智社會》，其實(shí)是把人比作一個社會，人的心智里面每一部分，其實(shí)都像一個小人一樣，小人在一起組成了一個完整的、復(fù)雜的社會，人并不是有單一心智的。

馬文·明斯在《情感機(jī)器》中說，我認(rèn)為人類的尊嚴(yán)來自于人類自身的構(gòu)造，處理多種情況和困難的不計其數(shù)的方法，多樣性正是人和動物，與過去所知道的機(jī)器的主要區(qū)別。這是什么意思呢?現(xiàn)在很多時候，當(dāng)我們制造機(jī)器的時候，我們總想尋找一種通用智能，就是用這一個智能解決所有的問題，但是人其實(shí)不是這樣的，人是一種綜合智能，在人的頭腦里面有不一樣的智能處理問題。當(dāng)我們在街上看到一個車過來的時候，杏仁核發(fā)出警報，告訴我們危險要躲開，當(dāng)我們看到一個老人摔倒在街上，一種同情憐憫讓我們想把他扶起來，但是另一個批判的聲音說，他有可能是騙子要躲開，但是另一個正義的聲音說，即使他是騙子，這樣可憐的老人我是不是應(yīng)該幫助他。但是還會有一個綜合的，從一個全景的視野的角度會去分析這個時候的形勢、分析這個時候個人的情況、分析這個時候社會的狀況，可能會報警，也可能會介入處理當(dāng)時的狀況。

所以在任何一個情形下，我們其實(shí)并不是用統(tǒng)一一個單一的智能來進(jìn)行處理，我們的頭腦中其實(shí)有很多很多個聲音，我們是要處理這樣的新式社會。

人工智能目前只是一個絕頂?shù)奈淞指呤?，但對于我們?nèi)魏我粋€人來說，我們的頭腦里都是一個武林門派，我們學(xué)的更多是一種綜合處理，統(tǒng)一協(xié)調(diào)的系統(tǒng)性方法。

所以我是覺得在未來，其實(shí)人工智能它的下一步發(fā)展，不管它往哪個方向發(fā)展，它要處理的接下來就是綜合的、多功能的、多能力的、多目標(biāo)的任務(wù)的相互協(xié)調(diào)，多種價值觀、多種任務(wù)的相互協(xié)調(diào)，這是我們需要更多地去理解人類的大腦、理解我們?nèi)祟惖男闹窍到y(tǒng)。

結(jié)果，我跟老板說了這些以后，老板就說好吧，那我干脆就不要測了，既然人工智能肯定答不出這些問題，我就干脆把這個機(jī)器退貨吧。我說不行，耳聽為虛，眼見為實(shí)，我說了這么多都很理論，我們現(xiàn)在要來真實(shí)的測一測，看看人工智能是不是答出這些問題。

結(jié)果測了一下，大家都知道圖靈測試怎么測，人工智能和人他們在一個幕布以后問他們同樣的問題。第一個問題問了人工智能，人工智能說不知道，可是人也說我不知道。第二個問題問了人工智能，人工智能說不知道，人也說我怎么知道他心里怎么想的。第三個問題問了人工智能，人工智能說不知道，而人也說，其實(shí)我也不知道我接下來想干什么。

當(dāng)我們這么反復(fù)地測來測去以后發(fā)現(xiàn)，原來我們認(rèn)為人工智能不能回答的問題，其實(shí)這些人也不能回答。這個時候，不是人工智能無法通過圖靈測試，而是人無法通過圖靈測試，我們?nèi)绻@些問題我們也不知道如何回答，那么其實(shí)我們是看不出我們和人工智能的區(qū)別，這其實(shí)不是人工智能的問題，而是我們的問題，如果我們沒有了這些綜合認(rèn)知能力，如果我們也不能理解他人，如果我們也沒有了自我表征和自我決斷能力，那么其實(shí)我們就無法和人工智能做出區(qū)別。

所以，我自己會覺得人工智能最大的威脅是什么?是誤傷人類嗎?不是，汽車也會誤傷人類。是故意毀滅人類?也不是，因為實(shí)際上人工智能離故意毀滅我們還有很遠(yuǎn)。是取代工作嗎?仍然不是，它們會取代一部分工作，但是他們會制造出更多更多的就業(yè)崗位。

人工智能對我們最大的威脅就在于，當(dāng)我們過于依賴很多的數(shù)據(jù)系統(tǒng)以后，我們自己如果變得懶于思考、懶于自我反思，而讓我們自己的智慧退化的話，這是對人類最大的威脅。

我們所有的人天生與生俱來，帶著我們億萬年生物進(jìn)化所具有的大腦先天的功能，大腦有很多神奇之處，我們自己都沒有完全的發(fā)掘，而我們?nèi)怂哂械倪@種心智系統(tǒng)，實(shí)際上是有很強(qiáng)的綜合能力，是一個智慧系統(tǒng)，我們只有更多的認(rèn)識到這點(diǎn)，認(rèn)識到我們和人工智能的不同，理解它有哪些地方是超強(qiáng)的，是強(qiáng)于我們的，但是理解到我們有哪些地方和它們不一樣，能夠把我們自己真正不一樣的地方發(fā)揮出來，我們才不會讓我們自己的智能退化，才不會讓我們的文明退化。

所以未來在我看來人工智能和人會走兩條非常不一樣的路，人工智能會做到許許多多我們?nèi)祟愖霾坏降氖聝?，會是我們的輔助、是我們的工具，而我們?nèi)巳绻覀冏屛覀兊闹悄茉谝恢辈粩嗟叵蚯斑M(jìn)，我們的人可以一直和人工智能攜手同行，就不存在威脅不威脅的事情，我們一起能攜手同行。

所以我覺得人工智能最大的意義就是它讓我們更多地理解我們自身，對人工智能思考越多，我們會發(fā)現(xiàn)我們自己的心智系統(tǒng)是越神奇的。所以我們越了解人工智能，我希望我們也能越了解我們自己，人工智能在彼岸，我們在此岸。通過對彼岸的遙望，我希望我們能更多地理解我們此岸的人類，希望我們能夠有更全景、更宏觀的視角看待我們的地球、看待我們的世界，我們都能有一個綜合全面的世界的模型，希望我們每個人都能更多的去理解他人的心思、理解我們自己的心思，能夠為自己做出決斷。所有這些都是人類智慧的最精髓的部分。

今天我講的故事純屬杜撰，但是我對于人工智能的思考，我凝結(jié)成六個故事和兩篇文章，在我下周要出版的新書里面，新書的名字就叫做《人之彼岸》，都是關(guān)于人工智能。我希望我們能夠通過對人工智能的思考更多地了解我們此岸的人類。

這就是我今天所要講的，謝謝大家!