如今，對(duì)人工智能 (AI) 感到悲觀或樂(lè)觀的都大有人在。樂(lè)觀者正在向人工智能領(lǐng)域投資數(shù)百萬(wàn)美元甚至數(shù)十億美元，而悲觀者則預(yù)測(cè)人工智能將終結(jié)很多事：工作，社會(huì)福利，甚至人類。 無(wú)論是樂(lè)觀主義者還是悲觀主義者都被所謂技術(shù)奇點(diǎn) (technological ingularity) 的概念吸引。技術(shù)奇點(diǎn)是一個(gè)機(jī)器智能失控的時(shí)間點(diǎn)，在它之后一個(gè)全新的、更加智慧的“物種”將開(kāi)始居住在地球上。如果樂(lè)觀主義者是正確的，那么這將是一個(gè) 從根本上改變?nèi)私?jīng)濟(jì)和社會(huì)的時(shí)刻。如果悲觀主義者是正確的，那么這將同樣是一個(gè)從根本上改變?nèi)祟惤?jīng)濟(jì)和社會(huì)的時(shí)刻。因此，我們有必要花些時(shí)間決定這些看法 是否正確。

　　技術(shù)奇點(diǎn)的歷史

　　許多不同的思想家都構(gòu)思過(guò)關(guān)于技術(shù)奇點(diǎn)的理念。在約翰·馮·諾伊曼 (譯者注: John von Neumann， 20世紀(jì)最重要的數(shù)學(xué)家之一，在現(xiàn)代計(jì)算機(jī)、博弈論等領(lǐng)域均有建樹(shù)) 1957年去世時(shí)，斯塔尼斯拉夫·烏拉姆 (譯者注: Stanislaw Ulam，波蘭數(shù)學(xué)家) 寫(xiě)道：

　　“我與約翰·馮·諾伊曼討論過(guò)在技術(shù)不斷加速發(fā)展、人類生活模式的改變下，我們看上去正在接近物種史上某個(gè)重要的奇點(diǎn)，在它之后已知的生活將無(wú)法延續(xù)。” 在1965年，I.J. 古德 (譯者注: I.J. Good，英裔數(shù)學(xué)家、密碼學(xué)家) 對(duì)這個(gè)現(xiàn)象提出了更具體的預(yù)測(cè)，他用“智能爆炸”(Intelligence Explosion) 取代了“奇點(diǎn)” (Singularity) 的概念：“讓我們把超智能機(jī)器定義成為一臺(tái)能夠遠(yuǎn)遠(yuǎn)超過(guò)任何人類智力活動(dòng)的機(jī)器。 因?yàn)樵O(shè)計(jì)機(jī)器本身也算是智力活動(dòng)，所以超智能機(jī)器可以設(shè)計(jì)出更好的機(jī)器；毫無(wú)疑問(wèn)，這將會(huì)帶來(lái)智力的爆炸式增長(zhǎng)，而人類的智力將遠(yuǎn)遠(yuǎn)落后。以此類推，超智 能機(jī)器將會(huì)是人類最后一個(gè)發(fā)明。” 許多人把 “技術(shù)奇點(diǎn)”歸功于計(jì)算機(jī)科學(xué)家?？苹眯≌f(shuō)家弗諾·文奇 (Vernor Vinge) 更是預(yù)言：“在三十年內(nèi)，我們將創(chuàng)造出實(shí)現(xiàn)超人智慧的技術(shù)。不久后，人類的時(shí)代將結(jié)束。”

　　近來(lái)，技術(shù)奇點(diǎn)的概念又得到了包括雷·庫(kù)茲韋爾 (譯者注: Ray Kurzweil ，發(fā)明家、企業(yè)家、學(xué)者、《奇點(diǎn)臨近》等暢銷書(shū)作者) 在內(nèi)許多人的推廣。根據(jù)目前的趨勢(shì)，庫(kù)茲韋爾預(yù)計(jì)技術(shù)奇點(diǎn)會(huì)發(fā)生在2045年左右。就這篇文章的定義而言，我假設(shè)技術(shù)奇點(diǎn)是一個(gè)“當(dāng)我們創(chuàng)造出擁有足夠智 慧、能通過(guò)重新設(shè)計(jì)自己來(lái)改進(jìn)智力的機(jī)器”的時(shí)間點(diǎn)，并且在這個(gè)點(diǎn)上我們將見(jiàn)證智力以指數(shù)級(jí)增長(zhǎng)，并且迅速超越人類。

　　我將用兩個(gè)數(shù)學(xué)論證來(lái)為以上觀點(diǎn)辯護(hù)。其中一個(gè)論證是：技術(shù)奇點(diǎn)不是數(shù)學(xué)奇點(diǎn)。在函數(shù)1/(1-t)中，數(shù)學(xué)奇點(diǎn)是t=1。該函數(shù)演示了雙曲增長(zhǎng)。當(dāng)t接 近1，t的導(dǎo)數(shù)趨于正無(wú)窮并且無(wú)法被定義。然而，許多技術(shù)奇點(diǎn)的擁躉只支持指數(shù)增長(zhǎng)的說(shuō)法。例如，函數(shù)2^t呈指數(shù)增長(zhǎng)。這樣的指數(shù)函數(shù)在接近正無(wú)窮時(shí)更 慢，并且有一個(gè)可以被定義的有限導(dǎo)數(shù)。其二個(gè)論證是：智力的指數(shù)增長(zhǎng)完全取決于測(cè)量智力的數(shù)值范圍。如果我們以對(duì)數(shù)分度向量（logspace）測(cè)量智 力，指數(shù)增長(zhǎng)僅僅是線性的。在這里，我暫時(shí)不解釋測(cè)量機(jī)器或者人類智力的具體定義或方法。我只假設(shè)有一個(gè)可以被測(cè)量、比較的特質(zhì)叫做智力，并且當(dāng)智力在適 當(dāng)、合理的數(shù)值范圍內(nèi)呈指數(shù)增長(zhǎng)時(shí)，我們將迎來(lái)技術(shù)奇點(diǎn)。目前，技術(shù)奇點(diǎn)的可能性已經(jīng)迫使幾名評(píng)論家發(fā)出關(guān)于人工智能對(duì)人類影響的悲觀預(yù)言。例如，在 2014年12月時(shí)，史蒂芬霍金對(duì)BBC電視臺(tái)說(shuō)：

　　“人工智能的全面發(fā)展可能意味著人類的終結(jié)……機(jī)器將獲得自主權(quán)，并且以前所未有的速度重新設(shè)計(jì)自己。被緩慢生物進(jìn)化限制的人類將無(wú)法競(jìng)爭(zhēng)并且最終被取代。”

　　其他的知名人物，包括比爾·蓋茨，伊隆·馬斯克和史蒂夫·沃茲尼亞克也隨后發(fā)表了類似的警告。尼克·博斯特羅姆 (譯者注: Nick Bostrom ，牛津大學(xué)人類未來(lái)研究院院長(zhǎng)、哲學(xué)教授、著名人工智能學(xué)者) 也做出了對(duì)技術(shù)奇點(diǎn)的預(yù)言，并且認(rèn)為這個(gè)現(xiàn)象將對(duì)人類的生存造成威脅。然而這篇文章與以上的觀點(diǎn)相反，我將探討的觀點(diǎn)是：技術(shù)奇點(diǎn)或許永遠(yuǎn)不會(huì)臨近。

　　反對(duì)技術(shù)奇點(diǎn)的論點(diǎn)

　　對(duì)技術(shù)奇點(diǎn)的爭(zhēng)論多數(shù)發(fā)生在主流人工智能行業(yè)以外。在某種程度上，這個(gè)概念的許多擁躉都不是真正的從業(yè)者。在主流文化中，技術(shù)奇點(diǎn)也和一些例如壽命延長(zhǎng)和 后人類主義等挑戰(zhàn)現(xiàn)狀的想法關(guān)系密切。這種聯(lián)系干涉我們探討真正重要的基礎(chǔ)問(wèn)題：人類真的可以開(kāi)發(fā)出能夠成倍提高自己智力并且遠(yuǎn)遠(yuǎn)超出人類的機(jī)器嗎？雖然 它看上去并不是一個(gè)特別大膽的想法。計(jì)算機(jī)領(lǐng)域已經(jīng)在指數(shù)增長(zhǎng)的同時(shí)不斷壯大。摩爾定律 (Moore’s Law) 以合理的精準(zhǔn)預(yù)測(cè)告訴我們，晶體管上集成電路的數(shù)量（指每塊芯片的儲(chǔ)存量）將在1975年之后每?jī)赡陜?nèi)翻倍。庫(kù)梅定律 (Koomey’s Law) 也已預(yù)測(cè)，單個(gè)能量焦耳所支持的計(jì)算次數(shù)將在1950年后的每19個(gè)月內(nèi)翻倍。以此類推，為什么不能假設(shè)人工智能也會(huì)在某個(gè)時(shí)間段內(nèi)實(shí)現(xiàn)指數(shù)增長(zhǎng)呢？

　　針對(duì)技術(shù)奇點(diǎn)實(shí)現(xiàn)的可能性，以上的說(shuō)法是一些有力的論據(jù)。準(zhǔn)確地說(shuō)，我并不是在預(yù)估人工智能無(wú)法擁有超出人類的智能。與許多在人工智能行業(yè)工作的同事一 樣，我預(yù)測(cè)人類離這個(gè)階段還有30到40年的時(shí)間。不過(guò)與一些人的觀點(diǎn)相反，我認(rèn)為未來(lái)將不會(huì)出現(xiàn)失控、呈指數(shù)增長(zhǎng)的情形。我將在接下來(lái)的文章里提供多個(gè) 關(guān)于不可能有技術(shù)奇點(diǎn)出現(xiàn)的支持論點(diǎn)。

　　以下的討論不包括所有技術(shù)奇點(diǎn)的反對(duì)論點(diǎn)。舉例來(lái)說(shuō)，我們也可以假設(shè)人工智能創(chuàng)造出了自己的人工智能。因此，阿蘭·圖靈 (Alan Turing) 在其影響深遠(yuǎn)的Mind論文（ Turing 1963）中提出了針對(duì)人工智能的九種通俗反對(duì)意見(jiàn)，例如機(jī)器不能擁有意識(shí)，或者不具有創(chuàng)造性。在這里，我將集中精力討論人工智能在智力上失控增長(zhǎng)的可能性。

　　論點(diǎn)一：快速思維的狗 (Fast Thinking Dog)

　　其中一個(gè)由技術(shù)奇點(diǎn)支持者提出的先鋒觀點(diǎn)是：硅與人類大腦濕件(wetware)相比有重要的速度優(yōu)勢(shì)，并且根據(jù)摩爾定律這一優(yōu)勢(shì)每隔兩年都會(huì)翻倍。不 過(guò)，速度提高不代表智力增長(zhǎng)。在這個(gè)問(wèn)題上，弗諾·文奇認(rèn)為一條快速思維的狗仍然不可能懂得下棋。史蒂芬·平克 (Steven Pinker) 意味深長(zhǎng)地表示：

　　“我們沒(méi)有任何理由相信技術(shù)奇點(diǎn)。人可以在自己腦海中想象未來(lái)，但不能證明它是否具有實(shí)現(xiàn)的可能性。在我的孩童時(shí)代，人們想象過(guò)的半球形城市，噴氣交通運(yùn) 輸工具，水下城市，一英里高的建筑，核動(dòng)力汽車，以及很多未來(lái)式的幻想在今天從來(lái)沒(méi)有得以實(shí)現(xiàn)。最終，單純的想象力無(wú)法像魔法一樣奇跡般地解決所有問(wèn) 題。”

　　智力不僅是比別人對(duì)一個(gè)問(wèn)題思考更快或是更久。當(dāng)然，摩爾定律對(duì)人工智能的發(fā)展有幫助?，F(xiàn)在計(jì)算機(jī)擁有更多可供學(xué)習(xí)的數(shù)據(jù)庫(kù)。速度更快的計(jì)算機(jī)肯定會(huì)幫助 我們開(kāi)發(fā)更好的人工智能。但是，至少對(duì)于人類來(lái)說(shuō)，對(duì)智力的評(píng)估取決于許多其他的事情，其中包括日經(jīng)月久的經(jīng)驗(yàn)和訓(xùn)練。我不確定人類是否可以利用硅，走上 提高智力的捷徑。

　　論點(diǎn)二：人類中心主義 (Anthropocentric)

　　在許多對(duì)技術(shù)奇點(diǎn)的描述中，人類智力被假設(shè)成為一個(gè)需要跨越或顛覆的里程碑。例如，尼克·博斯倫特寫(xiě)道：

　　“擁有人類智力水平的人工智能的問(wèn)世將會(huì)迅速帶來(lái)通向高于人類水平人工智能的發(fā)展……與此同時(shí)，機(jī)器與人類在智力上的匹配將是暫時(shí)的。此后不久，人類將無(wú)法與人工智力競(jìng)爭(zhēng)。”

　　人類智力范圍是從蟑螂到老鼠再到人類的分布廣泛的范圍。事實(shí)上，與其說(shuō)智力是一個(gè)點(diǎn)，不如說(shuō)它是一系列概率的分布。我們并不確定人類將在具體哪一個(gè)點(diǎn)上被人工智能失控的智力增長(zhǎng)超越：這個(gè)點(diǎn)具體是指人類的平均智力？還是人類史上最聰明的人？

　　科學(xué)史的教訓(xùn)告訴我們，人類遠(yuǎn)沒(méi)有自己想象的那么特殊。哥白尼告訴我們，宇宙并不繞地球轉(zhuǎn)。達(dá)爾文告訴我們，我們與猿類沒(méi)有本質(zhì)區(qū)別。人工智能可能會(huì)告訴 我們，人類的智力也并不特別。我們沒(méi)有理由因此假定，人類智力是個(gè)一旦通過(guò)，智力將快速增長(zhǎng)的特殊臨界點(diǎn)。當(dāng)然，這并不排除智力轉(zhuǎn)捩點(diǎn)本身存在的可能性。

　　技術(shù)奇點(diǎn)的支持者提供的說(shuō)法之一是，我們是唯一能夠通過(guò)創(chuàng)造來(lái)拓展自己智力的物種，因此人類智力是一個(gè)特殊的臨界點(diǎn)。我們是地球上唯一擁有足夠智力設(shè)計(jì)新 智能的物種，并且這些被設(shè)計(jì)出來(lái)的新智能不受進(jìn)程緩慢的繁衍與進(jìn)化限制。然而，這一類說(shuō)法假定人類的智力可以設(shè)計(jì)出一個(gè)智力足以跨越技術(shù)奇點(diǎn)的人工智能。 換句話說(shuō)，它在我們決定是否有技術(shù)奇點(diǎn)之前，就已經(jīng)下定它確切存在的結(jié)論。人類可能，也同樣可能不會(huì)有足夠的智力設(shè)計(jì)出這樣的人工智能。我們并不是被注定 要?jiǎng)?chuàng)造出這樣的東西。再者說(shuō)，即使我們有足夠的智力設(shè)計(jì)出了能夠超越人類的人工智能，這樣的人工智能也不一定能夠帶來(lái)技術(shù)奇點(diǎn)。

　　論點(diǎn)三：元智力 (Meta-Intelligence)

　　在我看來(lái)，反對(duì)技術(shù)奇點(diǎn)的其中一個(gè)強(qiáng)有力論點(diǎn)是，技術(shù)奇點(diǎn)混淆了完成工作的智力和提高完成工作的能力之間的區(qū)別。在對(duì)技術(shù)奇點(diǎn)的概念進(jìn)行詳細(xì)分析后，大衛(wèi)·查莫斯 (譯者注： David Chalmers，澳大利亞裔哲學(xué)家，認(rèn)知科學(xué)家 )寫(xiě)道：

　　“如果我們通過(guò)機(jī)器學(xué)習(xí)創(chuàng)造一個(gè)AI，不久之后我們將能夠改善學(xué)習(xí)的算法并且延長(zhǎng)學(xué)習(xí)的過(guò)程，創(chuàng)造出接下來(lái)的AI+。”

　　在以上的論述中，AI是人類智力水平的系統(tǒng)，而AI+是比一般人類更聰明的系統(tǒng)。不過(guò)，為什么查莫斯認(rèn)為我們可以在不久之后提高學(xué)習(xí)的算法？歷來(lái)機(jī)器學(xué)習(xí) 在算法方面的進(jìn)展既不迅速，也不容易。機(jī)器學(xué)習(xí)的確有可能成為未來(lái)任何人類智力級(jí)別的人工智能系統(tǒng)的重要部分，因?yàn)槌酥?，利用人工編碼知識(shí)和專長(zhǎng)是很 痛苦的過(guò)程。假設(shè)，一個(gè)人工智能系統(tǒng)選擇采用機(jī)器學(xué)習(xí)來(lái)提高自己理解文本，完成數(shù)學(xué)證明的能力。該人工智能的系統(tǒng)沒(méi)有理由能夠改善機(jī)器學(xué)習(xí)本身自帶的算 法。事實(shí)上，機(jī)器學(xué)習(xí)的算法通常在某一項(xiàng)工作上已經(jīng)達(dá)到極限，不論是工程還是參數(shù)的調(diào)整，都無(wú)法提高其性能。

　　目前，我們看到使用深度學(xué)習(xí)的人工智能令人印象深刻的進(jìn)度。這極大地提高了語(yǔ)音識(shí)別，計(jì)算機(jī)視覺(jué)，自然語(yǔ)言處理及許多其他領(lǐng)域的發(fā)展。這些進(jìn)度通常歸功于使用更多數(shù)據(jù)以及更深層次的神經(jīng)網(wǎng)絡(luò)：

　　燕樂(lè)存（譯者注: Yann Lecun，紐約大學(xué)計(jì)算神經(jīng)科學(xué)家）表示: “在此之前，神經(jīng)網(wǎng)絡(luò)并沒(méi)有打破識(shí)別連續(xù)語(yǔ)音的記錄；因?yàn)樗鼈兊拇笮∮邢蕖?rdquo;

　　當(dāng)然，更多的數(shù)據(jù)和更大的神經(jīng)網(wǎng)絡(luò)意味著我們需要更強(qiáng)的機(jī)器處理能力。其結(jié)果是，GPU現(xiàn)在經(jīng)常被用來(lái)提供處理能力。然而，學(xué)會(huì)更好地識(shí)別語(yǔ)音或者物品并沒(méi)有幫助深度學(xué)習(xí)進(jìn)步。深度學(xué)習(xí)并沒(méi)有自我改善。對(duì)深度學(xué)習(xí)在算法上的任何改善都要?dú)w功于人類在設(shè)計(jì)上的不懈努力。

　　我們也可以從另一方面用我們所了解到的有關(guān)智能系統(tǒng)的最好例子來(lái)例證這一論點(diǎn)?？纯次覀冏约?。我們只使用了我們自己大腦驚人能力中的一小部分，而且我們正 努力地想要改變現(xiàn)狀。對(duì)我們來(lái)說(shuō)，學(xué)習(xí)如何更好地完成某個(gè)特定任務(wù)很簡(jiǎn)單，但學(xué)習(xí)如何更高效地學(xué)習(xí)還需要下點(diǎn)功夫。舉例來(lái)說(shuō)，如果我們除去對(duì)智商固有的正 常定義，我們可以察覺(jué)到智商在上個(gè)世紀(jì)內(nèi)有增長(zhǎng)，但增長(zhǎng)速度緩慢 （弗林效應(yīng)“Flynn Effect”）。在今天，提高智商的過(guò)程和一個(gè)世紀(jì)以前一樣痛苦并且緩慢?；蛟S，電子大腦也很難快速提高自己的性能，并且永遠(yuǎn)無(wú)法超越自身的基本功能？

　　論點(diǎn)四：收益遞減 (Diminishing Return)

　　技術(shù)奇點(diǎn)通常假設(shè)智力的改進(jìn)是一個(gè)相對(duì)恒定的乘數(shù)，每一代的分?jǐn)?shù)都比上一代更高。然而到目前為止，大部分人工智能系統(tǒng)的性能一直在經(jīng)歷收益遞減。在不同研 究的初期，研究人員通常獲得許多成果，但在這之后則遇到一系列難以改進(jìn)的困難。這個(gè)過(guò)程解釋了許多早期人工智能的研究人員對(duì)行業(yè)發(fā)展過(guò)于樂(lè)觀的看法。人工 智能系統(tǒng)也許可以無(wú)限制地完善自己，但對(duì)智力的總體改進(jìn)很可能存在上限。舉例來(lái)說(shuō)，如果每一代人工智能比上一代增強(qiáng)半倍，那么系統(tǒng)永遠(yuǎn)不會(huì)達(dá)到2倍的整體智力。

　　收益遞減不僅是由于改進(jìn)人工智能算法的困難度，也是由于計(jì)算機(jī)科學(xué)快速增長(zhǎng)的困難度。微軟的聯(lián)合創(chuàng)始人保羅·艾倫稱這一現(xiàn)象為 “復(fù)雜性剎車”(Complexity Brake)。

　　“我們把這個(gè)問(wèn)題叫做復(fù)雜性剎車。伴隨人類對(duì)自然系統(tǒng)理解的不斷加深，我們通常會(huì)發(fā)現(xiàn)，我們需要更多并且更專業(yè)的知識(shí)來(lái)描述它們，我們不得不用越來(lái)越復(fù)雜 的方式來(lái)持續(xù)擴(kuò)展我們的科學(xué)理論… 我們相信，對(duì)自然世界 [認(rèn)知上的] 理解正在被復(fù)雜性剎車放慢。”——Allen和Greaves，2011。

　　即使人類看到人工智能系統(tǒng)持續(xù)、甚至呈指數(shù)級(jí)的改進(jìn)，這些或許都無(wú)法提高機(jī)器的性能。智力提升所需要解決的問(wèn)題本身的難度增長(zhǎng)速度，甚至比智力提升的速度還要快。很多人表示，現(xiàn)階段理論物理學(xué)的探索似乎也遇到了同樣的復(fù)雜性剎車。

　　論點(diǎn)五：智慧的極限 (Limits of Intelligence)

　　宇宙中存在很多基本的限制。其中一些是物理限制。例如，我們無(wú)法加速超過(guò)光速。我們無(wú)法同時(shí)知道位置和動(dòng)量的精確數(shù)值。我們無(wú)法知道原子放射性衰變具體發(fā) 生的時(shí)間。我們創(chuàng)造出來(lái)的思維機(jī)器也受這些物理定律的限制。當(dāng)然，如果機(jī)器在本質(zhì)上是電子或者甚至是量子，這些限制很可能比人類大腦生物和化學(xué)的限制還要大得多。

　　更多可觀察的經(jīng)驗(yàn)法則也在復(fù)雜的系統(tǒng)中不斷涌現(xiàn)。例如，鄧巴數(shù)（Dunbar’s Number）是靈長(zhǎng)類動(dòng)物腦容量和社會(huì)平均大小之間所觀察到的聯(lián)系數(shù)值。該數(shù)值把人類社會(huì)團(tuán)體中關(guān)系穩(wěn)定的人數(shù)限制在100到250人之間。智力是一個(gè) 復(fù)雜的現(xiàn)象，并且也會(huì)有類似的限制出現(xiàn)在這種復(fù)雜度中。機(jī)器智力的改善，無(wú)論是失控還是緩慢地增長(zhǎng)，都可能碰觸到這種限制。當(dāng)然，我們沒(méi)有理由假設(shè)人類智 力目前已經(jīng)達(dá)到、或者接近這個(gè)上限。同樣來(lái)說(shuō)，我們也沒(méi)有理由認(rèn)為這個(gè)上限遠(yuǎn)遠(yuǎn)超過(guò)了人類的智力。

　　論點(diǎn)六：計(jì)算復(fù)雜性 (Computational Complexity)

　　假設(shè)我們堅(jiān)持使用遵守傳統(tǒng)計(jì)算模型的電腦開(kāi)發(fā)人工智能系統(tǒng)。那么，指數(shù)級(jí)增長(zhǎng)也無(wú)法與計(jì)算的復(fù)雜度匹敵。舉例來(lái)說(shuō)，計(jì)算機(jī)性能上的指數(shù)級(jí)增長(zhǎng)不足以運(yùn)行超 級(jí)指數(shù)算法。而且沒(méi)有任何性能上的增長(zhǎng)可以解決無(wú)法解決的問(wèn)題。計(jì)算的復(fù)雜性也許正是我們前面所討論到的基本限制之一。因此，除非我們使用的機(jī)器能夠超越 傳統(tǒng)的計(jì)算模型，否則我們很可能會(huì)碰到類似于計(jì)算的復(fù)雜性從根本上限制了計(jì)算機(jī)性能的問(wèn)題。當(dāng)然，很多計(jì)算的復(fù)雜度問(wèn)題只是最壞的情況，大部分的人工智能 都使用啟發(fā)式學(xué)習(xí)在實(shí)踐中解決計(jì)算上難以處理的問(wèn)題。不過(guò)，這些啟發(fā)式學(xué)習(xí)在質(zhì)量上有根本的限制。有一些級(jí)別的問(wèn)題即使超人工智能 (super-human intelligence) 也不能很好的解決，哪怕只是大致解決。

　　結(jié)論

　　在以上的文章中，我論述了關(guān)于人類也許永遠(yuǎn)無(wú)法見(jiàn)證技術(shù)奇點(diǎn)的許多原因。然而，即使沒(méi)有技術(shù)奇點(diǎn)，我們也許仍然可以最終擁有展現(xiàn)出超出人類智力水平的機(jī) 器。不過(guò)實(shí)現(xiàn)它需要很多人非常痛苦地編碼。如果是這樣的話，人工智能對(duì)經(jīng)濟(jì)和社會(huì)的影響，要比對(duì)技術(shù)奇點(diǎn)持有悲觀或樂(lè)觀態(tài)度的人所預(yù)測(cè)的結(jié)果平淡得多。然 而，我們應(yīng)該就人工智能對(duì)社會(huì)的影響開(kāi)始做準(zhǔn)備。就算沒(méi)有技術(shù)奇點(diǎn)，人工智能依舊會(huì)大面積影響工作的性質(zhì)。舉第二個(gè)例子：即使智力有限的人工智能依然可以 對(duì)戰(zhàn)爭(zhēng)的性質(zhì)產(chǎn)生很大的影響?，F(xiàn)在，我們需要開(kāi)始為這樣的未來(lái)做計(jì)劃。（來(lái)源|機(jī)器之心 編譯|李九喻、孟婷、柒柒）

     如果您對(duì)您所在行業(yè)有很深認(rèn)知，也想在我們的平臺(tái)上說(shuō)點(diǎn)什么，我們歡迎您來(lái)投稿!