實際上，隨著人工智能影響力的增強，我們理解人工智能影響力的局限則變得越來越多。這對人類能動性和人工智能的未來意味著什么?
逃離智能
在不遠的將來，人工智能將普遍的對人類而言會變得無法觸及、不能分辨和不可思議。
首先，人工智能并不必然需要一個看得見摸得著的具象外形。它可以通過各種中間人來展現自己，比如通過圖形用戶界面或者語音界面。我們已經都不需要看一眼就信任 Spotify 的推薦，或者與 Siri 和 Alexa 聊天，就好像它們是受召喚而出的精神體，是沒有可觸外形的智能。
其次，人工智能以通過圖靈測試(the Turing test)或者更相關的變體測試而變得隱身。那些能夠模擬人類層次的溝通、認知和情緒能力的人工智能系統(tǒng)，會在人群中無法被分辨。因此，人工智能的「人工性」對我們來說也就變得無法察覺。
第三，也最為重要的是，當人工智能的影響和科技動態(tài)的細節(jié)超越了人類的感知和理解，人工智能就逃離了人類的監(jiān)視。我們能感覺得到智能系統(tǒng)的存在和影響，但是我們再也無法完全理解這些系統(tǒng)在做什么，它們如何達到它們的目標或者什么是它們確切的影響。
這就意味著，人工智能科技將會很快超越克拉克第三基本定律(Clarke’s third law)，處于一種「任何足夠先進的科技都無異于魔術?！沟木车?。實際上，我們將再也沒有機會分辨出這些魔術——甚至連是否有魔術發(fā)生都意識不到。
不可思議的智能
據此，我們能夠察覺到人工智能的體現和存在，但是智能本身對于人類感官而言將變得不可知。如今，人工智能的發(fā)展過程中有兩個明顯特質。
首先，大多數算法系統(tǒng)和近期人工智能科技的進步都是黑盒;對大多數人來說它們是難以接近，深不可測并且不可控的。
因此，想要觀察或評估人工智能系統(tǒng)是如何在線上和線下塑造你的生活還是很困難，不論是你的最新歌曲推薦還是個人保險政策，更不用說那些影響著全球市場經濟的充滿計算的股市交易了，它幾乎影響著現代生活的每一個方面。
具體來說，當智能系統(tǒng)的行動變得更全面地與個人、社會、文化、政治和經濟的系統(tǒng)交織起來時，要辨別機器智能本身的實際影響和結果就變得極具挑戰(zhàn)性。
其次，人工智能科技正變得十分復雜，以至于它們很難被理解——甚至對于設計和開發(fā)它們的專家來說也是如此。機器學習專家 Pedro Domingos 在他的新書《The Master Algorithm》里指出，回溯到 20 世紀 50 年代，科學家們就已經創(chuàng)造出了一種人類所不能完全理解的算法。
相反，這個開發(fā)還沒有改變這一進程。以人工智能發(fā)展的現有節(jié)奏，就連經驗豐富的專家們也不時覺得難以跟進。
今天，各類的機器學習系統(tǒng)已經能夠在不同領域提供讓人以外的深刻見解了，從個人化科技到粒子物理學，從烹飪菜譜和古怪的異國游戲到犯罪預防和生物工程。具體而言，專業(yè)系統(tǒng)可以推動生物學的科學發(fā)現，或者幫你選擇到達下個會議地點最優(yōu)的路徑。
當一個智能系統(tǒng)變得更通用、更能夠自我學習和自我調整時，人類跟蹤它準確的動態(tài)就更困難。隨著開發(fā)的深入，當一個超快的自我學習、自我組裝的人工智能系統(tǒng)開始比人類以往任何時候都更快地開發(fā)并建造自己的時候，它將永遠地脫離我們的智力。最終，人工智能系統(tǒng)將會基于它們自己的行為成為領銜專家，比人類曾經任何時候都更好地預測它們自己的未來。
因此，老練的人工智能科技將會基于一系列任何人類——甚至專家都不能理解的互動上，提供合理并正確的洞察。如果是這樣，我們是否能繼續(xù)在沒有人工智能的幫助下，得出確切的科學結論或考慮周全的決定呢?
交織著的智能
就像任何重大的科技革新和其在主流中的融入，人工智能正在從一顆晦澀的好奇心成為一個強有力的實用體。結果是，明日世界最有價值的資產也許會是一個人類不能完全理解或控制的智能系統(tǒng)。
在這同時，人工智能正成為一個史無前例的文化科技現象，影響著我們評估和定義「智能」本身的方式。據此而言，人類智能可能無法對智能本身做出最相關的測量。人工智能里的「人工」兩個字也開始失去意義了。
今天，人類智能在塑造著人工智能，而越來越多的人工智能也開始塑造人類智能。當人工智能系統(tǒng)的影響增強，更多人就需要去理解它們的工作和影響。為了實現這一點，我們需要能增強人類智能，從而讓我們能與多樣的智能系統(tǒng)樣本可持續(xù)地互動。
首先，增強人類研究員、設計師和工程師的能力以追趕他們所建造的人工智能科技，這很重要。除了更好的實踐、工具和技術外，多樣的跨學科團隊亦能幫助我們更好地理解智能系統(tǒng)的工作方式和影響。
第二，盡可能多的人需要擁有與自己團隊里的人工智能互動的能力。新的學習游戲正讓孩子學習到編程和機器人學，并了解智能系統(tǒng)與其可能性。像 Algorithmic Angels 這樣的系統(tǒng)，通過呈現智能系統(tǒng)在我們日常生活中的影響，并讓人們決定它們在個人層面的互動， 讓「機器中的幽靈(the ghost in the machine)」更觸手可及、不可辨識，但更易理解。
黑盒中的秘密需要被揭露出來，從而在機構間產生更大規(guī)模的合作。讓人工智能「民主化」可以為更多人創(chuàng)造出更多的方式來設計和開發(fā)出智能系統(tǒng)的新方案。就像編碼和媒介素養(yǎng)(media literacy)在今天是必不可少的技能一樣，能夠理解并使用智能系統(tǒng)也會成為將來的必備技能。
人工智能技術將為沿著這個方向進化成為一個平臺，一個像互聯(lián)網一樣的基礎設施，這個平臺可以讓人們自行決定如何優(yōu)化人工智能，或者是如何為它的設計和開發(fā)做出貢獻。就像物聯(lián)網一樣，這樣的人工智能網絡將會在不同環(huán)境和領域激發(fā)更多體驗和應用，向專家和開發(fā)者等開放，這將顯著改變人們理解人工智能以及和智能系統(tǒng)進行互動的方式。人類智能和機器智能將以前所未見的方式交織在一起。
物理現實和數字現實的邊界正在消散。當人類和智能系統(tǒng)的關系變得更加親密無間時，他們之間的邊界可能會開始消散。「人工」將會在「智能」之前率先消失，從而使人工智能這一概念變得不相關，并且被淘汰。
{{item.content}}