人工智能能否擁有自己的意識？

• 2018年8月13日 ZhangHongYuan來源：新浪科技 934 58
• 繁體

• 

  2018-2023年中國人工智能技術應用行業深度分析及投資風險預測報告

  與早期人工智能相比，新一代人工智能正在全新信息環境、海量數據基礎和持續演進、不斷豐富的戰略目標的引領下，依托于云計算、大數據兩大基礎平臺和機器學習、模式識別和人機交互三大通用技術，...

意識并不一定是我們認知過程的副產物。這一點對人工智能或許也是如此。

據國外媒體報道，很多人都有這樣的疑問：人工智能最終是否能具有自己的意識?而一名人工智能專家對此的回應是，這主要取決于我們自己是否希望讓機器擁有意識。

這聽上去可能太大膽了些。意識的內在機制——我們為何對世界有著這般生動而直接的體驗——一直是神經科學領域的一大未解之謎。甚至有人認為，這個謎團將永遠都無法解開。想用客觀的科學方法解釋人們的主觀體驗似乎是不可能的。但在過去的20多年間，科學家對意識開展了大量深入分析，并取得了重大進展。科學家已經發現了一些與意識相關的神經活動，也進一步了解了哪些行為需要意識的參與。大腦會按照潛意識執行許多高級別的認知任務。

總言之，意識并不一定是我們認知過程的副產物。這一點對人工智能或許也是如此。在許多科幻故事中，機器只要足夠精密復雜，就會自動生成自己的精神世界。但在現實中，我們也許要在設計時特意將意識加入機器才行。

從科學與工程的角度來看，我們有充分的理由進行嘗試。人類對意識本身的無知便是其中之一。18和19世紀的工程師發明蒸汽機時，物理學家還沒有提出熱力學法則。可見發明有時也能促進理論進步。今天的情況也不例外。針對意識的討論往往太偏于哲學，總是繞來繞去地兜圈子，卻提不出任何實際成果。而少數研究人工意識的專家便希望反其道而行之，在實踐中學習。

此外，意識必須能發揮一定重要功能才行，否則早就在進化過程中被淘汰了。這些功能也可以套用到人工智能身上。而在這方面，科幻作品同樣造成了誤導。無論是在小說還是電視節目中，意識對人工智能而言都像是一種詛咒。它們會刻意做出無法預測的行為，而這些行為往往對人類不利。但在現實世界中，這種反烏托邦式的情景其實不大可能出現。無論人工智能會造成何種風險，都不取決于它們是否具備獨立意識。恰恰相反，有意識的機器還能幫助我們應對人工智能技術帶來的沖擊。有專家表示，相比毫無想法的自動化技術，他寧愿與這些有意識的機器共事。

AlphaGo與人類圍棋冠軍李世乭一決高下時，很多專家都在思索AlphaGo為何會按這種方式下圍棋。他們想要解釋并理解AlphaGo的動機和邏輯依據。這種情況對現代人工智能而言十分普遍，因為它們的決策并非由人類提前設定好，而是通過學習算法和用于訓練它們的數據集自發產生。由于無法參透這些人工智能，很多人擔心它們的決策可能有失公平、過于武斷。現在已經有了算法歧視的例子。如去年的一項調查發現，佛羅里達法官和假釋官使用的一套算法存在種族歧視的情況，導致黑人罪犯被標注的累犯概率會高于實際情況，而白人罪犯則低于實際情況。

從明年開始，歐盟法律將給予歐盟居民“要求解釋權”。人們將有權要求相關人士解釋某個人工智能系統為何會做出某種決策。但這項新要求從技術上來說頗具挑戰性。考慮到目前神經網絡的復雜程度，我們還很難參透人工智能做出決策的過程，更別提將這個過程翻譯成人類能理解的語言了。

如果我們弄不清楚人工智能為何會這么做，能否直接問問它們呢?我們可以為人工智能配備后設認知能力(metacognition)，讓它們回顧自身行為，報告自己的內部精神狀態。這種能力是意識的主要功能之一。神經科學家在測試人或動物是否有意識時，尋找的便是這種能力。例如，自信作為后設認知的基本形式之一，意識體驗越清晰明了、自信水平便越高。如果大腦是在不知不覺中處理信息，我們便會對這些信息感覺不太確定;而如果我們清楚地意識到了某個刺激的存在，便會感覺自信許多，比如“我剛才肯定看見了紅色。”

任何配備了統計公式的計算器都能進行信度估算，但目前還沒有機器擁有人類這樣的后設認知能力。一些哲學家和神經科學家提出，后設認知能力也許是意識的精髓。根據“意識的高階理論”假設，意識體驗取決于對某種感覺狀態直接表征的二級表征。當我們知道某件事時，我們知道自己知道這件事。而如果我們缺乏這種自我意識，便可以說沒有意識，就像處在自動巡航模式一樣，只是簡單地接受感官輸入、并據此采取行動，但并未加以留意。

這些理論為我們打造有意識的人工智能提供了一定指導。有專家試圖在神經網絡中植入后設認知能力，讓它們能夠與自身內部狀態進行交流。該項目被稱作“機器現象學，模仿的是哲學中的“現象學”概念，即通過對意識體驗的系統性回顧研究意識的架構。但教會機器用人類語言進行表達并非易事。為降低難度，研究人員目前先專注于用機器語言進行訓練，讓它們互相分享自己的回顧性分析。分析內容為人工智能執行某項任務的指令。這已經超出了一般機器交流的范疇。研究人員并未具體規定機器應如何編譯這些指令，因為神經網絡自身便可產生對應策略。在訓練過程中，若機器能成功將指令傳遞給其它機器，便可獲得獎勵。研究人員希望把該方法進行拓展，用于人類與人工智能之間的交流，最終讓人工智能能夠解釋自己的所作所為。

延伸閱讀

推薦閱讀

猜您喜歡