謹慎一點是必須的 我們對人工智能能夠信任到什么程度？

• 2017年9月13日 ZhouXun來源：網易智能 516 28
• 繁體

人工智能是典型的軟件主導，而軟件是容易出現漏洞的?？紤]到這一點，我們如何知道人工智能本身是足夠可靠去完成工作的?或者更確切地說，我們對于人工智能的成果能夠信任到什么程度?

這些問題表明，在各種與人工智能相關的算法和技術之間存在必要的設計權衡。這么多人工智能可替代方法的存在表明，大多數人工智能架構都遠非那么一致或有凝聚力。更糟糕的是，對于推理和學習系統來說哦，它們都需要高度的基于上下文的個性化。當然，這也是在說人工智能測試，因為每一種算法和它的個性化實現都會帶來獨特的深度測試的挑戰，即使是在單元級別。

一個高級人工智能測試評估了正確識別和分類圖像的能力。在某些情況下，這項測試已經超越了人類做出此類評估的能力。例如，在人面數據庫(LFW)中的數據集用13000張圖片支持人臉識別技術的訓練，并使用用神經網絡或深度學習來校準面部識別機器學習工具。新的自動化人工智能圖像識別工具可以使用這個數據表在統計學上超越人類的面部識別能力。然而，眼前的任務本質上是感性的。這些任務通過數學上相關的幾何圖形來區分，但沒有任何形式的高階認知推理。此外，盡管它將選擇性識別的準確率與人類能力進行了比較，但在這個測試中，底層代碼基礎的其他關鍵任務方面仍未得到檢測。

代碼之外

機器學習的測試變得更加復雜，因為在學習環境中需要大量的數據集來“訓練”人工智能。不僅人工智能應該被證明是無懈可擊的，在訓練中使用的數據理論上也應該具有最高的質量。然而，在現實世界中，數據集往往是不平衡的、稀少的、不連貫的，而且往往是不準確的。下面的圖片表明，信息經常是由解決歧義得到的。即使在受控條件下，使用單個或多個經過驗證的數據集來訓練和測試分類器也會產生顯著的差異。因此，即使是對分類器的受控測試也會變得非常復雜，必須仔細研究。

其他與信任相關的因素遠遠超出了代碼的范圍。因為編程既是一種創造性行為，又是一種句法科學，因此它需要一定程度的翻譯解釋。程序員可以將有意的或無意的文化或個人偏見注入到產生的人工智能代碼中?？紤]一下程序員的情況，他們創造了一種非常精確的面部識別程序，但忽略了皮膚色素沉著是識別標準中的一個決定性因素。這一動作會使結果偏離原本由皮膚顏色強化的功能。相反，罪犯的再犯率扭曲了一些以美國為基地的監獄釋放決定。這意味著，一些在押人員比其他人更有機會得到提前釋放的數據——而無視了普遍的情況。語義上的不一致性可能會進一步危害人工智能代碼的中立性，尤其是在涉及自然語言處理或慣用語音識別的情況下。

一些人認為，所有的IT從業者都是網絡安全從業者。這也對人工智能的發展和實施產生了巨大的影響。從網絡安全的角度來看，“誰知道機器知道什么、機器是什么時候知道的?”的問題就變得尤為重要。機器學習的東西往往不是很容易被觀察到的，而是被深度編碼的。這不僅會影響新入網的數據，而且——在物聯網中——這些數據會讓執行器觸發激活器，從而將“學習”轉化為某種行為。由于缺乏具體的刺激身份和出身，整個人工智能引發的物聯網刺激反應機制也變得同樣不確定。在任務關鍵型系統中產生的行為需要嚴格的驗證。

第三次浪潮

Launchbury預言了一個尚未完善的人工智能第三次浪潮，他將其命名為“語境適應”。這項技術需要更多的工作，將感知、學習和推理的優勢集中在一起，并支持跨領域抽象的更高水平。

2017年5月，年度本體峰會被命名為“人工智能、學習、推理和本體”。印證了Launchbury的觀察，峰會公報草案得出結論說，到目前為止，大多數人工智能方法，包括機器學習工具和使用的計算技術都是在運用計算技術的亞符號水平上運行，是不接近人類思維的。盡管在許多形式的人工智能中已經取得了巨大的進步，但在象征層面上對知識表現的全面處理還有待于成熟。相應地，本體作為正式的語義組織工具的實用性，對人工智能及其最終測試環境的優勢有限。

語義網絡涉及到以節點和弧的圖形形式來表現知識。它提供了一種理解和視覺化符號之間關系的方式，通常用積極的詞語來表示。在不同的上下文語境中，這些詞表達不同的意思。人工智能在很大程度上是象征性的，它需要以一種更加正式的方式來處理應用語義，以實現第三浪潮的狀態。在這種情況下，人工智能就變成了非線性的，因果關系通過多個執行線程逐漸解耦。這就導致了復雜的自適應系統(CAS)的建立，這種系統往往會受到非線性網絡行為的影響。

在CAS中，隨著時間的推移，新的行為會基于環境的情況出現。在這里，可以有多個自組織的路徑通向成功或失敗，所有這些路徑都是由高度多樣化的節點和弧線所觸發的，這些節點和弧線可以隨著時間的推移而變化、增長、收縮和消失。這種網絡在使用嵌入式軟件時，違背了傳統的遞歸單元測試，而這與數據是相關聯的。這是因為，在CAS中，整體往往不僅僅是各部分的總和。相反，從應用網絡科學出現的新方法，提供了一種更好的方法來評估隨時間推移而出現的動態人工智能行為。與圖論相關的時間指標逐漸被更好地理解為一種描述動態行為的方法，這些動態行為是一些未能遵循線性路徑來達到預期效果的行為。

除非采用可靠的方法來評估人工智能的信任程度，不然喊口號就必須謹慎。對于尚不那么可靠的技術，如果盲目信任則有可能會造成誤導，有時甚至會導致危險的結果。

延伸閱讀

推薦閱讀

猜您喜歡