深度學習本質上是一種新興的機器學習算法,其基本模型框架是基于ANN的,如含有多隱層的感知器。其可以通過對數據的底層特征進行學習從而得到更加抽象的隱藏特征,從而特到數據的分布式規律,進而預測或分類數據。
深度學習本質上是一種新興的機器學習算法,其基本模型框架是基于ANN的,如含有多隱層的感知器。其可以通過對數據的底層特征進行學習從而得到更加抽象的隱藏特征,從而特到數據的分布式規律,進而預測或分類數據。深度學習是一種學習數據表征的算法,它可以從無規律、抽象的觀測值即輸入值中學習到數據的隱藏特征,比如CNN算法通過輸入的圖片像素點RGB值可以學習到圖片的內部特征,例如圖片中的實體、數字等。深度學習的好處是其用高效的特征提取算法替代了原始的手工獲取特征的手段。
深度學習概念由Hinton于2006年在《Science》上發表的論文《DeepLearning》提出。提到:1、在ANN中,感知器的隱層數量越多,對于數據隱藏特征的學習能力就越強,而且學習到的特征會更好的幫助理解數據,從而能夠更好的對數據進行可視化或分類;
由于ANN層數越多,參數就會以幾何倍數的增加,因此ANN的層數會加大對整個網絡的訓練效率,由此Hinton提出了基于無監督學習的“逐層初始化”來有效克服該難題。在深度學習領域中,最先出現的算法是Hinton提出的限制玻爾茲曼機(RBM)以及基于此提出的深度置信網絡(DBN),這兩種算法為解決復雜的優化難題提供了思路,為解決多層復雜網絡帶來了希望。之后提出的自動編碼器算法也風靡一時。
此外Hinton的得意弟子Lecun等人提出的卷積神經網絡(CNN)真正將深度學習研究領上了高潮,其本質上是用來解決圖片或視頻中的實體識別等難題的,它利用圖片2維或3維空間特性有效的減少了網絡的訓練參數。
國外的深度學習研究在整體上呈現出三個基本趨勢:一是關注真實課堂條件下深度學習與學生素養發展的實證研究;二是從個別具體操作策略的探討轉向為一般化操作模式的建構;三是從單純關注深度學習的技術性支持轉向為情境性的環境支持系統設計。深度學習研究又呈現出兩個較為明顯的特點。
據中研產業研究院公布《2021-2025年中國深度學習發展及趨勢專項研究報告》顯示
深度學習應用覆蓋更廣泛,市場增速加快
深度學習除了在已經廣泛應用的領域不斷深化完善,也在持續拓展新的應用領域,推動各個行業的智能化。2017-2018年期間,得益于硬件和算法的進步,深度學習的強大能力逐漸顯現。這種進步體現在連續學習過程中使用模式識別的算法,使它們能夠自主訓練執行任務,而不需要顯式編程代碼。
圖表:全球深度學習軟件喜營收(按區域) : 2017-2025
數據來源:Tractica
一些較成功的深度學習應用集中在圖像識別、文本分析、產品推薦、欺詐預防和內容管理等領域的增量和實際改進上。深度學習可能會帶來未來更強大、更具顛覆性的應用發展,如無人駕駛汽車、個性化教育和預防性醫療保健。Tractica 預測,隨著應用的不斷拓展,全球深度學習軟件市場將從2017 年的30 億美元增長到2025 年的672 億美元。深度學習的市場機會跨越了廣泛的行業和地理區域,尤其是在具有海量數據需求和實體的特定領域市場,以及那些使用視覺和語言處理技術的機器感知應用不斷增長的市場,這種機會具有特別大的顛覆性。
深度學習技術研究持續深入
深度學習除了在應用領域的快速擴張,一些基礎技術研究依然保持著很高的熱度。主要可以分成以下幾個方向:深度學習的基礎理論研究;深度學習和其他方法的結合擴展;深度學習一些優勢的深耕和發揚光大;深度學習現階段一些局限性的解決。當然這幾個方面也是相互影響,相互交織的。
深度學習的理論性研究側重給出對深度學習有效性更好的解釋,對深度學習的泛化能力更好的證明,以及如何更快收斂更好地學習等。
在和其他方法結合方面,一方面最成功的當屬深度強化學習,從靜態監督學習擴展到動態交互時序學習,這在AlphaGo 上已經得到了驗證。但是對于深度強化學習是否就是最接近人工智能的解決方案還是存疑的。另一方面是在一些非游戲類的實際應用中,深度強化學習發揮好的效果往往需要針對性的設計和實驗。除此之外,也有很多關于神經和符號相結合的探索、數學模型和認知心理學方法相結合的探索。
在深度學習的優勢深耕方面,預訓練模型與遷移學習比較有代表性。深度學習下的特征表示學習特性,可以構造出可擴展、可遷移的強大的預訓練模型。例如,自然語言處理領域最近出現的Bert 模型就是一個代表,通過大規模無標注語料訓練出的基礎表示模型,可以大大降低具體任務下對標注數據的依賴量并顯著提升效果。
在解決深度學習現階段的一些局限性方面則有更多的探索。這包括針對深度學習下網絡設計需要較大成本問題而出現的自動化深度學習技術,可以自動進行網絡結構設計和超參數尋優,使深度學習更加自動化。針對深度學習在監督學習任務上表現更優異的問題,更多考慮半監督、無監督任務下的深度學習,包括近期持續火爆的對抗學習網絡,將生成模型和判別模型一起學習,大大提升了深度學習的生成效果。針對傳統深度神經網絡更多適用于無結構數據的問題提出圖神經網絡,使得深度學習可以作用于圖結構上,非常適用于知識圖譜等場景,為深度學習的推理能力、可解釋性提升提供了新思路。
邊緣計算將給深度學習和芯片帶來更多市場
人工智能的計算大多在基于云端的數據中心完成,而這些計算的主要內容是對深度學習模型的訓練,這需要大量的計算能力。在過去的6年中,計算需求方面經歷30萬倍的增長,GPU提供了強大的算力支持。隨著人工智能應用多樣性的增長,越來越多的深度學習計算將在邊緣設備中進行,而不是在一個集中的、基于云的環境中進行。到2025年,全球人工智能邊緣設備的出貨量將從2018 年的1.614億臺增加到26億臺。依據設備類別,主要的AI 邊緣設備為:手機、智能音箱、個人電腦設備、頭戴式顯示器、汽車、無人機、消費者和企業級機器人、監控攝像頭等。
圖表:全球邊緣計算設備出貨量(按設備種類): 2017-2025年
數據來源:Tractica
在評估云與邊緣計算時,需要考慮隱私、安全、成本、延遲和帶寬等。根據人工智能應用程序和設備類別,可用于執行人工智能邊緣計算的芯片包括中央處理器(Central Processing Unit,CPU)、圖形處理器(Graphics Processing Unit,GPU)、專用集成電路(Application Specific Integrated Circuit,ASIC)、現場可編程門陣列(Field-Programmable Gate Array,FPGA)、系統芯片(System on Chip,SoC)等。
深度學習芯片迎來高速發展的階段
GPU和CPU 在市場上處于領先地位,但FPGA、ASIC、SoC 加速器和其他新興芯片組的影響正在不斷擴大。雖然解決深度學習訓練和推斷工作量的芯片組市場仍然是一個新興市場,但形勢正在迅速變化——在過去的一年中,超過60 家各種規模的公司宣布了某種深度學習芯片組或知識產權(IP)設計,之后將開始市場驗證。2019 年和2020 年是深度學習芯片組數量增長的關鍵時期。
圖表:全球深度學習芯片收入(按類型):2016-2025年
數據來源:Tractica
到2025 年,深度學習芯片組的市場將從2017年的16 億美元增加到663 億美元。系統芯片(SoC)加速器(如移動設備中的加速器)將在預測期結束時在絕對數量上領先市場,隨后是專用集成電路(ASIC)和圖形處理單元(GPU)。就收入而言,到2025 年,ASIC 市場將是最大的,其次是GPU 和中央處理器(CPU)。在邊緣計算市場,即在設備上進行人工智能計算的市場,預計將占總市場機會的四分之三以上,其余在云或者數據中心。手機將是邊緣計算市場的主要驅動力,其他突出的邊緣類別包括汽車、智能相機、機器人和無人機等。
深度學習行業研究報告旨在從國家經濟和產業發展的戰略入手,分析深度學習未來的政策走向和監管體制的發展趨勢,挖掘深度學習行業的市場潛力,基于重點細分市場領域的深度研究,提供對產業規模、產業結構、區域結構、市場競爭、產業盈利水平等多個角度市場變化的生動描繪,清晰發展方向。
未來行業市場投資前景如何?想要了解更多行業詳情分析,可以點擊查看中研普華研究報告《2021-2025年中國深度學習發展及趨勢專項研究報告》。報告對行業相關各種因素進行具體調查、研究、分析,洞察行業今后的發展方向、行業競爭格局的演變趨勢以及技術標準、市場規模、潛在問題與行業發展的癥結所在,評估行業投資價值、效果效益程度,提出建設性意見建議,為行業投資決策者和企業經營者提供參考依據。
關注公眾號
免費獲取更多報告節選
免費咨詢行業專家
2021-2025年中國深度學習發展及趨勢專項研究報告
深度學習本質上是一種新興的機器學習算法,其基本模型框架是基于ANN的,如含有多隱層的感知器。其可以通過對數據的底層特征進行學習從而得到更加抽象的隱藏特征,從而特到數據的分布式規律,進C...
查看詳情
據中國石油網消息,6月14日,中國石油集團總經理侯啟軍同雪佛龍公司上游業務執行副總裁翟昌盛舉行視頻會議。雙方就天2...
世界首個沙漠鐵路環線形成今日和田至若羌鐵路(和若鐵路)開通運營,和田至若羌11小時26分可達。至此,和若鐵路將與現...
預計2025年國產廠商可參與的機器視覺市場空間有望達到356億元中金公司指出,機器視覺模擬人類“看—思—行”,通過“2...
上海電氣連獲三個F級燃機項目訂單近日,上海電氣通過“云投標”方式,先后中標江陰熱電、無錫西區二期、浙能鎮海三個F...
供暖行業的現狀、供暖市場有多大?隨著改革開放的深入,國民經濟的發展和人們生活水平的提高,人民的居住環境不斷改善2...
君實生物VV116產業化項目獲備案近期,上海市投資項目在線審批監管平臺顯示,近日,君實生物的VV116(氫溴酸氘瑞米德韋...