AI安全行業發展分析： 業內探索增強技術與應用創新能力新路徑

• 方蔓桃 2024年1月8日 來源：百度 1055 67
• 繁體

AI安全是指在人工智能技術的開發、應用和管理過程中，保障人工智能系統的可靠性、可控性、可信賴性和可預測性，防止人工智能系統被惡意攻擊、篡改或誤用的一系列安全措施和技術。AI安全涉及數據安全、算法安全、系統安全、網絡安全等多個方面，旨在確保人工智能系統的安

一、AI安全行業概述

人工智能(AI)已經在全球范圍內對各個行業產生了深遠影響，但隨著其應用的廣泛，AI安全問題也逐漸凸顯。AI安全旨在保護人工智能系統的數據、算法和基礎設施，防止其受到惡意攻擊和誤用。隨著AI在金融、醫療、交通等關鍵領域的深入應用，AI安全的重要性日益提升。

AI安全是指在人工智能技術的開發、應用和管理過程中，保障人工智能系統的可靠性、可控性、可信賴性和可預測性，防止人工智能系統被惡意攻擊、篡改或誤用的一系列安全措施和技術。AI安全涉及數據安全、算法安全、系統安全、網絡安全等多個方面，旨在確保人工智能系統的安全、可靠和可控。

網絡空間安全如何快速適應新形勢，更好地服務于國家需求、社會需求，是當前我國網絡空間學科發展需要深入研究、科學規劃的重大問題。

中國科學院院士尹浩在主題報告中指出，“5G網絡與垂直行業業務應用深度融合后，新業務、新技術、新場景的特征帶來了新的安全挑戰。如部分行業對5G融合應用安全的風險意識不足，安全需求不明確、解決方案碎片化，行業安全需求與5G網絡安全供給能力映射關系不清晰等”。對此，他認為需要進一步提升邊緣計算、網絡切片、網絡開放、邊界防護等5G融合應用關鍵技術安全，增強安全技術與應用的創新能力，準確識別垂直行業安全需求，制定定制化的安全服務能力，形成標桿化的安全解決方案推廣應用。

二、AI安全市場規模

AI安全常見的分類方式是按照攻擊方式分類，可以分為數據安全、算法安全、系統安全和網絡安全等多個方面。數據安全涉及數據的保護和隱私保護，算法安全涉及算法的安全性和可靠性，系統安全涉及系統的安全性和可控性，網絡安全涉及網絡的安全性和可靠性。另一種常見的分類方式是按照攻擊目標分類，可以分為數據安全、模型安全、系統安全和行為安全等多個方面。數據安全涉及數據的保護和隱私保護，模型安全涉及模型的安全性和可靠性，系統安全涉及系統的安全性和可控性，行為安全涉及系統的行為安全和可預測性。此外，AI安全還可以按照攻擊主體分類，分為內部攻擊和外部攻擊;按照攻擊時間分類，分為預防性安全和應急性安全。

從下游客戶分布來看，據 IDC 預測，中國網絡安全終端行業客戶結構相對穩定，其中政府、 金融和電信行業占比最大;預計到 2026 年，三者合計支出規模將超 192.2 億美元，占比超 中國網絡安全總支出的 60%。我們認為，中國網安行業客戶主要分布在政府、金融、電信 等關鍵領域，該類型客戶受政策驅動因素影響相對較大。近年來，國家對于網絡安全重視程 度顯著提升，行業整體投入有望逐漸加大。

據市場研究報告，全球AI安全市場規模在持續增長。由于數據泄露、網絡攻擊等安全事件的頻發，企業對AI安全的需求逐漸增強。預計未來幾年，AI安全市場將以年復合增長率(CAGR)的態勢持續擴大。

AI安全行業發展歷程可追溯至AI技術的初期探索，起初，人們主要關注AI的性能提升和應用拓展，對安全性問題關注較少。隨著深度學習的興起和AI應用的蓬勃發展，人們開始認識到AI系統面臨的安全挑戰日益嚴重。2010年后，隨著對抗性攻擊和隱私泄露等問題的出現，AI安全逐漸成為學術界和產業界關注的熱點。政府和組織開始制定相關政策和法規，推動AI安全的研究和實踐。近年來，AI安全行業快速發展，涌現出眾多專業公司和研究機構，致力于開發AI安全技術、解決隱私問題、應對對抗性攻擊，以確保AI技術的穩健應用和可持續發展。

三、AI安全市場分析

競爭格局：目前，AI安全市場呈現多頭競爭的格局，既有大型的科技公司如谷歌、微軟、IBM等，也有專業的AI安全公司如Deepfence、Clarifai等。這些公司在數據保護、威脅檢測、隱私保護等方面各有千秋。

用戶需求：企業用戶對AI安全的需求主要集中在數據保護、算法加固和基礎設施防護等方面。同時，隨著無代碼/低代碼開發的興起，用戶對簡單易用的AI安全工具也提出了需求。

技術趨勢：目前，AI安全技術主要包括深度學習模型保護、對抗性攻擊與防御、隱私保護等方面。未來，隨著技術的進步，AI安全將更加重視預防措施，例如通過無監督學習、遷移學習等技術提高系統的自適應能力

2022年我國AI安全行業市場規模約為633.24億元，同比增長4.25%。預計未來三年，我國AI安全行業市場規模將保持超過10%的年復合增長率，到2025年市場規模將達到930億元。

2022年我國AI安全行業頭部企業市場份額排名前五的企業分別是：百度、阿里巴巴、騰訊、華為和小米，它們的市場份額分別為18.2%、16.7%、14.8%、13.7%和10.8%。，2023年H1我國網絡安全市場頭部企業市場份額排名前五的企業分別是：奇安信、北京君正、芯原股份、四維圖新和芯片巨頭。

從產品的形態來看，網絡安全產品可分為硬件、軟件、服務三大類。目前，國內網絡安全的 主要產品仍以硬件為主。根據 IDC數據顯示，2020 年，安全硬件在中國整體網絡安全支出 中仍占據主導地位，占比高達47.2%;安全軟件支出占比為 20.8%，安全服務支出占比為 32%。

看未來發展趨勢，伴隨云計算的快速發展，我國網絡安全市場的軟件化趨勢在不斷增強。據 IDC 預測，2021-2026 年期間，安全軟件市場規模將以 25%的復合增速快速增長，安全軟 件子市場中的信息和數據安全軟件(Information and Data Security Software)，網絡安全軟 件(Network Security Software)，安全分析、情報、響應和編排(SAIRO)有望成為高速增長的主要技術領域，其中信息和數據安全軟件作為軟件最大的子市場，將以 29.9%的五年 CAGR 引領軟件市場增長;安全硬件市場規模將保持 17.0%的復合增速;安全服務市場將 保持 21.6%的復合增速，其中托管安全服務(MSS)將達到 34.0%的五年復合增速。據 IDC 預測，2026 年安全軟件市場將占國內網絡安全市場總支出的 40%。

今年以來，以ChatGPT為代表的人工智能技術迅速發展，使人驚呼“未來已來”。當前，人工智能技術正廣泛應用于金融、醫療、交通、制造業等領域，對經濟社會發展和人類文明進步產生深遠影響，給世界帶來巨大機遇。同時，也不能忽視其蘊含的潛在風險挑戰，很可能在不久的將來深刻改變現有國家安全格局。數據投毒”風險。“數據投毒”是指在人工智能訓練數據中投放惡意數據，干擾數據分析模型正常運行的行為。在智能汽車系統中“投毒”，可能導致交通事故;在輿論宣傳中“投毒”，一些負面思想可以更加隱蔽地滲透到群眾思想觀念中。一方面，人工智能可被用在致命性自主武器(LAW)上，通過自主識別攻擊目標、遠程自動化操作等，隱藏攻擊者來源、建立對抗優勢;另一方面，人工智能可以將網絡、決策者和操作者相連接，讓軍事行動針對性更強、目標更明確、打擊范圍更廣。

四、AI安全市場挑戰

目前，網絡安全服務市場主要由安全咨詢服務、IT 安全教育與培訓服務、托管安全服務、安 全集成服務四個子市場構成。 安全咨詢服務：屬于專業服務的范疇，主要包括安全戰略與規劃、合規與審計等多個咨詢類 別; IT 安全教育與培訓服務：IT 安全教育與培訓服務是一套教育活動和過程，主要包括企業級 培訓服務、教育認證、高校教育等子市場; 安全托管服務(MSS)：安全托管服務指服務提供商通過安全運營中心(SOC)進行全天候 遠程管理或監控的 IT 安全服務。目前，除駐場類的安全服務外，遠程托管服務效率更高、 成本更低，倍受中小企業青睞。未來，“駐場+遠程”的云地結合模式有望成為主流。2021 年，我國托管安全服務市場規模較 2020 年實現了 61.2%的同比增長;

安全集成服務：安全集成服務指服務提供商通過規劃、設計、實施、項目管理四個步驟形成 完整安全解決方案的服務，其涉及系統和應用程序的定制化開發、集成企業打包的安全硬件、 軟件服務等; 據 IDC 報告顯示，2021 年中國 IT 安全服務市場廠商整體收入約 28.61 億美元(約合 184.6 億元人民幣)，廠商收入規模較 2020 年同比增長 41.7%。

AI安全面臨的主要挑戰包括對抗性攻擊、數據泄露和模型竊取等。這些挑戰需要強大的技術能力去解決。

另外，隨著AI應用的普及，相關的法規政策也在不斷完善。企業需要關注法規變化，避免在AI應用中觸犯法律紅線。

由于AI安全是一門交叉學科，人才短缺是行業面臨的一大挑戰。企業需積極培養和引進跨領域的專業人才。

報告顯示，18-25歲的網絡安全從業者占比達到31.4%，成為網絡安全從業者的中流砥柱。而僅僅在兩年前的2021年，這一數據僅為3.2%。三年來，Z世代迅速成長為“網絡安全衛士”的主力。

此外，31-40歲的網絡安全從業者仍是占比最高的群體，占比達到35.2%，但已遠低于2022年的50.8%和2021的59.7%。26-30歲的從業者占比為20.8%，40歲以上占比12.6%。網絡安全從業者逐漸年輕化，更多的年輕從業者涌入該行業，為行業的未來發展注入了新鮮的活力。

目前，我國網絡安全人才培養加快。截至2023年3月，國內已有80所高校開設網絡空間安全專業，132所高校開設信息安全專業，2所高校開設保密技術專業，17所高校開設信息對抗技術專業，28所高校開設網絡安全與執法專業。同時，我國各高校正在逐步加強網絡安全高層次人才培養力度。

2023年，受AI技術爆發的影響，智能化網絡安全應用成為新熱點。今年創新沙盒公布的十強企業中，有三家是通過智能技術應用來提升網絡安全能力，應用方向分別為智能SOC、智能網絡攻防和智能數據治理與隱私安全。

在網絡安全行業，AI正在成為重要的輔助工具。報告顯示，目前全球有340萬網絡安全職位正在招聘但未能找到相應人才。同時，報告通過問卷調研調查顯示，73%的網絡安全從業者每周工作時間超40個小時。其中，33.8%的從業者每周工作41-50小時，22.2%每周工作51-60小時。因工作性質原因，網絡安全從業者需要時刻保持警惕，隨時應對可能或已經發生的網絡安全漏洞和風險，因此工作強度較高，加班情況較為普遍。

五、AI安全未來展望

《中華人民共和國數據安全法》于2021年9月開始實施，該法律規定，開展數據活 動，應當遵守法律、法規、尊重社會公德和倫理，遵守商業道德和職業道德，誠實 守信，旅行數據安全保護義務，承擔社會責任，不得危害國家安全、公共利益，不 得損害個人、組織的合法權益。該法律為我國數據安全領域的基礎性法律，其完善 了國家數據安全工作體制機制，標志著我國在數據安全領域有法可依，為各行業數 據安全提供監管依據。

數據安全是以數據為中心的安全體系。數據安全主要產品包括：數據安全治理、分類分級、 個人隱私保護、數據庫安全、數據脫敏等。同時，《數據安全法》、《個人信息保護法》等法 律的出臺也將驅動我國數據安全市場的發展。我們認為，數據安全相關的體系建設與規劃、 數據分類分級等咨詢服務有望迎來黃金發展期。 數說安全研究院指出，2021 年我國數據安全市場規模約為 53 億元，同比增長 30.7%。

面對人工智能技術發展帶來的新機遇和新挑戰，如何應對人工智能風險并把握人工智能發展的戰略主動，有效保障國家安全，是全球國家安全治理的重要議題。10月18日，習近平總書記在第三屆“一帶一路”國際合作高峰論壇開幕式主旨演講中宣布，中方將提出《全球人工智能治理倡議》。《倡議》圍繞人工智能發展、安全和治理三個方面系統闡述了人工智能治理的中國方案。我們要保持戰略定力，增強戰略信心，統籌人工智能發展與安全，穩妥應對各種風險挑戰，為人工智能注入更多“安全基因”。　　近年來，隨著人工智能技術的快速發展，AI安全問題日益突出，各國政府紛紛出臺政策加強AI安全監管。我國政府也高度重視AI安全問題，出臺了一系列政策和措施，以保障AI安全和可控。其中，2022年國務院發布的《新一代信息技術產業發展規劃(2021-2025年)》明確提出要加強AI安全監管，強化AI安全技術研發和應用，加強AI安全風險防范。此外，工信部、公安部等部門也發布了一系列政策和指導意見，要求加強AI安全管理和監管，推動AI安全技術研發和應用，提升AI安全保障能力。

支持以人工智能技術防范人工智能風險，積極發展用于人工智能治理的相關技術開發與應用，貫徹敏捷治理和多維治理原則，積極構建多方參與的人工智能治理體系。

國家安全機關將強化科技賦能、數字賦能，不斷推進國家安全體系和能力現代化，為應對人工智能的風險挑戰筑牢國家安全屏障。

未來幾年，AI安全市場將持續增長。隨著技術的進步和法規的完善，AI安全將更加重視預防措施，實現從被動防御向主動預防的轉變。同時，隨著AI應用的深入，AI安全的需求將更加廣泛和多樣化，為行業發展提供更多機遇。企業需抓住機遇，加強技術創新和人才培養，以應對日益嚴峻的AI安全挑戰。

未來，隨著信息安全的邊界不斷延伸，AI安全行業產業需求將持續增長。我國AI安全行業市場規模持續增長，AI安全行業年復合增長率達到14.57%，市場規模從402.5億元增長至528.4億元。

AI安全行業研究報告旨在從國家經濟和產業發展的戰略入手，預測未來業務的市場前景，以幫助客戶撥開政策迷霧，尋找行業的投資商機。AI安全行業報告在大量的分析、預測的基礎上，研究了行業今后的發展與投資策略，為企業在激烈的市場競爭中洞察先機，根據AI安全行業市場需求及時調整經營策略，為戰略投資者選擇恰當的投資時機和公司領導層做戰略規劃提供了準確的AI安全行業市場情報信息及科學的決策依據。

AI安全市場調研如何?未來該行業市場機會在哪?更多行業具體詳情可以點擊查看中研普華產業研究院的報告《2022-2027年中國AI安全行業市場全景調研與發展前景預測報告》。

• 相關深度報告REPORTS

  

  2022-2027年中國AI安全行業市場全景調研與發展前景預測報告

  AI安全行業研究報告中的AI安全行業數據分析以權威的國家統計數據為基礎，采用宏觀和微觀相結合的分析方式，利用科學的統計分析方法，在描述行業概貌的同時，對AI安全行業進行細化分析，重點企業...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡