AI時代，我們應該如何看待“安全”新命題？

不同于云計算時代的安全命題，AI時代的安全威脅不僅來自外部，還可能來自內(nèi)部，且威脅的性質(zhì)更加復雜和多樣化。能看到的是，安全挑戰(zhàn)正在擴展到企業(yè)AI體系的全生命周期，防護手段急需升級。

作者|斗斗

編輯|皮爺

出品|產(chǎn)業(yè)家

在短短10分鐘內(nèi)，一筆高達430萬元的巨款被騙走。這僅僅是AI技術(shù)普及后，由AI換臉、變聲等技術(shù)引發(fā)的違法犯罪案件冰山一角，直接觸及消費者身邊的安全問題。

奇安信發(fā)布的《2024人工智能安全報告》數(shù)據(jù)顯示，2023年基于AI的深度偽造欺詐案件激增了3000%。

生成式AI不僅為企業(yè)帶來速度、規(guī)模、精度和先進性等益處，也降低了攻擊者的技術(shù)門檻。過去，黑客生產(chǎn)一個攻擊病毒可能需要數(shù)月時間，但現(xiàn)在通過AGI（人工智能生成模型）工具，可能幾分鐘就能生成，黑客攻擊的效率和范圍因此大大提高。

另一組來自DeepInstinct的第四版報告指出，2024年有75%的安全專業(yè)人員目睹了網(wǎng)絡(luò)攻擊的增加，其中85%的攻擊由生成式AI驅(qū)動。

黑客不僅會利用AI技術(shù)威脅企業(yè)組織，還會嘗試攻擊企業(yè)的AI模型，即利用企業(yè)的AI來對付企業(yè)。例如，他們可能讓企業(yè)的AI對供應鏈做出錯誤預測，或者使聊天機器人產(chǎn)生仇恨情緒。他們還可以通過使用基于語言的提示來“破解”企業(yè)的LLM，使其泄露機密財務信息、創(chuàng)建易受攻擊的軟件代碼，或為企業(yè)的安全分析師提供錯誤的網(wǎng)絡(luò)安全響應建議。

此外，黑客還覬覦企業(yè)的大模型基礎(chǔ)設(shè)施。例如，2024年初，美國一個擁有數(shù)千臺服務器的算力集群就被攻破，并被用于挖掘比特幣。

AI，正在全方位“威脅”企業(yè)安全，包括網(wǎng)絡(luò)安全、軟件安全、數(shù)據(jù)安全、主機安全，以及倫理安全和人質(zhì)安全等多個方面，呈現(xiàn)出復雜性和多元性的特點。 這迫使許多企業(yè)不得不增加預算，以應對AI時代帶來的各種變數(shù)。

根據(jù)IBM的“生成式AI時代的網(wǎng)絡(luò)安全研究報告”，高管們表示，他們2023年的AI網(wǎng)絡(luò)安全預算比2021年增加了51%，并預計到2025年，這些預算將再增加43%。

在AI引導 的新一輪技術(shù)革命中，技術(shù)服務商既需要利用AI技術(shù)提升安全能力和運營效率，又需要助力對抗新技術(shù)帶來的新風險。而對于企業(yè)來說，必須緊跟時代步伐，但如何規(guī)避沿途的危險，成為了一個亟待解決的問題。

AI時代，安全這道題如何解？

一 、AI技術(shù)，發(fā)展的“暗面”

“狹義的數(shù)據(jù)安全是免受篡改和破壞，但是廣義的數(shù)據(jù)安全是包括數(shù)據(jù)的可靠性、安全性、服務內(nèi)容的安全性，在人工智能時代，還會擴展數(shù)據(jù)安全的內(nèi)涵，當然也會放大數(shù)據(jù)安全的風險?！?/strong> 中國工程院院士鄔賀銓曾說道。

一個事實是，在AI時代，數(shù)據(jù)安全的定義正在發(fā)生變化。AI技術(shù)的脆弱性和對數(shù)據(jù)的強依賴性，使得企業(yè)在享受AI帶來的便利時，也面臨著前所未有的數(shù)據(jù)安全挑戰(zhàn)。

企業(yè)想要實現(xiàn)AI賦能，首要步驟便是收集大量、多樣且具代表性的訓練數(shù)據(jù)。 然而，這些數(shù)據(jù)的來源可能并不安全，收集過程中存在 被竊取的風險，甚至可能因未經(jīng)同意而違反隱私政策和法律。

數(shù)據(jù)收集之后，還需經(jīng)過清洗、標注和增強等處理環(huán)節(jié)。若此過程中有惡意數(shù)據(jù)注入，將直接導致模型訓練偏差，進而影響模型決策的準確性。奇安信數(shù)據(jù)安全首席科學家劉前偉曾強調(diào)：“標注數(shù)據(jù)的防篡改要求非常高，因為它是確保大模型質(zhì)量最重要的保障?！?/strong>

接下來，就是基于底層大模型訓練，需要使用專有數(shù)據(jù)對基礎(chǔ)模型進行微調(diào)和訓練，并保存成新的版本。

如果是合作模式，比如現(xiàn)在很多高校與企業(yè)或者企業(yè)與企業(yè)之間合作開發(fā)大模型。這種模式則需要共享數(shù)據(jù)資源，以增強模型訓練效果，并共同進行模型訓練和優(yōu)化。

但無論哪種模式，都會面臨一定的數(shù)據(jù)安全問題。比如基于底層大模型訓練模式以及合作模式下，會出現(xiàn)這樣一種狀況，即雙方都想利用對方的數(shù)據(jù)，但是都不愿意把自身的數(shù)據(jù)完整的交給對方，如果交給第三方，也不一定相信第三方非常公正和安全。

此外，模型設(shè)計、訓練、調(diào)優(yōu)、測試和部署等環(huán)節(jié)同樣不容忽視。特別是云部署模式，企業(yè)需根據(jù)自身業(yè)務需求選擇私有云、社區(qū)云、公共云或混合云。然而，每種部署模式都面臨不同的數(shù)據(jù)安全問題。

對私有云而言，其本地存儲的數(shù)據(jù)如果缺乏有效的加密和訪問控制，可能會被未經(jīng)授權(quán)的用戶訪問。有權(quán)訪問敏感信息的員工可能會無意中或故意泄露數(shù)據(jù)。

公有云更是如此，其基于云端的數(shù)據(jù)更容易受到黑客攻擊和數(shù)據(jù)泄露的風險，公有云服務的用戶必須要正確配置身份驗證和訪問控制，否則可能導致數(shù)據(jù)泄露。

混合云架構(gòu)通常涉及不同云計算提供商的基礎(chǔ)設(shè)施，數(shù)據(jù)在傳輸過程中可能被截獲。 且在混合云環(huán)境中，身份驗證和授權(quán)變得復雜，需要統(tǒng)一的身份和訪問管理工具來確保安全。在混合云中，數(shù)據(jù)如果沒有得到適當?shù)娜哂嗪蛡浞荩瑪?shù)據(jù)丟失的風險會變得很大。

可以說，面對AI時代的復雜性和動態(tài)性，傳統(tǒng)的數(shù)據(jù)安全舉措已難以應對新的挑戰(zhàn)。企業(yè)需采取全面的安全策略，并持續(xù)進行技術(shù)改進，以最大限度地減少數(shù)據(jù)安全風險。這要求企業(yè)在數(shù)據(jù)收集、處理、存儲和傳輸?shù)雀鱾€環(huán)節(jié)都保持高度警惕，確保數(shù)據(jù)的安全性和可靠性。

二 、AI對抗“AI”

在AI時代背景下，企業(yè)數(shù)據(jù)安全成為了不可忽視的重大課題。為了確保數(shù)據(jù)的完整性與保密性，一系列策略與技術(shù)應運而生。

數(shù)據(jù)加密作為數(shù)據(jù)治理的基礎(chǔ)防線，如同為數(shù)據(jù)穿上了一層堅不可摧的防護服， 無論是在數(shù)據(jù)傳輸還是存儲過程中，都能有效抵御外部威脅。此外，同態(tài)加密技術(shù)的引入，更是為數(shù)據(jù)的加密防護增添了新的維度。它允許數(shù)據(jù)分析者在不解密的前提下對數(shù)據(jù)進行處理，既保障了數(shù)據(jù)的安全性，又滿足了數(shù)據(jù)分析的需求。

在數(shù)據(jù)標注與增強環(huán)節(jié)，訪問控制和多因素認證機制扮演著至關(guān)重要的角色。 它們?nèi)缤潜さ氖匦l(wèi)，嚴格把控著數(shù)據(jù)的入口，確保只有經(jīng)過授權(quán)的用戶才能訪問數(shù)據(jù)。同時，數(shù)據(jù)脫敏技術(shù)的應用，則為敏感信息披上了一層神秘的面紗，即使在必要的交流過程中，也能有效保護數(shù)據(jù)的隱私性。

模型安全方面，對抗性攻擊的防御機制和模型水印技術(shù)為模型的安全保駕護航。 它們?nèi)缤潜ぶ械南葳迮c哨兵，時刻警惕著潛在的威脅，確保模型不受惡意攻擊和非法使用的侵害。

針對AI時代數(shù)據(jù)共享難題，隱私計算和多方同態(tài)加密技術(shù)提供了有效的解決方案。 通過特定的密鑰控制，實現(xiàn)數(shù)據(jù)的加密計算，確保數(shù)據(jù)在共享過程中既可用又不可見。此外，分布式存儲與密鑰控制技術(shù)的結(jié)合，也為數(shù)據(jù)的按需調(diào)用與解密計算提供了便捷的途徑。

值得注意的是，在生成式人工智能時代，數(shù)據(jù)安全所面臨的挑戰(zhàn)愈發(fā)復雜多變。生成式AI以其強大的創(chuàng)造力，不斷催生新的數(shù)據(jù)和內(nèi)容，同時也為數(shù)據(jù)安全帶來了新的風險。這些風險往往具有動態(tài)性和不可預測性，傳統(tǒng)的安全檢測方法可能難以有效應對。

面對這一挑戰(zhàn)，企業(yè)不能僅僅依賴人工或固定的檢測方法，而應借助AI的力量，以AI對抗AI。

目前，越來越多的企業(yè)開始將AI技術(shù)應用于數(shù)據(jù)安全領(lǐng)域，通過機器學習和深度學習技術(shù)，實時監(jiān)測網(wǎng)絡(luò)流量，識別異常行為，實現(xiàn)快速響應潛在的安全威脅。AI不僅能夠自動化安全策略的制定和實施，提高安全防護的效率和準確性，還能通過學習正常的網(wǎng)絡(luò)行為模式，識別出與眾不同的行為，實現(xiàn)早期威脅檢測。

IBM商業(yè)價值研究院的研究顯示，64%的高管已將網(wǎng)絡(luò)安全確定為生成式AI用例的首要任務，84%的人表示他們計劃優(yōu)先考慮生成式AI網(wǎng)絡(luò)安全解決方案，而非傳統(tǒng)的網(wǎng)絡(luò)安全解決方案。這一趨勢表明，AI在數(shù)據(jù)安全領(lǐng)域的應用正逐漸成為主 流。

以阿里云發(fā)布的實人認證產(chǎn)品為 例，該產(chǎn)品能夠有效對抗Deepfake攻擊，提供八大Deepfake鑒偽能力，日均攔截攻擊量高達25萬次，攻擊攔截率高達99%。該模型還具備分鐘級自我更新能力，能夠應對不斷迭代的攻防技術(shù)，確保數(shù)據(jù)安全。

總之，在不斷變化的風險環(huán)境中，技術(shù)服務商需要借助AI的力量來應對數(shù)據(jù)安全的新挑戰(zhàn)。通過不斷研發(fā)和優(yōu)化AI安全產(chǎn)品和技術(shù)，更好地保護企業(yè)的數(shù)據(jù)安全，為AI技術(shù)的健康發(fā)展提供有力保障。

三、技術(shù)高峰中的安全洼地

一組引人深思的數(shù)據(jù)顯示，2023年，國內(nèi)26家上市網(wǎng)絡(luò)安全企業(yè)中，有3/4處于虧損境地。然而，僅2024年上半年，就已曝出多起影響深遠的數(shù)據(jù)泄露事件，涉及的記錄數(shù)量驚人，高達十億條。

這種強烈的反差揭示了一個嚴峻的現(xiàn)實：盡管企業(yè)對安全技術(shù)有著迫切的需求，但技術(shù)供應商卻普遍面臨虧損。

背后的原因何在？

《2022年中國企業(yè)數(shù)據(jù)安全現(xiàn)狀調(diào)查報告》揭示了其中的關(guān)鍵：超過半數(shù)的企業(yè)認為，市場上的數(shù)據(jù)安全產(chǎn)品和服務僅能滿足其不到60%的需求。這意味著，現(xiàn)有的數(shù)據(jù)安全解決方案存在明顯的不足，導致企業(yè)在數(shù)據(jù)安全方面的投資未能達到預期效果，無法有效抵御數(shù)據(jù)泄露和網(wǎng)絡(luò)攻擊的風險，進而造成資金損失。

需求和供給嚴重不匹配。

此外，在日益復雜的安全管理環(huán)境下，企業(yè)往往面臨著諸多碎片化的安全問題。公開數(shù)據(jù)顯示，企業(yè)平均部署的安全產(chǎn)品和工具多達76個，而混合云的滲透率也在逐年攀升，這無疑增加了安全管理的復雜度。

因此，一個能夠全方面解決AI安全問題的方案顯得尤為重要。

一個事實是，不同于云計算時代的安全命題，AI時代的安全威脅不僅來自外部，還可能來自內(nèi)部，如AI系統(tǒng)的誤判、偏見、數(shù)據(jù)泄露等。且威脅的性質(zhì)更加復雜和多樣化，包括數(shù)據(jù)隱私、算法偏見、模型安全等多個方面。安全挑戰(zhàn)也擴展到AI系統(tǒng)的全生命周期，包括設(shè)計、研發(fā)、訓練、測試、部署、使用、維護等各個環(huán)節(jié)。

所以，AI安全的防護手段需要進一步的補足。這種補足不僅涉及規(guī)范層面的完善，還需要具體的技術(shù)和管理措施來支撐。

比如制定嚴格的數(shù)據(jù)隱私保護法規(guī)，明確數(shù)據(jù)使用的范圍和目的，以防止數(shù)據(jù)濫用和泄露；制定統(tǒng)一的人工智能安全認證標準和規(guī)范，對AI技術(shù)和系統(tǒng)進行評估和認證；建立起AI的安全標準體系，確保各種AI系統(tǒng)都能夠遵循相應的安全規(guī)范。

9月9日，全國網(wǎng)絡(luò)安全標準化技術(shù)委員會正式發(fā)布了《人工智能安全治理框架》1.0版（以下簡稱《框架》），并提出了AI安全治理原則，將AI安全風險分為內(nèi)生安全風險和應用安全風險兩種，并針對兩種風險分別提出了技術(shù)應對措施。該《框架》的發(fā)布將促進AI產(chǎn)業(yè)安全有序發(fā)展，加速AI技術(shù)規(guī)范化發(fā)展。

在具體的舉措方面。目前，市場上已經(jīng)出現(xiàn)了一些針對AI安全的解決方案。例如，奇安信集團推出的國內(nèi)首個AI安全整體應對方案，涵蓋了AI安全框架、解決方案、評估服務和檢測工具等多個方面。

同時，大模型廠商也推出了全棧式的安全防護體系。如阿里云的模型全生命周期安全防護體系和百度智能云的全棧式服務能力等。這些解決方案不僅涵蓋了數(shù)據(jù)的采集、模型設(shè)計、訓練、評測、部署和使用等各個階段，還提供了豐富的安全產(chǎn)品和技術(shù)支持，幫助企業(yè)構(gòu)建全方位的數(shù)據(jù)安全防護體系。

未來，數(shù)據(jù)安全這個命題，隨著越來越多的AI應用落地，其定義或?qū)⒏訌V泛，面臨的挑戰(zhàn)亦越來越大。只有時刻保持警惕，不斷創(chuàng)新，加強合作，才能共筑起一道堅不可摧的數(shù)據(jù)安全長城。