美國國防部再次發起AI安全“軍備競賽” 加速建立AI安全攻防研究、驗證機制迫在眉睫
2024-07-15
中國智能產業網
2024年8月，美國國防部高級研究計劃局 DARPA 發起的 AIxCC 人工智能網絡安全挑戰賽將迎來半決賽。該賽事將大語言模型等最新AI技術引入網絡安全競賽，希望驗證大語言模型技術在智能攻防領域的應用價值，孕育出一個針對開源代碼的自動化漏洞發現系統，智能挖掘、檢測和修復關鍵基礎設施的軟件安全問題。
在大模型技術突飛猛進的今天，作為一個具有極高戰略視野的機構，DARPA再一次將目光鎖定在人工智能和網絡安全領域，他們要如何顛覆AI自動化攻防技術創新？
新一代信息技術革命浪潮下，我們又應如何加速創新技術孵化，縮小與美國網絡安全產業界間的技術差距？本文我們將通過觀察分析DARPA的一系列探索實踐，分享永信至誠的思考。
DARPA試圖“改變游戲規則”
以“舉國體制”推動自動化攻防技術跨越發展
作為美國國防部下屬的一個研究機構，DARPA的使命是開展“改變游戲規則”的高風險、高價值、高回報技術研發，以保持美國在各個科技領域的領先，順便謀求對未來能夠在全球范圍內實現技術壟斷和封鎖。數十年來，DARPA在包括互聯網技術、全球定位系統（GPS）、隱身戰機技術等領域已經取得了一系列顯著成就，確保了創新果實的不斷涌現，對維護國家安全也發揮了重要作用。
在人工智能領域，DARPA也一直在不斷探索新的理論和應用，包括在自然語言理解和識別研究（AI實時翻譯、情報數據分析）、圖像理解學習與感知（自動駕駛）、人工智能基礎設施研究（大語言模型、人工智能魯棒性）等方向，都進行了深入的研究和投資。
DARPA的背后實際上有著一整套美國特色的“舉國體制”在支持，他并非傳統意義上的計劃體制，而是一種國家層面的戰略規劃和資源配置，通過政府、市場和社會力量三者之間的協同，以政府引導和市場投資的方式，實現在關鍵技術領域的突破和領先。
DARPA的成功之處在于，它不斷地通過自身超越行業、領域的格局和戰略視野，為學術界和產業界指明未來的模糊方向，去錨定高風險、高價值、高收益的項目，投入大量的資源和資金支持，來激發科研團隊和社會力量的研究興趣，一旦證實這些項目具備可行性，DARPA就會通過持續的投資，將這些創新技術成果轉化成為美國科技領先的動力。這也是DARA這個機構的核心價值所在。
在這整個過程中，DARPA并不追求利益回報，而是以國家利益為最高的目標，希望在不同的技術領域點燃火種，通過公平的競爭培育出能夠“改變游戲規則”的創新的技術成果和科技人才。
2014年舉辦CGC網絡超級挑戰賽
點燃自動化漏洞檢測技術研究的火種
2014年，DARPA 發起CGC網絡超級挑戰賽（Cyber Grand Challenge），試圖推動建立一套自動攻防系統來對軟件的漏洞進行檢測和修復，解放網絡安全專家的生產力。該賽事歷時兩年，2016年夏季，在全球最知名的DEF CON黑客大賽的舞臺上完成了最終的決賽。
這場比賽啟發了全球網絡安全科研院所和機構開啟自動化測試技術研究，讓fuzz模糊測試這項技術受到前所未有的關注，對于全球網絡安全行業來說都具有十分重要的意義，堪稱開啟了AI安全的新時代。
在長達兩年的賽程中，DARPA在CGC競賽的初賽、半決賽和決賽各個階段，為參賽團隊們提供了大量的扶持資金，有美國媒體報道，這場比賽最終耗資高達數千萬美元。并且在賽事結束后，DARPA還直接主導了美國國防部與冠軍團隊ForAllSecure的合作，通過注資和采購，將該團隊在比賽中打造的Mayhem智能化漏洞掃描系統引入國防部武器軍事系統，推廣至美國軍方多個部門。
圖/Mayhem智能化漏洞掃描系統
CGC網絡超級挑戰賽是一次非常成功的探索，它耗時2年斥資數千萬美元，不計成本不計回報的長期投入，促進“自動化測試技術”從一個AI安全技術框架，轉向技術路徑可行性驗證，最終落地應用到產業界。通過競賽的形式選拔和培育全國最優秀的網絡安全科研人才和技術產品，推廣轉化為整個國家的科技競爭力，整個賽事歷程展現了DARPA在助推產業創新技術發展方面的巨大能量。
值得關注的一點的是，DARPA在CGC的競賽手冊中提到，“參賽團隊必須包含一名美國隊員”，并且“團隊負責人必須講英語”，讓我們看到DARPA的在技術封鎖方面的企圖，他們希望由美國政府花錢花時間投喂出來的技術成果，未來一定要掌握在美國手中。
2023年發起AIxCC 人工智能網絡安全挑戰賽
推動自動化漏洞檢測技術進入新一輪變革
2022年底開始，以大語言模型為核心的AIGC生成式人工智能帶來了一場劃時代的產業變革。在網絡安全行業中，大模型也被寄予厚望，期待能夠解決過去困擾行業多年的安全防御人才短缺的現實問題。
在這樣的時代背景下，DARPA再次率先宣布，啟動AIxCC人工智能網絡安全挑戰賽，聯合Anthropic、谷歌和OpenAI等當前大模型行業巨頭共同開啟第二次圍繞AI安全的探索。DARPA表示，發起AIxCC的目的是凝聚人工智能和網絡安全領域最優秀、最聰明的人，保衛全體美國公民所依賴的軟件。
這一次，相比CGC競賽而言，DARPA點燃的第二顆火種更具確定性。
圖片來源：AIxCC競賽官網-賽事介紹
DARPA在賽事背景中透露，AIxCC旨在啟發技術專家跨行業合作，利用我們所擁有的所有工具，找出解決基礎設施面臨的一些最關鍵弱點的解決方案。比賽中鼓勵參與者使用大語言模型、模糊測試和程序分析技術，來理解和解決開源軟件中的漏洞，評估大語言模型在網絡安全攻防中的潛力。
可見，DARPA舉辦AIxCC的目的十分明確：其一是想要培育出一個能夠工程化地對開源代碼進行審計的自動化漏洞發現、驗證和修復系統；其二是探究AI大語言模型在協助機器人程序開展代碼審計方面的價值。最終通過將LLM大語言模型與自動化系統的結合，來實現更高效的漏洞發現、驗證和修復的閉環。
其中，“開源軟件”“大語言模型”“攻防”是三個不容忽視的關鍵詞。如果說上一次舉辦CGC競賽時，DARPA是想開發一批能夠實時發現、證明和修復軟件缺陷的自動防御系統，催化自動化漏洞檢測技術的進步，那么舉辦AIxCC競賽，就是想以大語言模型技術和算力推動這項技術進入新一輪變革，以更加工程化的方式識別、驗證和修復關鍵軟件漏洞。
在AIxCC競賽說明中，也明確提到“每個參賽團隊必須包括至少1名美國公民”“團隊負責人必須講英語”的規定。
圖：AIxCC競賽官網-賽制說明
AIxCC官網公布的賽制說明中也介紹，在比賽中所有參賽團隊都會獲得一個挑戰項目集，其中每個挑戰項目都會基于現實世界中正在運行的開源項目引入漏洞，再以GitHub存儲庫的形式發放，參賽團隊編寫的CRS自動化推理系統需要對代碼存儲庫中的代碼進行程序分析（代碼審計），通過編寫新的代碼來實現對漏洞的發現、驗證和修復，最終提交一個修復補丁文件證明自己能夠獨立實現整個漏洞發現到修復的閉環。
在整個比賽的過程中，Anthropic、谷歌和OpenAI作為聯合主辦方會給參賽團隊提供大模型算力資源，幫助參賽的這些機器人程序能夠更高效地完成代碼審計工作。
事實上，除了Anthropic、谷歌和OpenAI這三家大模型巨頭外，DARPA還邀請了微軟作為聯合主辦方。在比賽中，作為GitHub開源軟件開發平臺的實際擁有者，微軟扮演的角色也耐人尋味。
據公開數據，當前GitHub平臺中已有超過數千萬個開源代碼倉庫，這些開源項目又被開發人員納入全球各個領域的數字化應用中。一旦證實將LLM大語言模型用于自動化漏洞發現和修復具備可行性，那么這也就意味著，DARPA背后的美國國防部能夠同時得到“最鋒利的矛”和“最堅固的盾”。在大國對抗的背景下，美國將占據更多的優勢和主動權。
在中國，RHG競賽已開啟實踐先河
AI自動化攻防技術發展挑戰與機遇并存
受到DARPA和CGC的啟發和鼓舞，為了推進在網絡安全行業內推進及其自動化和智能化的進程，2017年永信至誠春秋GAME發起了Robo Hacking Game（RHG）人工智能網絡安全競賽，邁出我國在人工智能網絡安全領域關鍵性的一小步。
對比來看，2016年決賽落幕后，DARPA便停辦了CGC競賽，直至新一輪AI浪潮來臨才順勢啟動該賽事的進化版本——AIxCC競賽，以更深入的推進AI安全自動化攻防技術創新。
但在中國，永信至誠打造的RHG競賽在2017年初次舉辦后，后續在“黃鶴杯”RHG機器人網絡安全大賽、百度網絡安全技術對抗賽BCTF、“縱橫杯”網絡安全競賽、“網鼎杯”網絡安全大賽、“隴劍杯”網絡安全大賽等大規模賽事中都得到了延續。RHG持續吸引了眾多國內一線科研單位、研究院所積極響應與參與到人工智能網絡安全對抗研究中來。
基于RHG競賽的相關技術沉淀，永信至誠還推出了擁有自主知識產權的RHG（Robo Hacking Game）智能靶場平臺，為人工智能相關技術在網絡安全攻防領域的創新應用提供科研、效能驗證基礎設施。永信至誠賽事團隊也不斷將自身對人工智能攻防的新思考和新成果投入到RHG平臺中，為網絡安全領域人工智能創業團隊的成長提供了土壤，協助孕育出了多項人工智能堆溢出漏洞的分析及利用等國際領先的技術成果。
作為全球唯一持續運營的AI網絡安全競賽
RHG長期受到美國國家安全智庫跟蹤研究
作為全球唯一在持續運營的人工智能網絡安全領域的專業競賽及測試平臺，RHG的影響力和專業水平還長期受到美國國家安全智庫——CSET安全與新興技術中心（Center for Security and Emerging Technology，簡稱CSET）的跟蹤研究，成為了全球網絡安全攻防技術發展的重要研究對象。
圖/CSET發布針對RHG的跟蹤研究報告
在大語言模型和人工智能技術正在推動網絡安全產業深入變革的今天，新一代信息技術浪潮下蘊含著巨大機遇，也意味著巨大的挑戰。
從2017年初次舉辦發展至今，RHG已不僅僅是一個競賽模式和智能靶場平臺的簡稱，它還成為國內各界乃至國際對于人工智能網絡安全攻防賽事的簡稱。作為中國網絡安全競賽的主要推動者和引領者，永信至誠也希望借此次DARPA舉辦AIxCC網絡安全競賽的行業熱點話題再次呼吁社會各界提高對AI安全的關注，加注AI安全自動化攻防技術創新研究、驗證。
在國家戰略層面，掌握先進的AI安全自動化技術對于維護國家安全和網絡空間的主權至關重要。在美國網絡安全技術的快速發展，特別是美國國防部AIxCC挑戰賽所展現的AI與網絡安全深度融合的趨勢下，中國人工智能網絡安全賽事的升級和創新勢在必行，以不斷適應新的技術環境，融合最新的AI技術發展成果，更好地服務于國家網絡安全戰略需求。
美國國防部這樣以高水平網絡安全競賽帶動技術創新，進而推動國防安全技術進步的創新合作模式也同樣值得我國參考借鑒，我國也繼續探索建立一套政產學研用協同的機制，推動AI安全智能攻防技術的研究成果轉化為實際應用，特別是在國防、關鍵基礎設施保護等重要領域的落地。也唯有這樣，方能迅速縮小與美國網絡安全行業之間的差距，方能在大國戰略競爭中站穩腳跟，搶占先機。
永信至誠表示，作為RHG賽事的創始者和組織者，公司希望充分發揮在測試評估、賽事演練和人才培養方面的優勢，推動RHG人工智能網絡安全競賽升級，創新人工智能競賽模式，為人工智能網絡安全人才的成長提供土壤，為AI安全智能攻防研究提供測評評估試驗床，為網絡強國戰略奉獻自己的一份力量。
推薦廠商
廠商動態
- “傳統服務”到“自主駕馭”：YonSuite企業AI如何賦能企業客戶成功？
- 宇樹G1格斗比賽央視直播：開啟全球人形機器人格斗競技新時代
- AI賦能重構智慧家居生態，科大訊飛與海爾定義“溫度科技”新范式
- 微核芯的RISC-V哲學：打造無限可能的“萬能積木”
- 科大訊飛攜手海爾打造AI電視新標桿，重構家庭智慧中樞
- 打卡天貓2025AWE展 預感AI電商全場景經營趨勢 將在家裝家電家居領域興起
- 天貓率先為家電家居家裝商家配備全鏈路AI工具 作圖、客服、直播等全覆蓋
- 金皇冠智能科技發明專利：自適應調節整平板角度的混凝土整平機器人
- 神州問學發布全新AI產品“愛問學”，重構個人AI工具新范式
- 神州鯤泰問學一體機DeepSeek版發布：垂直場景深度賦能，破局企業AI落地難題