在人工智能技術加速滲透各領域的當下，AI智能體作為承載復雜任務的核心載體，其安全性問題正引發社會高度關注。9月16日國家網絡安全宣傳周期間，中國電信聯合公安部第三研究所、華為、螞蟻集團、清華大學、上海交通大學及《信息安全研究》雜志社等十余家單位，共同發布了行業首個《AI智能體安全治理》白皮書，為構建智能體安全生態提供系統性解決方案。
該白皮書深度剖析了AI智能體在環境感知、決策規劃、學習記憶及任務執行等關鍵環節存在的安全隱患。研究團隊通過梳理國際最新技術動態，系統歸納出智能體全生命周期中可能遭遇的12類風險場景，涵蓋數據泄露、算法偏見、決策失控等核心問題。針對這些風險，白皮書創新性地提出"全層級-全周期"防護框架，明確劃分技術防護、管理管控、法律規制三層防御體系，并制定涵蓋數據加密、模型審計、應急響應等33項具體防控措施。
在實踐層面，白皮書詳細披露了中國電信與合作伙伴在金融、交通、醫療等領域的落地案例。例如在智能客服場景中，通過動態身份核驗與行為軌跡分析技術，有效攔截了98.7%的異常操作請求；在自動駕駛領域，建立的"感知-決策-執行"三級驗證機制，使系統容錯率提升至99.99%。這些實踐為行業提供了可復制的安全治理模板。
參與編制的專家指出，AI智能體安全治理需要技術、管理、法律三方面協同推進。清華大學團隊提出的"可信增強學習"框架，通過在算法層嵌入安全約束模塊，使智能體在復雜環境中仍能保持合規決策；上海交通大學研發的"動態風險評估引擎"，可實時監測智能體行為偏離度，及時觸發熔斷機制。這些技術突破為構建安全可控的AI生態奠定基礎。
隨著智能體技術的快速發展，其安全治理已成為關乎數字社會穩定的關鍵命題。中國電信表示，將持續深化與產學研用各方的合作，推動建立智能體安全認證體系，完善從芯片層到應用層的全鏈條防護機制，為人工智能技術健康發展筑牢安全基石。
