在近日舉辦的Xcon安全峰會上，聯想全球安全實驗室專家張嘉琦以“虛擬人格的安全邊界——AI數字人生態攻防”為主題，系統剖析了數字人產業快速擴張背后的安全挑戰。據統計，2017至2025年間，中國虛擬人核心市場規模呈現指數級增長，功能型與伴侶型數字人已深度滲透電商直播、客戶服務、教育娛樂等場景。以羅永浩數字分身、京東“東哥”數字人直播帶貨為代表的應用案例，驗證了技術落地的商業價值，但同時也暴露出技術棧復雜、權利邊界模糊等深層隱患。
數字人生態的技術架構由前端展示層、應用服務層、AI核心層與基礎設施層構成，每個層級均存在可被利用的攻擊面。張嘉琦展示的威脅全景圖顯示，攻擊者可能通過應用交付漏洞篡改數字人交互邏輯，或利用編排服務缺陷實現流量劫持。在AI核心引擎層面，模型供應鏈投毒、對抗樣本攻擊等技術可直接影響數字人決策能力，而基礎設施層的配置錯誤則可能導致整個系統癱瘓。典型攻擊案例中，某電商平臺曾因提示詞注入漏洞，導致數字人主播在直播過程中自動觸發違規商品鏈接；另有攻擊者通過同義詞替換技術，繞過內容審核機制傳播違法信息。
合規風險同樣不容忽視。深度偽造（DeepFake）技術的濫用已引發多起身份冒用事件，某金融機構數字客服因語音合成漏洞被偽造，造成客戶資金損失。更嚴峻的是，當前AI生成內容缺乏統一標識規范，導致虛假信息溯源困難。某社交平臺曾出現大量AI生成的虛假新聞，因無法追溯生成源頭，最終只能采取全平臺內容下架的極端措施。這些案例凸顯出構建數字人安全體系的緊迫性。
針對多維安全威脅，張嘉琦提出分層防御策略：在AI模型與數據安全層面，需建立供應鏈全生命周期審查機制，對訓練數據實施動態加密，并通過輸入凈化技術過濾惡意指令；內容安全領域應部署實時審核系統，結合數字水印與區塊鏈技術實現內容溯源；應用服務層需嚴格管控API接口權限，采用差分隱私技術保護用戶交互數據；基礎設施層則要通過網絡隔離、系統加固與異常行為監測構建縱深防御體系。某數字人生成平臺已應用上述策略，成功攔截97%的模型投毒攻擊，并將內容違規率降至0.03%以下。
隨著《生成式人工智能服務管理暫行辦法》等法規的落地，數字人產業正進入合規化發展新階段。張嘉琦強調，安全防護不是單一技術問題，而是需要技術、法律、倫理多維度協同的系統工程。只有構建起覆蓋全生命周期的安全體系，才能確保數字人技術在推動產業升級的同時，真正成為可信的數字化伙伴。
