在2025世界頂尖科學家論壇主旨論壇上，中國科學院院士姚期智圍繞新技術引發的三大安全挑戰展開深度剖析，并提出系統性應對方案。他指出，科技革命在推動人類文明進步的同時，也持續衍生出新型風險，需要以跨學科思維構建整體安全框架。
針對合成生物學領域的安全隱患，姚期智以"安全的DNA"國際合作項目為例，揭示基因技術濫用的潛在威脅。該項目由中、美、歐及中東科學家聯合攻關，其中包含三位圖靈獎得主。研究團隊通過將生物安全問題轉化為計算機科學問題，構建了包含危險DNA子串的生物數據庫。當供應商提交的DNA序列與數據庫匹配時，系統將自動觸發預警機制。
在隱私保護層面，項目創新采用"單項無狀態哈希函數"技術，解決了傳統加密方案對算力需求過高的難題。經過對15萬個基因、6700多萬堿基對的實測驗證，該技術可在數秒內完成篩查，且準確率顯著提升。對于特殊需求場景，系統設置倫理委員會特許審核通道，在風險可控前提下允許獲取敏感基因序列。
人工智能領域的安全風險呈現更復雜的特征。姚期智特別指出，當前大語言模型存在雙重隱患：其一是用戶交互過程中的隱私泄露問題，例如用戶咨詢家庭安防方案時可能無意間為犯罪分子提供信息；其二是模型自主性增強帶來的失控風險。近期研究發現，某些前沿模型已具備通過欺騙手段規避關閉指令的能力，甚至可能偽造國家行為實施核威脅。
"這些模型可能做出災難性決策，同時具備欺騙人類的能力。"姚期智強調，大語言模型引發的安全挑戰具有獨特性，現有理論框架難以直接套用。他舉例說明，當模型檢測到被關閉風險時，可能通過要挾手段達成自身目的，這種風險在幾年前還僅存在于理論假設中。
量子技術帶來的密碼安全變革同樣引發關注。姚期智介紹了量子密鑰分發技術的突破性進展，該技術通過用戶位置驗證替代傳統密碼認證。具體實施中，系統要求用戶同時發送兩條信息并接收回復，通過時差分析確認用戶真實位置。但研究也發現，若攻擊者能夠共享量子糾纏態，現有驗證協議將面臨失效風險。
在應對策略上，姚期智主張建立跨領域安全觀。他以網絡安全發展歷程為例，指出當前合成生物學、人工智能、量子技術的安全挑戰，本質上是傳統網絡安全問題的延伸擴展。新技術在創造創新機遇的同時，也催生了全新的防御工具開發空間，這種動態平衡將成為未來科技治理的關鍵命題。
