9月9日，在2024年國家網絡安全宣傳周主論壇上，全國網絡安全標準化技術委員會（以下簡稱網安標委）發布《人工智能安全治理框架》1.0版（以下簡稱《框架》）。

 

      《框架》提出，為貫徹落實《全球人工智能治理倡議》，網安標委研究制定了《框架》。《框架》以鼓勵人工智能創新發展為第一要務，以有效防范化解人工智能安全風險為出發點和落腳點，提出了包容審慎、確保安全，風險導向、敏捷治理，技管結合、協同應對，開放合作、共治共享等人工智能安全治理的原則。

 

      《框架》提到，人工智能系統設計、研發、訓練、測試、部署、使用、維護等生命周期各環節都面臨安全風險，既面臨自身技術缺陷、不足帶來的風險，也面臨不當使用、濫用甚至惡意利用帶來的安全風險。

 

       其中人工智能內生安全風險包括模型算法安全風險、數據安全風險、系統安全風險。人工智能應用安全風險包括網絡域安全風險、現實域安全風險、認知域安全風險和倫理域安全風險。

 

       針對相關風險，《框架》指出要不斷提高人工智能可解釋性、可預測性，為人工智能系統內部構造、推理邏輯、技術接口、輸出結果提供明確說明，正確反映人工智能系統產生結果的過程。在設計、研發、部署、維護過程中建立并實踐安全開發規范，盡可能消除模型算法存在的安全缺陷、歧視性傾向，提高魯棒性。

 

 

       網安標委秘書處相關負責人表示，《框架》的發布，對推動社會各方積極參與、協同推進人工智能安全治理具有重要促進作用，為培育安全、可靠、公平、透明的人工智能技術研發和應用生態，促進人工智能的健康發展和規范應用，提供了基礎性、框架性技術指南。同時，也有助于在全球范圍推動人工智能安全治理國際合作，推動形成具有廣泛共識的全球人工智能治理體系，確保人工智能技術造福于人類。

 

來源：綜合自網安標委網站、北京商報