文 | 耿姍姍 中共北京市委黨?！脖本┬姓W(xué)院〕講師、北京黨內法規研究會(huì )秘書(shū)長(cháng)

近日，《北京市人工智能賦能新型工業(yè)化行動(dòng)方案（2025年）》發(fā)布，圍繞“人工智能與新型工業(yè)化”推出16條措施支持企業(yè)發(fā)展，特別針對加強智能安全保障、打造行業(yè)頭部大模型、提升裝備智能化水平等方面提出了一系列包含真金白銀的獎勵舉措。

人工智能作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰略性技術(shù)，在推動(dòng)經(jīng)濟社會(huì )發(fā)展的同時(shí)，也帶來(lái)算法偏見(jiàn)、數據泄露、倫理失序等安全風(fēng)險。習近平總書(shū)記在中共中央政治局第二十次集體學(xué)習時(shí)強調，要把握人工智能發(fā)展趨勢和規律，加緊制定完善相關(guān)法律法規、政策制度、應用規范、倫理準則，構建技術(shù)監測、風(fēng)險預警、應急響應體系，確保人工智能安全、可靠、可控。面對人工智能技術(shù)迭代加速與安全風(fēng)險交織的復雜局面，立足國家安全戰略全局，構建安全風(fēng)險防范體系是應時(shí)之舉。

當前，人工智能對國家安全、社會(huì )穩定和人類(lèi)文明構成系統性挑戰。從技術(shù)維度看，算法黑箱、數據偏差、模型缺陷等底層問(wèn)題持續存在，成功防范網(wǎng)絡(luò )攻擊難度較高，容易危及智慧醫療診斷精準度和金融風(fēng)控系統可靠性。從社會(huì )維度看，深度偽造技術(shù)可生成以假亂真的虛假信息，嚴重沖擊社會(huì )信任體系與意識形態(tài)安全防線(xiàn)。從文明維度看，系統暗含的算法歧視正在解構社會(huì )公平正義，自動(dòng)駕駛面臨的“電車(chē)難題”帶來(lái)倫理困境，這些挑戰不斷倒逼人類(lèi)文明新規范的建立。面對這些新形勢，構建涵蓋技術(shù)治理、風(fēng)險防控、倫理規約的立體化治理體系，是我國把握技術(shù)主導權的戰略選擇。

人工智能技術(shù)的快速發(fā)展，要求我們建立健全安全風(fēng)險防范體系，以保障技術(shù)的健康穩定發(fā)展。做好這項工作，要堅持系統觀(guān)念和問(wèn)題導向，探索形成有效的方法路徑，以點(diǎn)的突破帶動(dòng)面的提高。我國以制定全面、長(cháng)遠的國家級人工智能安全風(fēng)險防范戰略規劃為依托，構建系統完備的法律法規體系，強化制度約束。在此基礎上，加快制定和完善人工智能相關(guān)的法律法規，明確人工智能系統的開(kāi)發(fā)者、使用者和監管者在安全風(fēng)險防范方面的權利、義務(wù)和責任，將有利于確保人工智能產(chǎn)業(yè)有序發(fā)展。

目前，《新一代人工智能發(fā)展規劃》《生成式人工智能服務(wù)管理暫行辦法》等一系列部門(mén)規章業(yè)已發(fā)布，初步明確了數據安全、算法透明、責任追溯等核心規則。相關(guān)行政法規對企業(yè)公開(kāi)訓練數據來(lái)源、算法邏輯，對生成內容進(jìn)行標識等提出了要求，并進(jìn)一步推動(dòng)AI服務(wù)安全評估制度落地。針對深度偽造、自動(dòng)駕駛等重點(diǎn)領(lǐng)域，我國也有了初步的專(zhuān)項治理規范。當然，從長(cháng)遠發(fā)展考慮，還需針對數據安全、算法公平、隱私保護等問(wèn)題，出臺更為具體的實(shí)施細則和標準規范，使人工智能產(chǎn)業(yè)發(fā)展有法可依、有章可循。

人才是人工智能安全風(fēng)險防范的重要支撐。廣泛開(kāi)展人工智能安全宣傳教育活動(dòng)，面向政府、企業(yè)、社會(huì )組織和公眾，普及人工智能安全知識，提高全社會(huì )對人工智能安全風(fēng)險的認知水平和防范意識，十分重要。通過(guò)舉辦培訓講座、發(fā)布科普資料、開(kāi)展案例研討等多種形式，營(yíng)造全民關(guān)注、共同參與人工智能安全風(fēng)險防范的良好氛圍。加強人工智能安全專(zhuān)業(yè)人才培養體系建設，在高校中增設相關(guān)專(zhuān)業(yè)課程和專(zhuān)業(yè)方向，優(yōu)化課程設置，注重實(shí)踐教學(xué)環(huán)節，培養既懂人工智能技術(shù)又具備安全管理知識的復合型人才。鼓勵企業(yè)開(kāi)展內部培訓和技能提升活動(dòng)，建立人才激勵機制，吸引和留住優(yōu)秀人才，為人工智能安全風(fēng)險防范體系建設提供源源不斷的動(dòng)力。

加強人工智能安全風(fēng)險防范體系建設，既是技術(shù)命題，更是社會(huì )治理命題。我們應堅持科技發(fā)展與安全并重的原則，多方協(xié)同、多措并舉，積極應對人工智能發(fā)展帶來(lái)的安全挑戰，推動(dòng)人工智能技術(shù)朝著(zhù)安全、可靠、可控的方向發(fā)展，讓人工智能更好地服務(wù)國家、造福社會(huì )、惠及人民。