重視AI安全，不是給這輛疾馳向未來(lái)的列車(chē)套上枷鎖，而是鋪平軌道，讓其沿著(zhù)健康可持續的方向，跑得更快、更穩

人工智能浪潮奔涌向前，帶來(lái)前所未有的發(fā)展機遇，也帶來(lái)不容忽視的風(fēng)險挑戰?！奥曇艨寺　睂е码娦旁p騙防不勝防，“換臉視頻”引發(fā)的造謠誹謗時(shí)有出現，“AI幻覺(jué)”讓生成內容真假難辨……今天，技術(shù)的“雙刃劍”效應愈發(fā)具象化。經(jīng)濟合作與發(fā)展組織數據顯示，2024年AI風(fēng)險事件總數比2022年增加了約21.8倍，并呈快速發(fā)展態(tài)勢。

有人認為，當下正值AI搶位發(fā)展關(guān)鍵期，不應做過(guò)多限制；有人則覺(jué)得，技術(shù)問(wèn)題會(huì )隨發(fā)展自行得到解決，不必過(guò)早干涉。其實(shí)不然。要看到，一方面，“先放手后治理”，可能讓“小風(fēng)險”逐步疊加，變?yōu)椤按髥?wèn)題”，治理代價(jià)會(huì )更大；另一方面，規范并不等于“設限”，如果放任技術(shù)沿著(zhù)有違公序良俗、有悖產(chǎn)業(yè)規律的方向狂奔，有可能導致錯失發(fā)展良機。重視AI安全，不是給這輛疾馳向未來(lái)的列車(chē)套上枷鎖，而是鋪平軌道，讓其沿著(zhù)健康可持續的方向，跑得更快、更穩。

習近平總書(shū)記指出：“要把握人工智能發(fā)展趨勢和規律，加緊制定完善相關(guān)法律法規、政策制度、應用規范、倫理準則，構建技術(shù)監測、風(fēng)險預警、應急響應體系，確保人工智能安全、可靠、可控?！甭鋵?shí)好這一重要要求，才能平衡技術(shù)發(fā)展與安全，推動(dòng)人工智能更好造福社會(huì )。

技術(shù)每前進(jìn)一步，治理就要跟進(jìn)一步。時(shí)時(shí)有邊界，技術(shù)方能在合理框架內有序前行，不越界；規矩跟得上，技術(shù)才會(huì )在正確軌道上穩健發(fā)展，不逾矩。技術(shù)發(fā)展的歷程，也應是政策法規不斷完善的過(guò)程。

持續織密安全防護網(wǎng)，既要為發(fā)展劃定紅線(xiàn)，也要為創(chuàng )新留足空間。從發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，實(shí)行包容審慎和分類(lèi)分級監管；到公布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》，要求給相關(guān)AI內容“進(jìn)行顯著(zhù)標識”；再到印發(fā)《人工智能生成合成內容標識辦法》，推進(jìn)從生成到傳播全鏈條治理……近年來(lái)，以網(wǎng)絡(luò )安全法、數據安全法等為依據，AI領(lǐng)域的政策文件不斷出臺，推動(dòng)人工智能治理沿著(zhù)法治軌道向前邁進(jìn)。始終跟隨技術(shù)前進(jìn)的步伐動(dòng)態(tài)完善政策法規，方能實(shí)現促進(jìn)發(fā)展和依法管理的有機統一。

企業(yè)是推動(dòng)人工智能發(fā)展的重要力量，也是直面用戶(hù)的第一道安全防線(xiàn)，必須擔負起主體責任。人工智能技術(shù)日新月異，但無(wú)論形勢如何變化，情況如何復雜，“技術(shù)向善”應始終是企業(yè)追求的原則。以生成式人工智能為例，騰訊宣布，對違規“AI洗稿”發(fā)文行為的主體進(jìn)行限制和清理；抖音明確，對不當利用AI生成虛擬人物的內容嚴格處罰；今日頭條披露，2024年處理低質(zhì)AI內容超93萬(wàn)條。企業(yè)“立規矩、明邊界”，既有效防范了風(fēng)險，也促進(jìn)了生成式人工智能健康發(fā)展。企業(yè)增強責任感，不斷擰緊“安全閥”、系緊“安全帶”，確保技術(shù)進(jìn)步服務(wù)于人、造福于人，才能在激烈市場(chǎng)競爭中贏(yíng)得信任和支持。

發(fā)展的問(wèn)題要靠發(fā)展來(lái)解決。以技術(shù)對技術(shù)，以技術(shù)管技術(shù)，才能真正筑牢安全的底線(xiàn)。針對AI造假，合合信息推出新型檢測技術(shù)，可捕捉圖像篡改過(guò)程中留下的細微痕跡，慧眼辨偽；面向網(wǎng)絡(luò )詐騙，浙江一團隊開(kāi)發(fā)“電子標識”，嵌入的音視頻若被用于A(yíng)I加工，就會(huì )觸發(fā)“引信”，破壞生成后的內容；奇富科技研發(fā)智能風(fēng)控系統，2024年發(fā)布AI反詐提醒13.8萬(wàn)次，勸阻潛在被騙者超2.9萬(wàn)人。善用“技防”，以技術(shù)之盾抵御技術(shù)之矛，“通過(guò)魔法打敗魔法”，安全防護會(huì )更及時(shí)、更智能、更高效。

在規范中釋放活力，在創(chuàng )新中筑牢防線(xiàn)，這是保障人民群眾合法權益的必需，也是推動(dòng)我國人工智能健康有序發(fā)展的必然。

《 人民日報 》（ 2025年06月16日 09 版）