當前,全球科技革命與產(chǎn)業(yè)變革加速演進,人工智能(AI)正從“輔助工具”躍升為驅動社會變革的核心引擎。國務院近日出臺《關于深入實施“人工智能+”行動的意見》(以下簡稱《意見》),以六大重點行動和八項基礎支撐促進技術與應用“雙向賦能”?!兑庖姟吠苿覣I深度融入科學研究、產(chǎn)業(yè)發(fā)展、民生改善等領域,積極規(guī)劃AI在安全治理方面的應用,為智能化時代治理現(xiàn)代化布局“中國方案”。
從“賦能變量”到“發(fā)展增量”的戰(zhàn)略躍升
《意見》推動AI成為高質量發(fā)展的“關鍵增量”,其核心價值突出體現(xiàn)在賦能、減負、提質、增效4個維度。
AI賦能的新領域:拓展科學研究的“認知邊界”——AI正成為基礎研究的“加速器”,如阿爾法折疊(AlphaFold)破解了困擾科學界半個世紀的蛋白質折疊難題?!兑庖姟肪劢箛鴥?nèi)需求,支持科研范式轉型,加速創(chuàng)新成果轉化,推動AI+賦能產(chǎn)業(yè)發(fā)展,新業(yè)態(tài)、新優(yōu)勢、新模式走進千行百業(yè),惠及千家萬戶。
工作減負的新手段:釋放“效率紅利”——AI通過自動化技術將人們從危險繁重的工作中解放出來,創(chuàng)造更多更好的智能化就業(yè)機會和工作方式。《意見》關注民生,提振消費,生動詮釋了“以人民為中心”的理念——技術進步的最終目的是讓人民更幸福,讓生活更便捷。
提高質量的新途徑:強化重點領域的“增長動能”——智能制造中,車企通過AI維護系統(tǒng)將設備故障率降低20%;在教育領域,AI學習系統(tǒng)根據(jù)學生實際定制學習路徑;醫(yī)療領域,AI成為醫(yī)生的“智能助手”?!兑庖姟穼Ξa(chǎn)業(yè)及教育、醫(yī)療、消費等民生領域的精準支持,體現(xiàn)了技術應用的普惠性與實踐性。
增加效益的新方式:推進治理能力的“精準提升”——社會治理領域,讓AI多思考,讓群眾少煩惱;安全治理領域,智慧警務,動態(tài)防控,應急效率大幅提升;生態(tài)治理領域,實時監(jiān)測,模擬推演,人與自然和諧共生。《意見》為國家治理體系和能力現(xiàn)代化加裝AI新引擎。
綜上,《意見》緊扣全球科技趨勢,以戰(zhàn)略性布局引領方向、科學性設計推動融合、指導性舉措明確路徑、及時性部署搶抓機遇,為AI高質量發(fā)展與應用提供了堅實支撐。
從“技術紅利”到“安全可控”的系統(tǒng)考慮
《意見》將“堅持安全可控”作為四項基本原則之一,要求著力防范AI引發(fā)的安全風險。
模型的內(nèi)在風險:技術局限帶來的“不可控性”——當前大模型的“黑箱”特征顯著:不可解釋性導致決策邏輯難被理解、魯棒性不足使其易受對抗攻擊、幻覺問題會生成虛假但看似合理的內(nèi)容。這些缺陷若不加約束,AI可能從工具異化為風險源。
新型的倫理挑戰(zhàn):價值沖突下的“認知危機”——AI的價值觀本質上是數(shù)據(jù)的投射,訓練數(shù)據(jù)中的偏見會被模型放大。更隱蔽的是,AI可能無意識地傳播與主流價值觀相悖的內(nèi)容,成為社會負面情緒的“放大器”,影響社會和諧穩(wěn)定。
衍生的應用風險:數(shù)字空間的“新型威脅”——深度偽造技術可生成以假亂真的音視頻,源于AI對海量數(shù)據(jù)依賴的隱私泄露風險,AI驅動的網(wǎng)絡攻擊……這些風險直接威脅著個人安全與社會穩(wěn)定。
需要強調(diào)的是,這些安全風險并非AI技術發(fā)展的終點,而是發(fā)展過程中的階段性挑戰(zhàn)。隨著可解釋性、安全對齊、風險測評等技術的快速發(fā)展,這些風險將得到系統(tǒng)性解決。
從“單點防控”到“多元協(xié)同”的治理創(chuàng)新
為統(tǒng)籌發(fā)展與安全,《意見》明確要求“構建安全治理新體系,開創(chuàng)多元共治新格局”,通過制度完善、技術賦能、生態(tài)協(xié)同,為AI健康發(fā)展筑牢安全保障防線。
構建“四位一體”協(xié)同治理體系。一是完善法律法規(guī)體系,探索鼓勵創(chuàng)新與風險防控并重的政策機制,審慎包容制定促進健康發(fā)展的管理規(guī)范;二是構建多元公共安全體系,覆蓋自然人、機器人、數(shù)字人等主體,確保人機交互安全穩(wěn)妥,形成動態(tài)敏捷的治理格局;三是建設“人機物”融合的網(wǎng)絡空間治理體系,細化監(jiān)管規(guī)則,通過智能化平臺提升內(nèi)容審核與風險處置能力;四是建立人機協(xié)作的智能應急體系,利用AI輔助決策提升防災救援效率。
提升四大領域安全治理能力。技術安全方面,融入原生能力筑牢安全根基,開發(fā)可解釋AI技術讓決策過程透明化;通過對抗訓練與多場景測試提升模型抗攻擊能力和魯棒性;針對幻覺問題,研發(fā)內(nèi)容真實性檢測算法降低虛假信息風險。倫理安全方面,強化對齊技術,打造安全護欄。內(nèi)在價值對齊方面,通過強化學習將中華優(yōu)秀傳統(tǒng)文化與社會主義核心價值觀嵌入模型,引導生成內(nèi)容傳承中華血脈;外在安全護欄方面,優(yōu)化內(nèi)容審核與行為約束技術,確保輸出文本符合主流道德。應用安全方面,指導重點領域,完善安全保障。制定涵蓋數(shù)據(jù)保密、網(wǎng)絡安全、供應鏈安全等環(huán)節(jié)的安全管理辦法;引導安全行業(yè)加快數(shù)智轉型,打造忠誠可靠的智能安全服務大軍;對社會公眾,通過安全意識培訓和“AI安全周”等科普活動提升風險意識。國家安全方面,統(tǒng)籌國際國內(nèi),突破重點難點。國內(nèi)層面,加快建設全維度安全測評體系,支撐技術自主可控;國際層面,參與全球治理規(guī)則和技術標準制定,推動“智能向上向善”的人類命運共同體理念走深走實。
《意見》統(tǒng)籌“賦能”與“安全”,是我國搶抓科技革命機遇、推動高質量發(fā)展的戰(zhàn)略舉措。我們有信心通過技術創(chuàng)新和治理創(chuàng)新,有效管控和防范風險,為建設智能、包容、安全的未來貢獻力量。