以安全治理護航人工智能發(fā)展
當前，我們正站在通用人工智能發(fā)展的關鍵節(jié)點。從ChatGPT到DeepSeek，人工智能技術的每一次突破都在深刻改變人類知識的生產(chǎn)模式與配置結構，成為驅動經(jīng)濟增長的關鍵力量。黨的二十屆四中全會明確提出“加快高水平科技自立自強，引領發(fā)展新質生產(chǎn)力”，為人工智能發(fā)展指明了方向。面對歷史性機遇，必須以時不我待的緊迫感推動人工智能高速發(fā)展，同時以強有力的安全治理為其保駕護航，確保這一戰(zhàn)略性技術始終運行在正確軌道上。
人工智能正從“技術工具”向“范式變革”演化，成為能夠定義新生產(chǎn)要素、催生新經(jīng)濟形態(tài)的“元技術”。在這場科技領域的角逐中，必須搶抓創(chuàng)新窗口期，充分發(fā)揮其對經(jīng)濟發(fā)展的巨大推動作用。當前，全球主要經(jīng)濟體都在加大人工智能投入，各國競相布局大模型研發(fā)，競爭態(tài)勢日趨激烈。我國擁有海量數(shù)據(jù)資源、豐富應用場景和強大算力基礎，具備發(fā)展人工智能的良好條件。必須抓住這一機遇，加快推進核心技術攻關，培育壯大戰(zhàn)略性新興產(chǎn)業(yè)。然而，單純追求速度可能帶來分配失衡風險、創(chuàng)新扭曲風險和安全失控風險。
以人為本、安全可控是人工智能發(fā)展的根本價值導向。人工智能發(fā)展越是突飛猛進，越需要樹立正確價值導向。技術再先進，也必須服務于人的全面發(fā)展；速度再迫切，也必須守住安全可控底線。這是以安全治理護航高速發(fā)展的根本遵循，也是中國特色人工智能發(fā)展道路的本質要求。具體而言，必須在以下幾個方面持續(xù)發(fā)力：
必須將增進人民福祉作為根本目的。人工智能發(fā)展成果應由全體人民共享，而非少數(shù)人專利。要著力推動人工智能在制造業(yè)升級、綠色轉型、生物醫(yī)藥、現(xiàn)代農(nóng)業(yè)等實體經(jīng)濟和民生關鍵領域的深度應用，讓技術真正造福于民，解決人民群眾急難愁盼問題。在制造業(yè)領域，推動智能工廠建設，提升產(chǎn)品質量和生產(chǎn)效率；在醫(yī)療領域，發(fā)展智能輔助診斷，讓優(yōu)質醫(yī)療資源惠及基層；在農(nóng)業(yè)領域，推廣智慧農(nóng)業(yè)技術，促進農(nóng)民增收。對于深度偽造、算法歧視、信息繭房等情況，要實施審慎監(jiān)管，防止技術異化為損害群眾利益的工具，確保發(fā)展成果更多更公平地惠及全體人民。
必須將安全可控作為基本前提。隨著人工智能向深度推理演進，技術范式正經(jīng)歷從“基于人類反饋的強化學習”向“基于可驗證獎勵的強化學習”的關鍵轉型。機器自主決策能力顯著增強，安全風險隨之急劇上升。特別是當強大的開源模型使任何人都能微調或移除安全對齊設置時，“價值濫用”風險激增。惡意使用者可能利用技術實施網(wǎng)絡攻擊、制造虛假信息、侵犯個人隱私。因此，必須將安全治理貫穿人工智能全生命周期，建立從算法設計、數(shù)據(jù)訓練、模型部署到應用推廣的全鏈條安全監(jiān)管體系，加大對大模型安全技術的研發(fā)投入，提升安全防護與測評能力。
必須將倫理規(guī)范作為重要保障。人工智能發(fā)展涉及復雜的倫理問題，包括數(shù)據(jù)隱私保護、算法公平透明、人機關系界定、知識產(chǎn)權歸屬等。現(xiàn)代技術發(fā)展日益數(shù)據(jù)化、智能化、網(wǎng)絡化、虛擬化，難以對算法產(chǎn)出的結果進行有效監(jiān)督，技術公司背后的資本盈利需求可能使其過分強調商業(yè)價值而忽略風險。要加快建立符合中國國情的人工智能倫理準則，將社會主義核心價值觀融入技術發(fā)展全過程，明確技術應用的道德邊界和行為規(guī)范，引導企業(yè)和科研機構開展負責任的創(chuàng)新。同時，積極參與全球人工智能治理，在聯(lián)合國等多邊平臺推動建立公平合理的國際規(guī)則，為構建人類命運共同體貢獻中國智慧。
必須完善治理體系，以科學機制保障高速發(fā)展。駕馭人工智能這一“雙刃劍”，關鍵在于構建一套既能激發(fā)高速增長動能，又能防范化解風險的適應性治理體系。要以強有力的安全治理為高速發(fā)展清障護航，實現(xiàn)發(fā)展與安全的動態(tài)統(tǒng)一。
首先，要發(fā)揮市場激勵作用，引導企業(yè)負責任創(chuàng)新。實施差異化財稅與采購政策，對服務于制造業(yè)升級、綠色轉型、民生改善的AI應用給予稅收優(yōu)惠和政府采購支持，鼓勵企業(yè)優(yōu)先服務實體經(jīng)濟和民生需求。探索在重點企業(yè)中試點引入“社會董事”或倫理委員會，將長期安全與社會效益內化為公司治理目標，調和短期商業(yè)利益與長期公共福祉，推動企業(yè)從單純追求利潤向兼顧社會責任轉變。同時，完善知識產(chǎn)權保護制度，健全數(shù)據(jù)要素市場化配置機制，建立合理的數(shù)據(jù)收益分配制度，讓企業(yè)創(chuàng)新有動力、有回報，在規(guī)范軌道上實現(xiàn)高速發(fā)展。
其次，要構建敏捷包容的監(jiān)管體系，提升風險防控能力。建立國家級大模型安全科技平臺，規(guī)范人工智能科學家行為，加強對大模型安全技術的研發(fā)，提升安全防護與測評能力，形成自主可控的安全技術體系。在自動駕駛、智慧醫(yī)療等前沿領域，大力推廣“監(jiān)管沙盒”等敏捷治理工具，允許在可控環(huán)境中先行先試，通過實驗性監(jiān)管進行試錯與管理，識別和緩解潛在風險，推動監(jiān)管規(guī)則隨實踐反饋動態(tài)優(yōu)化。建立風險預警和應急響應機制，對可能出現(xiàn)的問題早發(fā)現(xiàn)、早處置，掌握工作主動權，實現(xiàn)“在發(fā)展中規(guī)范，在規(guī)范中發(fā)展”。
再次，要夯實社會韌性基礎，營造包容審慎發(fā)展環(huán)境。人工智能帶來的結構性調整不可避免，部分傳統(tǒng)崗位可能被替代，新的就業(yè)形態(tài)不斷涌現(xiàn)，關鍵是要做好社會保障和轉崗培訓，完善終身職業(yè)技能培訓制度，幫助受影響的群體實現(xiàn)平穩(wěn)過渡，提升勞動者適應新技術變革的能力。加強人工智能科普宣傳，消除公眾對技術的恐懼心理和認知偏差，提升全民數(shù)字素養(yǎng)，消除“數(shù)字鴻溝”，讓每個人都能適應并受益于技術進步。同時，完善法律法規(guī)，建立算法備案、安全評估、信息披露等制度，為AI高速發(fā)展營造法治化環(huán)境，確保技術向善、應用為民。
最后，要深化全球治理合作，推動共建共享安全成果。人工智能安全是全球性挑戰(zhàn)，中國作為負責任大國，應積極參與國際人工智能治理進程，倡導“發(fā)展優(yōu)先、普惠包容”的治理理念，建立具有中國特色的大模型倫理標準和人工智能法律框架，走在人工智能治理前列。推動建立跨文明對話機制，在國際層面推動形成具體議題的務實合作框架。通過多邊協(xié)作推動AI倫理準則與技術標準的協(xié)調互認，支持在聯(lián)合國等多邊平臺共建開放、安全的人工智能開源社區(qū)與基準測試平臺，促進安全對齊技術的全球共享，確保人工智能高速發(fā)展符合人類根本價值。（南京財經(jīng)大學經(jīng)濟學院 王愛華）
編輯：遲明緒
京公網(wǎng)安備 11010502000576號