發(fā)展和完善人工智能的社會治理體制機制
近年來，以DeepSeek等為代表的預訓練大模型持續(xù)取得突破，人工智能正在快速嵌入社會運行體制機制。在技術創(chuàng)新與社會治理的共振中，社會治理方式將面臨前所未有的范式變革：算法與規(guī)范交織、智能決策與透明度碰撞、技術創(chuàng)新與潛在風險沖突等，形成了新時期社會治理的多重張力。當前，中國正在書寫人工智能的社會治理新篇章——既要在技術快速迭代中堅守以人民為中心的理念，又要在體制機制創(chuàng)新中開辟人機互動共生新場景。這關乎中國式現(xiàn)代化，關乎人類文明走向，折射出中國智慧對全球未來現(xiàn)代性的回應能力。
一、人工智能推動我國社會治理健康高質(zhì)量發(fā)展
我國始終堅持發(fā)展人工智能與“以人為本”理念相結合，以增進人類福祉為目標，以保障社會安全、尊重人類權益為前提。
人工智能已應用到公共安全、政務服務、社會服務等諸多社會治理領域，技術賦能社會治理水平不斷提升。人工智能構建起了以數(shù)據(jù)處理等為基礎的立體化治安防控體系。如人工智能攝像頭集成人臉識別、行為分析、多目標追蹤技術等，大大提升了破案率和公共安全能力。人工智能網(wǎng)絡犯罪監(jiān)測系統(tǒng)幫助識別和攔截電信詐騙，維護了市場穩(wěn)定和社會利益。人工智能賦能基層治理，助力社區(qū)事件自動分撥，降低社區(qū)沖突和矛盾投訴量，夯實了基層治理基礎。隨著實踐的深入，有關部門進一步完善數(shù)據(jù)安全、算法透明度等監(jiān)管體制機制，落實主體責任，以人工智能治理推進國家治理體系和治理能力現(xiàn)代化。
人工智能健康發(fā)展的宏觀環(huán)境不斷優(yōu)化?！渡墒饺斯ぶ悄芊展芾頃盒修k法》對促進生成式人工智能健康發(fā)展和規(guī)范應用，維護國家安全和社會公共利益，保護公民、法人以及其他組織的合法權益作出明確規(guī)定。黨的二十屆三中全會對人工智能治理作出了進一步戰(zhàn)略部署，要求“完善生成式人工智能發(fā)展和管理機制”。近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》，自2025年9月1日起施行，要求進一步規(guī)范人工智能生成合成內(nèi)容標識活動。此外，企業(yè)在開發(fā)大模型過程中，把社會主義核心價值觀和中華優(yōu)秀傳統(tǒng)文化融入設計，努力實現(xiàn)價值對齊，避免技術異化，如，某大模型探討用“禮”作為算法公平性評估維度，探索本土化倫理框架，謹慎對待文化內(nèi)涵和現(xiàn)實復雜性，推動傳統(tǒng)文化與人工智能倫理結合。我國已逐步形成“中央政策引導+地方場景創(chuàng)新+企業(yè)技術落地”的人工智能發(fā)展環(huán)境和治理生態(tài)，推動人工智能社會治理從“數(shù)字化”向“數(shù)智化”邁進。
二、讓“人工智能+”行動擁有更多的社會治理場景
十四屆全國人大三次會議審議通過的《政府工作報告》提出，“持續(xù)推進‘人工智能+’行動，將數(shù)字技術與制造優(yōu)勢、市場優(yōu)勢更好結合起來，支持大模型廣泛應用，大力發(fā)展智能網(wǎng)聯(lián)新能源汽車、人工智能手機和電腦、智能機器人等新一代智能終端以及智能制造裝備?！?/p>
在社會治理領域，要繼續(xù)推動人工智能治理融入國家治理體系和治理能力現(xiàn)代化。從全球范圍看，圍繞人工智能安全問題，多個國家已經(jīng)開展了國際合作，在技術層面交流互鑒，但各國在人工智能安全、隱私保護、倫理道德等領域的政策仍存在分歧。各國通過法律法規(guī)引導和規(guī)范人工智能發(fā)展方向，尤其在通用大模型、基礎算力等領域，調(diào)動資源進行人工智能研究與開發(fā)。各國制定各自的技術標準影響著人工智能技術的適用性，如在自動駕駛領域，數(shù)據(jù)、算法和算力上的差異會導致人工智能推理結果的差異?；趪野踩?，各國制定嚴格措施保護數(shù)據(jù)隱私，這在一定程度上限制了數(shù)據(jù)使用、模型訓練。算法設計受文化和社會環(huán)境影響，會導致推理結果差異。因此，積極推行國際合作，制定國際標準，確保人工智能系統(tǒng)在不同國家的互操作性和公平性十分重要。進行國際合作和數(shù)據(jù)共享可以提升人工智能系統(tǒng)推理能力，縮小不同模型對同一問題回答的差異。開源開放是破除技術壁壘、實現(xiàn)普惠發(fā)展的關鍵路徑。開源開放可以打破閉源人工智能生態(tài)圍欄，其既有積極的一面，也有潛在的風險。開源促進開發(fā)者協(xié)作，加速技術創(chuàng)新迭代，使更多國家和機構以低成本獲取先進技術，助力解決全球公共問題，但其也會被惡意利用，進行網(wǎng)絡攻擊或傳播虛假信息，會導致自主創(chuàng)新能力下降，削弱技術創(chuàng)新動力。因此，需在開源開放與自主創(chuàng)新之間找到平衡，不斷提升人工智能全球治理能力。
在人文社會科學領域，面對人工智能技術的迭代和顛覆式發(fā)展，需要構建自然科學與人文社會科學的跨學科對話機制、完善知識生產(chǎn)體系、強化社會價值引領，通過學術共同體建設與制度創(chuàng)新縮小認知鴻溝，推動人工智能與哲學、法學、經(jīng)濟學等學科的聯(lián)合攻關，不斷提升人文社會科學的水平和質(zhì)量，建立中國特色哲學社會科學自主知識體系，為提升我國綜合國力和國際競爭力作出貢獻。
在社會傳播領域，要建立媒體正向引導體制機制。隨著人工智能快速發(fā)展，要構建“科學傳播+內(nèi)容治理+公眾教育”的三位一體治理機制，通過制度約束、技術賦能與認知提升構建健康有序的人工智能輿論生態(tài)。對傳播有關人工智能謠言的賬號實施處罰，把造成惡劣影響自媒體列入處罰名單。訓練深度學習大模型識別謠言的能力，自動標記謠言，限制謠言傳播。
在社會公眾領域，創(chuàng)造健康有序的社會環(huán)境。發(fā)展人工智能必須建立提升社會成員人文和數(shù)字素養(yǎng)體制機制。針對人工智能可能引發(fā)的“社會焦慮”，要通過系統(tǒng)性社會治理創(chuàng)新，構建“技術認知提升+社會責任共擔+公共價值共識”的系統(tǒng)性治理框架，化解技術不確定性造成的公眾疑慮、擔心。構建科學認知普及體系，破除“信息繭房”。增強決策透明度和公眾參與度，能使決策更好地反映民意，提高決策民主性。在智慧城市系統(tǒng)設置相關感知模塊，通過社交媒體語義分析、社區(qū)調(diào)查等方式捕捉居民關于人工智能的焦慮熱點。組織以技術人員為主體的人工智能技術支持隊伍，通過技術專家與心理咨詢師合作，深入基層化解公眾對人工智能的恐懼，把風險治理轉化為共識構建，塑造“人機共生”時代的文明新形態(tài)。
三、堅定不移以人為本發(fā)展有溫度的人工智能
人工智能作為一項顛覆性技術，實現(xiàn)其有效治理必須從工具管理轉向系統(tǒng)治理，這需要構建涵蓋技術研發(fā)、應用部署、社會影響評估的全周期、系統(tǒng)性治理體制機制。
當前，最緊迫的任務是建立人工智能系統(tǒng)熔斷機制，即當發(fā)現(xiàn)群體性認知操控、系統(tǒng)性社會風險時，人工智能系統(tǒng)可以自動觸發(fā)熔斷。這需要實現(xiàn)社會物理學模型與監(jiān)管系統(tǒng)深度融合，形成技術與社會雙反饋的人工智能社會治理閉環(huán)。要部署實時監(jiān)測模塊，及時識別輸入數(shù)據(jù)中的異常情況。如在金融風險控制中，要基于異常檢測算法攔截欺詐性交易。人工智能社會治理的核心在于通過“技術+制度”綜合設計，引導人工智能沿著正確的進化方向發(fā)展，使其自發(fā)符合人類利益和人類文明演進脈絡。此外，應對技術激進主義帶來的潛在風險，必須在技術層面保證人工智能的安全性、透明性、系統(tǒng)性、前瞻性、問責性、評估性等，這涉及算法、數(shù)據(jù)、測試、安全等諸多維度。
要把開發(fā)可解釋性的算法工具擺在人工智能社會治理的重要位置，確保人工智能決策邏輯對開發(fā)者、監(jiān)管者和用戶透明。在涉及醫(yī)療診斷、司法量刑等高風險領域，必須強制要求算法的可解釋性，避免暗箱操作，堅持社會公平正義原則。為此，要引入公平性評估指標，檢測并修正算法中的性別歧視、種族歧視等社會文化偏見，探索開發(fā)在不共享原始數(shù)據(jù)前提下的聯(lián)合訓練模型，允許其在加密數(shù)據(jù)上直接計算，保護數(shù)據(jù)全流程安全，完善和建立數(shù)據(jù)清洗與標注標準。
在政務人工智能系統(tǒng)中引入第三方安全審計，確保系統(tǒng)無邏輯后門、技術方法在特定條件下的行為符合預期等。在開發(fā)初期就要考慮安全準則嵌入問題。建立人工智能系統(tǒng)動態(tài)升級體制機制，及時發(fā)現(xiàn)問題，及時修復漏洞。對于已經(jīng)部署的大模型，要進行周期性再訓練，防止數(shù)據(jù)漂移帶來的性能下降等問題。加快建立人工智能安全技術國家標準，制定安全閾值與測試方法。積極參與國際標準制定，促進各國之間的技術標準互認。
總之，推動人工智能的社會治理健康發(fā)展，是新時代社會治理的新問題新任務。要立足實際、面向未來，積極深入探索這一新時代重大課題，必須按照黨的二十屆三中全會精神要求，堅持系統(tǒng)觀念，處理好經(jīng)濟和社會、政府和市場、效率和公平、活力和秩序、發(fā)展和安全等重大關系，增強改革系統(tǒng)性、整體性、協(xié)同性。要堅持統(tǒng)籌發(fā)展和安全的原則，用“技術創(chuàng)新+制度創(chuàng)新+文明演進”回應技術變革。人工智能技術迭代和顛覆式發(fā)展已經(jīng)超越簡單的風險管控邏輯，必須建構“技術發(fā)展+技術監(jiān)管+社會調(diào)適+文明演進”的綜合治理協(xié)同構架，以“技術防范+制度韌性+文明進步”化解人工智能技術發(fā)展的不確定性，以文化自覺抵御工具理性異化，以人類命運共同體理念重塑全球人工智能治理規(guī)則。人工智能的真正挑戰(zhàn)不在于機器能否超越人類智能，而在于人類能否在技術革命中守住社會公平正義的底線和人類文明的底色，把算法社會演進轉化為實現(xiàn)人類自由全面發(fā)展的新契機，讓人工智能技術在人類文明智慧照耀下走向技術向善的星辰大海，不斷造福人類。（中共中央黨校（國家行政學院）督學、社會和生態(tài)文明教研部教授 丁元竹）
編輯：遲明緒
京公網(wǎng)安備 11010502000576號