戴上融入智能體“桐小烏”的AI眼鏡，在烏鎮(zhèn)街巷“邊逛邊問”，就像是全程陪同的私人導游。

2025世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會，人工智能進一步融入生活，“AI+”的未來圖景愈發(fā)真實可感。

不過，人工智能引領科技革命和產(chǎn)業(yè)變革的同時，也帶來風險挑戰(zhàn)。“如何趨利避害”，是全球性的重要議題，也是本屆峰會的關注焦點。

在人工智能技術創(chuàng)新與治理論壇上，國家網(wǎng)信辦副主任王京濤表示，要注重數(shù)據(jù)、算法、算力協(xié)同發(fā)展，推動AI與各行業(yè)深度融合，同時完善治理體系，堅持治理保障發(fā)展，構建安全、可靠、可控的人工智能生產(chǎn)力。

“AI+”體感更真切

王京濤介紹，近年來，我國人工智能的發(fā)展取得了顯著成效，技術研發(fā)、產(chǎn)業(yè)應用、治理體系都在同步推進。截至2025年11月初，累計有611款生成式人工智能服務完成備案，306款生成式人工智能應用或功能完成登記。

人工智能等前沿技術的產(chǎn)業(yè)賦能效果凸顯。烏鎮(zhèn)峰會期間發(fā)布的《中國互聯(lián)網(wǎng)發(fā)展報告2025》顯示，截至2024年底，我國數(shù)字經(jīng)濟核心產(chǎn)業(yè)增加值占國內生產(chǎn)總值比重達到10.4%，提前完成“十四五”規(guī)劃目標。中國網(wǎng)絡空間研究院副院長白江表示，世界知識產(chǎn)權組織發(fā)布的報告顯示，我國已成為全球人工智能專利最大擁有國，占比達60%。

“從‘懂你意思’的智能網(wǎng)聯(lián)汽車，到‘為你解惑’的DeepSeek，大家對‘人工智能+’的體感正變得越來越真切。”白江說，隨著多款國產(chǎn)大模型引領全球開源創(chuàng)新生態(tài)，AI手機、AI眼鏡等終端產(chǎn)品加速普及，行業(yè)專用大模型落地應用，我國人工智能進入全新發(fā)展階段。

“AI+”助力更多領域煥發(fā)新潛力。中國科學院外籍院士、浙江大學求是講席教授黃銘鈞表示，AI已在診斷、預防和個性化醫(yī)療領域展現(xiàn)出變革性影響，為行業(yè)創(chuàng)新提供新路徑。

新氧集團創(chuàng)始人、董事長兼CEO金星對中國證券報記者表示，數(shù)字化、AI技術的深度賦能，有助于提升醫(yī)美服務的安全性、一致性和普惠性，解決資源分配不均帶來的服務質量參差不齊的問題。

“新一代AI技術，正在從程序員手中的‘技術秀’向產(chǎn)業(yè)一線的‘效率革命’演進?！笨焓挚萍几呒壐笨偛民R宏彬表示，可靈AI可使影視制作成本降低至傳統(tǒng)方法的十分之一，制作時間縮短約60%，將推動影視產(chǎn)業(yè)生態(tài)與創(chuàng)作邏輯發(fā)生深度變革。

強化安全底線

在AI變革性的影響下，學會與AI共生共融至關重要。

搜狐創(chuàng)始人、董事局主席兼首席執(zhí)行官張朝陽提示，AI工具可以讓每個人都變成“知道分子”，但不一定是“知識分子”。人們不可放棄獨立思考和記憶的能力。過度依賴AI將阻礙邏輯思維能力的形成。

中國網(wǎng)絡空間安全協(xié)會理事長趙澤良也強調，要培養(yǎng)用戶的AI素養(yǎng)，以批判性思維使用AI。

王京濤坦言，大模型應用門檻持續(xù)降低，帶來了數(shù)據(jù)濫用、算法歧視、模型黑箱、侵犯隱私等一系列風險挑戰(zhàn)，如何在技術創(chuàng)新和安全治理之間取得平衡，是全球人工智能治理的一個重要的話題，也是必須答好的時代之問。

AI換臉等亂象層出不窮。烏鎮(zhèn)峰會前夕，演員溫崢嶸公開控訴自己的形象被AI工具盜用虛假帶貨。對此，張朝陽認為，一定要訴諸法律途徑，推動新現(xiàn)象、新問題在法律層面得到判別，讓違法者受到懲罰，也能進一步明晰平臺的責任和邊界。

王京濤表示，要不斷完善人工智能安全監(jiān)管的制度和標準規(guī)范，常態(tài)化的開展安全風險和監(jiān)測運行，推動建立人工智能應用的安全測評體系。要以安全、可靠、可控為導向，加強人工智能應用的前瞻性、安全性，增強生成合成內容的規(guī)范性和可追溯性，豐富標識驗證、偽造鑒定、沙箱監(jiān)管等安全防護工具箱，形成開放共享、規(guī)范有序、健康發(fā)展的人工智能生態(tài)圈。

增強數(shù)據(jù)互信

一面是AI非法濫用安全風險嚴峻，一面是AI在傳統(tǒng)行業(yè)應用難以深入。多位專家提到，受限于專業(yè)數(shù)據(jù)供給不足、細分領域模型稀缺等限制，AI在部分行業(yè)的深度滲透面臨不少挑戰(zhàn)。

金星以醫(yī)美行業(yè)為例表示，AI深度應用依賴大量的多模態(tài)數(shù)據(jù)，若想推動更智能的醫(yī)美機械手臂操作將來進入應用場景，則面臨動作收集、數(shù)據(jù)標識、模型訓練等技術難題和成本壓力。

螞蟻集團副總裁兼首席技術安全官、螞蟻密算董事長韋韜告訴中國證券報記者，整個大模型的能力來自于數(shù)據(jù)驅動，未來需要進一步提高數(shù)據(jù)安全高效流動的能力，才能進一步釋放其生產(chǎn)力與創(chuàng)造力。

“AI時代的數(shù)據(jù)流通面臨多方位的安全威脅，高價值、高敏感數(shù)據(jù)跨主體融合利用困難，限制了人工智能的產(chǎn)業(yè)應用，這將是我們繼續(xù)攻堅的方向?！表f韜介紹，螞蟻正在通過軟硬件技術創(chuàng)新提升密態(tài)計算的效率并降低成本，目前同性能下數(shù)據(jù)處理成本降至明文分布式計算的1.5倍以內。

技術挑戰(zhàn)仍需通過技術創(chuàng)新來支撐。中關村實驗室副主任趙軍表示，要聚焦發(fā)展安全可信的AI技術，為人工智能治理注入核心動能；要突破和解釋AI與算法溯源技術，突破黑箱難題；要研發(fā)倫理嵌入與對齊技術，將人類價值觀轉化為機器可行的規(guī)范，確保AI“向善”。