□ 本報(bào)記者  張守坤

AI技術(shù)的飛速迭代，正將影視作品中“智能助手包辦生活瑣事”的科幻場(chǎng)景照進(jìn)現(xiàn)實(shí)。

12月1日上線的豆包手機(jī)助手，作為與中興通訊合作、搭載于努比亞M153機(jī)型的定制技術(shù)展示“工程機(jī)”，已實(shí)現(xiàn)語音指令下單外賣、訂機(jī)票、跨應(yīng)用處理復(fù)雜事務(wù)等功能，有望從傳統(tǒng)“附加工具”升級(jí)為接管手機(jī)交互核心的“系統(tǒng)級(jí)伙伴”。然而，這款上線不足一個(gè)月的智能產(chǎn)品，卻因遭遇多款主流App登錄限制引發(fā)行業(yè)熱議。

AI手機(jī)助手的技術(shù)價(jià)值何在?平臺(tái)限制是否具備合法性?數(shù)據(jù)安全又該如何筑牢防線?圍繞這些問題，《法治日?qǐng)?bào)》記者近日展開采訪。

效能提升

從“輔助工具”到“智能管家”

相較于傳統(tǒng)手機(jī)助手僅能完成定鬧鐘、查天氣等基礎(chǔ)指令，豆包手機(jī)助手已具備多場(chǎng)景復(fù)雜任務(wù)處理能力。

記者實(shí)測(cè)發(fā)現(xiàn)，用戶只需發(fā)出語音指令，該助手便可自動(dòng)調(diào)用不同App，完成比價(jià)購物、訂餐下單、行程規(guī)劃等一連串操作;還可以根據(jù)關(guān)鍵詞在招聘軟件上自動(dòng)搜索合適的崗位并批量投遞簡(jiǎn)歷，甚至可自主關(guān)閉或等待App開屏廣告結(jié)束、為外賣訂單智能湊單等。

記者注意到，在用戶交流群中，有人使用豆包手機(jī)助手在購物App刷視頻領(lǐng)“金幣”，在短視頻App獲取流量激勵(lì)，以及嘗試讓AI代打手機(jī)游戲。針對(duì)這些行為，豆包官方已及時(shí)作出功能限制。其表示，部分App廠商推出激勵(lì)機(jī)制旨在鼓勵(lì)真實(shí)用戶主動(dòng)交互，而游戲競(jìng)技場(chǎng)景需保障公平性，因此暫時(shí)下線相關(guān)場(chǎng)景的AI操作權(quán)限。

事實(shí)上，AI手機(jī)助手并非豆包首創(chuàng)，華為、小米、榮耀等品牌此前均已嘗試通過INJECT_EVENTS權(quán)限，實(shí)現(xiàn)一些特定場(chǎng)景的操作手機(jī)任務(wù)。例如，通過語音指令定鬧鐘、打開某個(gè)App等。

在北京大學(xué)武漢人工智能研究院副院長(zhǎng)呂鵬看來，智能社會(huì)背景下，智能體(Agents)的規(guī)?；瘧?yīng)用已成為趨勢(shì)，極大地提高了個(gè)體的工作效率和生活質(zhì)量，但也存在進(jìn)一步改進(jìn)的方向。以智能手機(jī)為例，其每天運(yùn)行數(shù)量龐大的各類App和智能體應(yīng)用，在各個(gè)智能應(yīng)用之間開展調(diào)用也會(huì)浪費(fèi)很多時(shí)間。而AI手機(jī)助手可有效打通多個(gè)App間的操作壁壘，通過自動(dòng)判別用戶意圖、生成執(zhí)行流程，必將大幅提升使用效能與操作便利性，同時(shí)延伸AI產(chǎn)品的價(jià)值鏈，是AI領(lǐng)域的重大應(yīng)用創(chuàng)新。

中國(guó)政法大學(xué)教授、經(jīng)濟(jì)法研究所所長(zhǎng)張欽昱進(jìn)一步指出，AI手機(jī)助手的核心價(jià)值體現(xiàn)在為用戶“減負(fù)”，使其更專注于進(jìn)行創(chuàng)造性活動(dòng)。例如，舉辦研討會(huì)時(shí)，AI手機(jī)助手可包攬流程梳理、會(huì)議記錄、內(nèi)容歸檔等事務(wù)性工作，讓參會(huì)者全身心投入核心議題研討，為創(chuàng)新思維的碰撞創(chuàng)造空間。

權(quán)限爭(zhēng)議

用戶授權(quán)后平臺(tái)限制是否合法

記者在實(shí)測(cè)中發(fā)起“下載常用App”指令，手機(jī)隨即彈出提示詞“允許AI操作手機(jī)嗎 允許 始終允許 拒絕”。獲得授權(quán)后，AI手機(jī)助手接管手機(jī)，完成20款生活類應(yīng)用的下載。

后續(xù)操作中，記者發(fā)現(xiàn)，多數(shù)應(yīng)用可實(shí)現(xiàn)AI正常登錄與操作;部分App出現(xiàn)無法登錄的情況，另有一些App支持手動(dòng)登錄卻禁止AI接管。

用戶使用AI助手操作手機(jī)，在得到授權(quán)后，相關(guān)App仍禁止接入，是否合理合法?

張欽昱認(rèn)為，此類限制或構(gòu)成不當(dāng)?shù)钠脚_(tái)封禁，侵害用戶自主選擇權(quán)。從反壟斷法層面來看，具有市場(chǎng)支配地位的經(jīng)營(yíng)者若無正當(dāng)理由，不得在交易時(shí)附加不合理的交易條件。而第三方軟件禁止用戶通過AI通用助手訪問平臺(tái)服務(wù)，相當(dāng)于在服務(wù)協(xié)議中增設(shè)限制性條款，若無法舉證限制行為的正當(dāng)性，便可能構(gòu)成違規(guī)封禁。從消費(fèi)者權(quán)益保護(hù)法角度分析，用戶有權(quán)自主選擇是否使用AI助手服務(wù)，第三方軟件若通過格式條款代替用戶作出選擇，相關(guān)條款應(yīng)屬無效。

呂鵬也提出，個(gè)體在用戶知情同意、明確授權(quán)的情況下，通過一個(gè)通用智能助手(Agent)去調(diào)用和訪問另外一個(gè)或多個(gè)App、智能體的自主行為，是合理、合意、合法的行為，不應(yīng)受到任何App背后的技術(shù)提供方、資本方、利益方的限制。

對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院教授、數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可則提出，判斷 App限制行為的合法性需分場(chǎng)景討論，核心要考量四大維度：AI助手是否明確披露機(jī)器人身份、是否存在規(guī)避平臺(tái)技術(shù)管理措施的行為、是否干擾平臺(tái)服務(wù)正常運(yùn)行、數(shù)據(jù)獲取與處理是否超越權(quán)限。App能否禁止接入，需具體問題具體分析，在各方利益間實(shí)現(xiàn)平衡。

合規(guī)路徑

筑牢安全防線護(hù)航技術(shù)發(fā)展

記者注意到，隨著AI手機(jī)助手的推廣應(yīng)用，其在提升效率的同時(shí)，可能被用于違法犯罪及引發(fā)信息泄露的風(fēng)險(xiǎn)，引發(fā)了公眾的擔(dān)憂。

對(duì)此，豆包手機(jī)助手于12月5日發(fā)布公告，明確對(duì)刷分刷激勵(lì)、金融類交易使用、游戲類使用三大場(chǎng)景進(jìn)行功能限制。同時(shí)強(qiáng)調(diào)，在AI執(zhí)行任務(wù)的過程中，需要用戶提供額外信息，或涉及支付等高敏感環(huán)節(jié)時(shí)，將通知用戶手動(dòng)處理，以保障安全。

在張欽昱看來，AI通用助手在對(duì)授權(quán)操作和信息使用進(jìn)行披露的前提下，由用戶主動(dòng)授權(quán)啟用，并未違反個(gè)人信息保護(hù)法規(guī)定的“知情—同意”原則。值得注意的是，若AI通用助手訪問第三方軟件屬于個(gè)人信息保護(hù)法中“為訂立、履行個(gè)人作為一方當(dāng)事人的合同所必需”，無需取得個(gè)人同意。例如，AI通用助手對(duì)于用戶的旅游路線規(guī)劃，若不訪問用戶實(shí)時(shí)位置，或難以實(shí)現(xiàn)。

呂鵬從技術(shù)層面分析認(rèn)為，AI手機(jī)智能助手的工作邏輯主要是調(diào)用不同App的輸出與輸入結(jié)果(例如偏好、時(shí)間安排等片段信息)，其核心邏輯是一個(gè)個(gè)體行為意圖推斷、執(zhí)行的算法，其本身不太可能造成嚴(yán)重的信息泄露風(fēng)險(xiǎn)，因?yàn)樾畔⒌闹饕鎯?chǔ)主體是各類App，手機(jī)助手存儲(chǔ)的則是片段性、階段性信息。

AI手機(jī)助手如何實(shí)現(xiàn)長(zhǎng)效發(fā)展?

張欽昱提出，開發(fā)者須切實(shí)履行過程控制義務(wù)，將AI通用助手的操作范圍限定于常用事項(xiàng)、程序性事項(xiàng)等非敏感事項(xiàng)，保留用戶對(duì)敏感操作的最終控制權(quán)，并通過最小使用、數(shù)據(jù)加密等手段保證用戶數(shù)據(jù)安全，避免對(duì)第三方軟件的影響。開發(fā)者可借助算法設(shè)計(jì)，使AI通用助手在操作期間，持續(xù)通過屏幕光暈、靈動(dòng)島提示用戶，保證用戶可以隨時(shí)暫停操作，并在面臨確認(rèn)協(xié)議、登錄、支付等敏感環(huán)節(jié)時(shí)，均交由用戶接管控制。

“對(duì)于數(shù)據(jù)安全，開發(fā)者可以將數(shù)據(jù)使用目的限制于臨時(shí)的必要使用，僅在執(zhí)行用戶指令所需的最短時(shí)間內(nèi)處理數(shù)據(jù)。AI通用助手在數(shù)據(jù)處理失當(dāng)行為未被發(fā)現(xiàn)時(shí)，可能產(chǎn)生風(fēng)險(xiǎn)隱患。開發(fā)者應(yīng)當(dāng)履行持續(xù)管控義務(wù)，通過算法設(shè)計(jì)等手段，保障AI通用助手事后風(fēng)險(xiǎn)隱患的清理。例如，任務(wù)完成后，AI通用助手應(yīng)當(dāng)及時(shí)自動(dòng)刪除原始數(shù)據(jù)，主動(dòng)呈現(xiàn)操作記錄，保障用戶知情權(quán)。開發(fā)者還需定期核查此前的數(shù)據(jù)操作記錄，檢查是否有未發(fā)現(xiàn)的風(fēng)險(xiǎn)點(diǎn)?！睆垰J昱說。

呂鵬則強(qiáng)調(diào)，技術(shù)發(fā)展需堅(jiān)守“人的主體性”，確保用戶始終擁有操作的最終決策權(quán)。在發(fā)展AI手機(jī)助手的過程中，需要監(jiān)管方、生產(chǎn)商、App技術(shù)方協(xié)同構(gòu)建通用智能體的交互協(xié)議，實(shí)現(xiàn)跨App的安全聯(lián)動(dòng)。同時(shí)，制定國(guó)家標(biāo)準(zhǔn)，明確通用智能助手與各App間的數(shù)據(jù)邊界、互動(dòng)程度、聯(lián)動(dòng)模式，讓“技術(shù)多跑路、讓機(jī)器更懂人”，確保不同App、各智能體間的順暢“絲滑”聯(lián)動(dòng)，協(xié)力為用戶提供更加優(yōu)質(zhì)的使用體驗(yàn)。

受訪專家均認(rèn)為，當(dāng)前AI通用助手尚處于試運(yùn)行階段，服務(wù)對(duì)象多為行業(yè)從業(yè)者與技術(shù)愛好者，整體風(fēng)險(xiǎn)可控。未來若要實(shí)現(xiàn)大規(guī)模推廣，應(yīng)通過強(qiáng)化開發(fā)者合規(guī)設(shè)計(jì)、完善法律法規(guī)和行業(yè)規(guī)范等多重舉措，讓技術(shù)創(chuàng)新始終在法治軌道上運(yùn)行。

漫畫/高岳