AI代理代表著一個根本性的轉(zhuǎn)變，從如今基于權(quán)限的應(yīng)用程序轉(zhuǎn)變?yōu)槟軌蜃灾餍袆拥南到y(tǒng)。與當(dāng)前響應(yīng)指令的語音助手不同，代理式AI可以自主做出決策、執(zhí)行復(fù)雜任務(wù)，并在沒有持續(xù)人工監(jiān)督的情況下訪問海量的個人數(shù)據(jù)。這種自主性帶來了前所未有的隱私與安全風(fēng)險，因為這類系統(tǒng)需要調(diào)用大規(guī)模個人數(shù)據(jù)。
我們已習(xí)慣應(yīng)用程序請求授權(quán)：獲取定位、查看通訊錄或啟用麥克風(fēng)。但自主人工智能徹底顛覆了這一模式——這些系統(tǒng)不再請求許可，而是直接行動，使得"輔助工具"與"自主操作者"的界限日漸模糊。
然而，這種技術(shù)范式可能引發(fā)全新且極其重大的隱私與安全風(fēng)險。
究其根源，專家預(yù)測AI代理體未來將承擔(dān)的各類任務(wù) —— 如規(guī)劃假期行程、確認(rèn)醫(yī)療預(yù)約乃至智能比價購物 —— 均需調(diào)用敏感數(shù)據(jù)，包括財務(wù)信息、實時定位等核心隱私。
據(jù)Gartner咨詢公司預(yù)警，未來企業(yè)數(shù)據(jù)泄露事件中，將有25%與自主AI系統(tǒng)濫用有關(guān)。因此，厘清三大核心問題至關(guān)重要：AI代理體的運作機(jī)制、其衍生的新型隱私風(fēng)險，以及網(wǎng)絡(luò)安全專家構(gòu)建的風(fēng)險緩釋體系。
AI代理究竟是什么？
AI代理（又稱自主人工智能），是指具備高度自治能力的人工智能系統(tǒng)（https://transmitter.ieee.org/what-is-agentic-ai/）。"這類系統(tǒng)可在不受人類持續(xù)控制的情況下，自主行動以實現(xiàn)目標(biāo)，"IEEE高級會員Keeley Crockett解釋道。
Crockett進(jìn)一步指出："基于預(yù)設(shè)程序及所持?jǐn)?shù)據(jù)，此類系統(tǒng)能夠自主決策、執(zhí)行任務(wù)并動態(tài)適應(yīng)環(huán)境，通常無需人工干預(yù)。"
盡管AI代理體可應(yīng)用于網(wǎng)絡(luò)安全或金融領(lǐng)域，但更多專家預(yù)見其將掀起個人數(shù)字助理的新浪潮——從自動采購日用品到主動設(shè)置提醒，深度介入人類生活管理。
然而，這類系統(tǒng)與智能手機(jī)中常見的語音助手存在本質(zhì)差異。IEEE高級會員Keeley Crockett指出："現(xiàn)有語音助手僅具備被動響應(yīng)能力，缺乏自主設(shè)定目標(biāo)的功能。"
Crockett強(qiáng)調(diào)："它們雖能執(zhí)行單一簡單任務(wù)，但若無人為指令介入，則無法實施任何具有實際意義的操作。"
對數(shù)據(jù)的巨大需求
數(shù)據(jù)作為所有人工智能系統(tǒng)的命脈，AI代理亦不例外。要實現(xiàn)其自主運行，往往需要調(diào)用海量數(shù)據(jù)資源。
IEEE高級會員Vaibhav Tupe指出："自主AI系統(tǒng)需獲取全方位數(shù)據(jù)權(quán)限，包括銀行賬戶、醫(yī)療記錄、日程安排、定位軌跡、通訊模式、消費習(xí)慣，乃至健康監(jiān)測所需的生物特征數(shù)據(jù)。"
Tupe強(qiáng)調(diào)："現(xiàn)有應(yīng)用通常僅調(diào)用單一數(shù)據(jù)類型，而自主AI必須串聯(lián)用戶整個數(shù)字生活的所有節(jié)點。"
風(fēng)險指數(shù)級攀升
自主人工智能（AI）帶來的隱私風(fēng)險，較當(dāng)前技術(shù)呈數(shù)量級增長。
IEEE高級會員Kayne McGladrey指出："自主AI需要徹底打破現(xiàn)有數(shù)據(jù)孤島，實現(xiàn)全面整合——這意味著風(fēng)險并非簡單累加，而是呈幾何級數(shù)倍增。"
當(dāng)前非自主AI的普通消費級應(yīng)用，通常僅調(diào)用單一類型數(shù)據(jù)（如健康或財務(wù)數(shù)據(jù)）；而自主AI系統(tǒng)可能同時需要上述所有數(shù)據(jù)，并疊加歷史行為模式與實時監(jiān)測能力。
現(xiàn)有消費級算法僅針對特定用途處理數(shù)據(jù)，且需獲得用戶授權(quán)。
IEEE高級會員Kayne McGladrey警示道："自主AI系統(tǒng)會主動采集跨領(lǐng)域數(shù)據(jù)，并自主決策數(shù)據(jù)使用方式�，F(xiàn)有系統(tǒng)通常需用戶授權(quán)才能執(zhí)行操作，而自主AI的設(shè)計初衷就是在最小化人工監(jiān)督下獨立運行—— 這將催生全新類型的責(zé)任風(fēng)險。"
保障人工智能智能體的安全
那么，人們在使用人工智能智能體時如何保護(hù)自己的隱私呢？
網(wǎng)絡(luò)安全專家建議采用多層次防護(hù)方法，從基本的安全衛(wèi)生習(xí)慣做起，再延伸到專為自主人工智能系統(tǒng)設(shè)計的新實踐。
“為所有賬戶啟用多因素認(rèn)證，將數(shù)據(jù)共享最小化到僅特定任務(wù)絕對必要的范圍，為不同用途創(chuàng)建單獨的賬戶，以分隔數(shù)字暴露面，” McGladrey說。
這種分隔策略在人工智能智能體方面顯得尤為重要，因為它們通常需要訪問多個數(shù)據(jù)源。用戶不應(yīng)讓一個人工智能系統(tǒng)獲取所有數(shù)據(jù)的訪問權(quán)限，而應(yīng)考慮為不同用途使用不同的人工智能工具，比如一個用于財務(wù)任務(wù)，另一個用于健康管理，依此類推。
IEEE高級會員Kayne McGladrey建議："使用隱私保護(hù)型瀏覽器及工具，定期審查設(shè)備權(quán)限，并對那些‘完美得不真實’的AI系統(tǒng)保持合理懷疑。"
專家同時指出，AI交互需與傳統(tǒng)應(yīng)用區(qū)別對待。McGladrey強(qiáng)調(diào)："建議將每次AI交互視為可能生成永久記錄的行為，在分享敏感信息前做好相應(yīng)預(yù)案。"
了解更多：主流AI開發(fā)商正研發(fā)能像人類一樣操作計算機(jī)的AI代理體，包括網(wǎng)頁搜索、表單填寫及票務(wù)購買等功能。對此，IEEE Spectrum發(fā)出疑問：Are you ready to let AI use your computer?（您是否準(zhǔn)備好讓AI操控您的計算機(jī)？ https://spectrum.ieee.org/ai-agents-computer-use）
關(guān)于IEEE
IEEE是世界上最大的技術(shù)專業(yè)組織，致力于推動技術(shù)進(jìn)步，造福人類。通過其高引用出版物、各種會議、技術(shù)標(biāo)準(zhǔn)以及專業(yè)和教育活動，IEEE在航空航天系統(tǒng)、計算機(jī)和電信、生物醫(yī)學(xué)工程、電力和消費電子產(chǎn)品等眾多領(lǐng)域都倍受信賴。 如需了解更多信息，請訪問 https://www.ieee.org。
