7月23日，2025（第二十四屆）中國(guó)互聯(lián)網(wǎng)大會(huì)在京開(kāi)幕。作為大會(huì)重要組成部分，大模型安全發(fā)展論壇暨中國(guó)電信第五屆科技節(jié)·北京站舉辦。論壇由中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)主辦，中國(guó)電信集團(tuán)有限公司、中國(guó)電信科學(xué)技術(shù)協(xié)會(huì)及天翼安全科技有限公司聯(lián)合主辦，以“安全護(hù)智·智惠安全”為主題，匯聚政產(chǎn)學(xué)研頂尖力量，共話大模型安全發(fā)展，推動(dòng)AI安全與創(chuàng)新共振，賦能可信智能生態(tài)建設(shè)。
中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)專(zhuān)家咨詢委員會(huì)常務(wù)副主任邵廣祿和中國(guó)電信集團(tuán)有限公司黨組成員、副總經(jīng)理劉穎出席論壇并致辭。
中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)專(zhuān)家咨詢委員會(huì)常務(wù)副主任邵廣祿
邵廣祿強(qiáng)調(diào)，伴隨AI加速迭代，安全必須同步進(jìn)階。當(dāng)前，AI安全領(lǐng)域面臨三大挑戰(zhàn)：場(chǎng)景化風(fēng)險(xiǎn)加劇、“重應(yīng)用、輕安全”、 協(xié)同機(jī)制有待完善。要從技術(shù)、治理、生態(tài)三個(gè)層面協(xié)同發(fā)力，共筑大模型安全。中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)將進(jìn)一步發(fā)揮橋梁作用，推動(dòng)產(chǎn)學(xué)研用協(xié)同攻關(guān)，完善標(biāo)準(zhǔn)體系，營(yíng)造規(guī)范環(huán)境。
中國(guó)電信集團(tuán)有限公司黨組成員、副總經(jīng)理劉穎
劉穎表示，當(dāng)前人工智能技術(shù)正以前所未有的速度重塑全球科技與產(chǎn)業(yè)格局，同時(shí)也帶來(lái)了嚴(yán)峻復(fù)雜的安全風(fēng)險(xiǎn)與治理挑戰(zhàn)。論壇以“安全護(hù)智·智惠安全”為主題，中國(guó)電信與產(chǎn)學(xué)研各位專(zhuān)家同仁一道，分享在AI安全領(lǐng)域的思考、探索和實(shí)踐。
一、中國(guó)電信全面擁抱AI，開(kāi)啟“云改數(shù)轉(zhuǎn)智惠”的戰(zhàn)略升級(jí)。中國(guó)電信積極踐行建設(shè)網(wǎng)絡(luò)強(qiáng)國(guó)、科技強(qiáng)國(guó)、數(shù)字中國(guó)、維護(hù)國(guó)家網(wǎng)信安全的初心使命，逐步構(gòu)建起算力安全、算法模型安全、數(shù)據(jù)安全、內(nèi)容和應(yīng)用安全的AI安全防護(hù)體系。
二、堅(jiān)持走自主可控之路，逐步構(gòu)建起一體化AI安全保障體系。兩年前，中國(guó)電信宣布啟動(dòng)用于安全垂類(lèi)模型訓(xùn)練的“阡陌數(shù)聚”安全語(yǔ)料庫(kù)建設(shè)，經(jīng)過(guò)兩年的積累，“阡陌”已成為國(guó)內(nèi)領(lǐng)先的安全語(yǔ)料庫(kù)�；诖耍�(xùn)練出“星辰·見(jiàn)微”安全大模型，已經(jīng)深入嵌入了中國(guó)電信日常安全運(yùn)營(yíng)生產(chǎn)當(dāng)中。今年四月發(fā)布大模型應(yīng)用一站式安全運(yùn)營(yíng)方案，形成了從模型安全檢測(cè)到模型安全防護(hù)的系列創(chuàng)新成果。
三、開(kāi)放合作是人工智能安全發(fā)展的必然選擇。中國(guó)電信秉持開(kāi)放共享、合作共贏的理念，持續(xù)深化產(chǎn)業(yè)協(xié)作，通過(guò)生態(tài)共建，實(shí)現(xiàn)協(xié)同共治，推動(dòng)人工智能產(chǎn)業(yè)安全、穩(wěn)定、繁榮發(fā)展。
中國(guó)工程院教授吳世忠
吳世忠作了題為《大模型安全治理的現(xiàn)狀與展望》主題演講。他指出技術(shù)發(fā)展勢(shì)不可擋，安全風(fēng)險(xiǎn)亟待監(jiān)管。既要擁抱技術(shù)的無(wú)限可能，也要筑牢安全的堅(jiān)實(shí)防線。通過(guò)國(guó)際和國(guó)內(nèi)協(xié)同、技術(shù)與政策并重、公眾與行業(yè)共治，以安全為基石，以智慧為引領(lǐng)，積極推進(jìn)大模型的發(fā)展與治理，共同打造一個(gè)安全、可信、智慧的AI未來(lái)。
中國(guó)信息通信研究院副院長(zhǎng)魏亮
魏亮以《大模型安全挑戰(zhàn)與應(yīng)對(duì)》為題，聚焦大模型技術(shù)發(fā)展及安全治理現(xiàn)狀，全面剖析了全球政策法規(guī)與行業(yè)自律態(tài)勢(shì)，探討模型生命周期安全風(fēng)險(xiǎn)，同時(shí)結(jié)合安全治理的實(shí)踐案例，展望未來(lái)大模型協(xié)同共治格局，為構(gòu)建安全可信的大模型生態(tài)貢獻(xiàn)思路。
中國(guó)軟件評(píng)測(cè)中心副主任唐剛
唐剛分享了大模型安全實(shí)踐。他表示，智能時(shí)代，網(wǎng)絡(luò)和數(shù)據(jù)安全的機(jī)遇與挑戰(zhàn)并存，人們既享受了人工智能帶來(lái)的便捷，也不得不面對(duì)由此伴生的風(fēng)險(xiǎn)。一方面，大模型自身的安全缺陷隨著其廣泛應(yīng)用傳播風(fēng)險(xiǎn)，警示我們應(yīng)加強(qiáng)大模型安全治理；另一方面，人工智能降低網(wǎng)絡(luò)和數(shù)據(jù)攻擊門(mén)檻，迫使我們必須加快人工智能賦能網(wǎng)絡(luò)和數(shù)據(jù)安全的技術(shù)攻關(guān)與產(chǎn)業(yè)實(shí)踐。中國(guó)軟件評(píng)測(cè)中心積極研發(fā)大模型安全能力并投入實(shí)踐，將協(xié)同產(chǎn)業(yè)界各方共同構(gòu)建人工智能時(shí)代的網(wǎng)絡(luò)和數(shù)據(jù)安全防線。
清華大學(xué)網(wǎng)絡(luò)研究院副教授邱寒
邱寒分享了《從現(xiàn)實(shí)世界的數(shù)據(jù)污染思考大語(yǔ)言模型安全》研究報(bào)告。大語(yǔ)言模型在其預(yù)訓(xùn)練階段，往往依靠海量互聯(lián)網(wǎng)語(yǔ)料進(jìn)行非監(jiān)督學(xué)習(xí)，這其中難免會(huì)混入真實(shí)互聯(lián)網(wǎng)中存在的賭博、色情等非法內(nèi)容或毫無(wú)意義的污染語(yǔ)料，一方面體現(xiàn)在模型的詞表中，一方面會(huì)對(duì)模型的推理產(chǎn)生不良影響。報(bào)告從GPT-4o詞表中的中文污染token出發(fā)，探索不同大語(yǔ)言模型詞表中文token污染的情況，并探索基于詞表中token分布估算語(yǔ)料庫(kù)中token詞頻的方法，最后分析不同污染token在推理中異常表現(xiàn)的原因。
天翼安全科技有限公司首席AI安全專(zhuān)家曹輝、高級(jí)安全研究員危嘉祺以《識(shí)別大模型新型安全威脅，守護(hù)大模型安全可靠可控》為題，介紹電信安全在人工智能安全領(lǐng)域的最新成果。
天翼安全科技有限公司高級(jí)安全研究員危嘉祺
危嘉祺表示，電信安全在兩年前提出要構(gòu)建安全領(lǐng)域的“ImageNet”，以推動(dòng)AI安全行業(yè)的系統(tǒng)性發(fā)展。圍繞AI安全的兩個(gè)關(guān)鍵方向——AI for Security（人工智能賦能網(wǎng)絡(luò)安全）與Security for AI（安全手段護(hù)航人工智能），電信安全持續(xù)打造了一整套體系化的數(shù)據(jù)獲取、清洗、標(biāo)注與蒸餾的全流程能力。
在 AI for Security 方面，依托中國(guó)電信強(qiáng)大的云網(wǎng)基礎(chǔ)及兩級(jí)SOC體系積累的海量高質(zhì)量安全數(shù)據(jù)，電信安全開(kāi)展深度清洗、特征抽取與自動(dòng)化標(biāo)注，成功構(gòu)建數(shù)千萬(wàn)條高質(zhì)量標(biāo)注樣本，以及近百億Token規(guī)模的語(yǔ)料庫(kù)，數(shù)據(jù)內(nèi)容全面覆蓋IPDRR（識(shí)別、保護(hù)、檢測(cè)、響應(yīng)、恢復(fù)）安全能力框架。
在 Security for AI 方面，電信安全參考國(guó)家標(biāo)準(zhǔn)TC260-003定義的五大類(lèi)、三十一小類(lèi)風(fēng)險(xiǎn)類(lèi)別，進(jìn)一步細(xì)化、構(gòu)建三級(jí)分類(lèi)標(biāo)簽體系，并設(shè)計(jì)獨(dú)特高效的數(shù)據(jù)蒸餾流程，能夠持續(xù)產(chǎn)出對(duì)齊精度高、泛化能力強(qiáng)的安全樣本。同時(shí)，電信安全構(gòu)建了一套生成式對(duì)抗環(huán)境，基于數(shù)十類(lèi)攻擊策略，融合黑盒與白盒的多種攻擊生成算法，不斷在攻防對(duì)抗中演進(jìn)，持續(xù)產(chǎn)出高質(zhì)量的提示注入攻擊樣本，助力模型對(duì)抗能力的提升。
天翼安全科技有限公司首席AI安全專(zhuān)家曹輝
曹輝指出，近兩年伴隨大模型應(yīng)用的蓬勃興起，其伴生的安全風(fēng)險(xiǎn)也日益凸顯。一方面，針對(duì)大模型的新型攻擊手段層出不窮，如提示詞攻擊、數(shù)據(jù)投毒攻擊等，正快速演進(jìn)迭代。另一方面，大模型相關(guān)的安全事件頻發(fā)并呈現(xiàn)快速增長(zhǎng)態(tài)勢(shì)。
為有效應(yīng)對(duì)和管控上述風(fēng)險(xiǎn)，電信安全積極探索并落地了三項(xiàng)實(shí)踐。一是進(jìn)行AI風(fēng)險(xiǎn)監(jiān)控，提出AI資產(chǎn)測(cè)繪，結(jié)合AI威脅情報(bào)，開(kāi)發(fā)AI安全監(jiān)測(cè)系統(tǒng)，實(shí)現(xiàn)對(duì)AI安全態(tài)勢(shì)的全面感知。二是進(jìn)行AI安全評(píng)測(cè)，系統(tǒng)化收集AI威脅數(shù)據(jù)，集成至AI評(píng)測(cè)系統(tǒng)，為評(píng)估AI系統(tǒng)的安全成熟度提供有效依據(jù)。三是研究AI威脅的防護(hù)技術(shù)，并開(kāi)發(fā)大模型護(hù)欄解決方案，為大模型提供實(shí)時(shí)、精準(zhǔn)的貼身防護(hù)。
基于這三項(xiàng)實(shí)踐，電信安全深刻體會(huì)到，構(gòu)建堅(jiān)實(shí)的AI安全防線，必然需要深度融合安全領(lǐng)域的人工智能技術(shù)，安全數(shù)據(jù)集是其中的關(guān)鍵。對(duì)此，電信安全提出兩方面建議：一是大模型的開(kāi)發(fā)者、提供者、使用者及監(jiān)管方高度重視大模型安全風(fēng)險(xiǎn)，共同提升風(fēng)險(xiǎn)應(yīng)對(duì)能力。二是倡議多方合作，加大安全研究投入，共建高質(zhì)量安全數(shù)據(jù)集。
圓桌論壇
在圓桌論壇環(huán)節(jié)，數(shù)世咨詢創(chuàng)始人兼總經(jīng)理李少鵬、天翼安全科技有限公司首席AI安全專(zhuān)家曹輝，《中國(guó)信息安全》雜志社副社長(zhǎng)李剛，北京瑞萊智慧科技有限公司合伙人、高級(jí)副總裁朱萌和火山引擎云安全解決方案負(fù)責(zé)人林揚(yáng)圍繞“大模型安全發(fā)展路徑探索與思考”展開(kāi)了深入的交流。專(zhuān)家們結(jié)合各自領(lǐng)域的實(shí)踐經(jīng)驗(yàn)與前瞻洞察，共同剖析挑戰(zhàn)、分享洞見(jiàn)，為大模型安全發(fā)展的可行路徑與關(guān)鍵策略積極獻(xiàn)計(jì)獻(xiàn)策，凝聚了寶貴的行業(yè)共識(shí)與發(fā)展智慧。
本次論壇的舉辦，為政府部門(mén)、行業(yè)組織及企業(yè)搭建了高效對(duì)話平臺(tái)，有力推動(dòng)了大模型安全發(fā)展共識(shí)的形成與實(shí)踐創(chuàng)新。未來(lái)，電信安全將持續(xù)深化與產(chǎn)業(yè)鏈伙伴的戰(zhàn)略合作，優(yōu)化AI治理機(jī)制，加快培育新質(zhì)生產(chǎn)力，為人工智能的高質(zhì)量、可持續(xù)發(fā)展注入新動(dòng)能。
