由騰訊云攜手中國信通院云大所、C114通信網(wǎng)打造的“云啟WETELE運(yùn)營商數(shù)智升級(jí)”系列在線課堂，2025年前兩期分別探討了“大模型和運(yùn)營商智能化轉(zhuǎn)型”、“云計(jì)算技術(shù)和應(yīng)用融合創(chuàng)新”。今天開講的第三期，由中國聯(lián)通研究院專家徐雷、騰訊云專家李欣，和大家一起探討人工智能時(shí)代的安全治理模式以及高競(jìng)爭(zhēng)力的安全解決方案。
人工智能安全治理探討
在課堂上，徐雷首先講到，人工智能安全治理是關(guān)鍵議題。一方面，全球主要國家都在積極布局人工智能安全治理體系建設(shè)，以中國為例，最新的政策是2025年3月，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》；另一方面，人工智能安全風(fēng)險(xiǎn)事件頻發(fā)，且方式多種多樣，包括數(shù)據(jù)泄露、版權(quán)侵權(quán)、工具漏洞、深度偽造、內(nèi)容安全、大模型幻覺等，為安全治理帶來了巨大挑戰(zhàn)。
中國聯(lián)通是人工智能產(chǎn)業(yè)的重要參與者。此前，由中國聯(lián)通攜手8家產(chǎn)業(yè)合作伙伴聯(lián)合發(fā)布行業(yè)首個(gè)《人工智能內(nèi)生安全白皮書（2024）》，針對(duì)人工智能面臨的內(nèi)生安全風(fēng)險(xiǎn)與挑戰(zhàn)，提出人工智能內(nèi)生安全體系。
在具體實(shí)踐方面，徐雷介紹了中國聯(lián)通自主創(chuàng)新研發(fā)“評(píng)測(cè)+增強(qiáng)+治理”三位一體的人工智能安全治理解決方案，構(gòu)建大模型安全評(píng)測(cè)數(shù)據(jù)集，突破模型算法可信增強(qiáng)技術(shù)，打造人工智能安全治理一體化服務(wù)能力。
方案覆蓋五大風(fēng)險(xiǎn)場(chǎng)景與多元攻擊手段，為AI內(nèi)容安全保駕護(hù)航；打造多模態(tài)AI生成內(nèi)容安全評(píng)測(cè)數(shù)據(jù)集，實(shí)現(xiàn)智能化精準(zhǔn)評(píng)測(cè)；從數(shù)據(jù)構(gòu)建、模型定義到強(qiáng)化訓(xùn)練，提升模型基座安全能力；通過優(yōu)化訓(xùn)練數(shù)據(jù)、改進(jìn)算法及引入外部知識(shí)等方法，有效減輕大模型幻覺現(xiàn)象；通過“以模治�！钡募夹g(shù)創(chuàng)新，為攻克人工智能安全新挑戰(zhàn)提供了可行性方案。
最后，徐雷展望了人工智能安全治理聚焦的三個(gè)領(lǐng)域。
一是端側(cè)AI安全。端側(cè)AI面臨物理對(duì)抗攻擊、本地化存儲(chǔ)脆弱性、供應(yīng)鏈復(fù)雜性及資源局限性四大核心風(fēng)險(xiǎn)。需結(jié)合輸入數(shù)據(jù)增強(qiáng)、模型加密、供應(yīng)鏈可信驗(yàn)證及云邊端協(xié)同防御等技術(shù)手段，構(gòu)建全鏈路安全防護(hù)體系。
二是智能體安全。智能體已成為主流的AI應(yīng)用落地模式，其安全風(fēng)險(xiǎn)源于動(dòng)態(tài)化的外部工具集成和自主決策的不可預(yù)測(cè)，需構(gòu)建從協(xié)議加固到行為監(jiān)控的全方位防護(hù)方案。
三是具身智能安全。具身智能在工業(yè)制造、物流運(yùn)輸、醫(yī)療健康等領(lǐng)域，存在安全風(fēng)險(xiǎn)。需通過采集限制、數(shù)據(jù)加密構(gòu)建隱私防線，依托實(shí)時(shí)監(jiān)控與安全算法實(shí)現(xiàn)行動(dòng)端可靠防護(hù)。
騰訊一體化安全運(yùn)營實(shí)踐
李欣則具體分享了騰訊的一體化安全運(yùn)營實(shí)踐。騰訊安全依托于騰訊公司20多年來服務(wù)10億級(jí)用戶，積累了深厚的安全運(yùn)營經(jīng)驗(yàn)。以騰訊云為例，擁有數(shù)百個(gè)一級(jí)產(chǎn)品、各種類型的云業(yè)務(wù)形態(tài)、多樣化的技術(shù)棧與架構(gòu)以及多重組織與人員結(jié)構(gòu)，需要強(qiáng)大的安全運(yùn)營體系支撐。
騰訊安全運(yùn)營的目標(biāo)是什么？構(gòu)建面向集團(tuán)和客戶的快速風(fēng)險(xiǎn)感知、全面檢測(cè)、高效處置及敏捷響應(yīng)能力，幫助降低安全入侵風(fēng)險(xiǎn)，保障集團(tuán)及客戶業(yè)務(wù)安全。李欣做了分解：打造DevSecOps體系，實(shí)現(xiàn)安全運(yùn)營指標(biāo)化；敏捷安全運(yùn)營體系，實(shí)現(xiàn)安全運(yùn)營自動(dòng)化；安全技術(shù)能力體系，瞄準(zhǔn)入侵事件0發(fā)生。
李欣同時(shí)講到，安全運(yùn)營的邊界，是合理的資產(chǎn)管理架構(gòu)分工，明確“業(yè)務(wù)是安全的第一負(fù)責(zé)人”。騰訊為此構(gòu)筑了端到端的安全服務(wù)能力，包括了預(yù)測(cè)、防御、檢測(cè)、驗(yàn)證的全流程安全服務(wù)，為內(nèi)部業(yè)務(wù)及供應(yīng)商提供安全能力清單。
在安全運(yùn)營團(tuán)隊(duì)配置方面，騰訊擁有多名業(yè)界頂尖安全專家，連續(xù)兩年蟬聯(lián)“網(wǎng)安世界杯”之稱的DEFCON CTF總冠軍；1500多項(xiàng)云安全技術(shù)專利申請(qǐng)量位列行業(yè)第一；強(qiáng)網(wǎng)杯、網(wǎng)鼎杯、護(hù)網(wǎng)杯三大“國賽”大滿貫，表現(xiàn)突出。同時(shí)，騰訊也注重建立安全運(yùn)營制度和流程，多維度、多方式安全內(nèi)宣，提升業(yè)務(wù)團(tuán)隊(duì)安全意識(shí)。
課堂最后講述了安全運(yùn)營自動(dòng)化。李欣特別提到，“在信息安全進(jìn)化過程中，每個(gè)環(huán)節(jié)都離不開人，人是安全的尺度”。安全事件的處置標(biāo)準(zhǔn)與執(zhí)行動(dòng)作，需要人與流程來落地。騰訊構(gòu)建數(shù)據(jù)驅(qū)動(dòng)的自動(dòng)化平臺(tái)，實(shí)現(xiàn)運(yùn)營“三可五連接”：可觀測(cè)、可衡量、可改善；連接告警、連接資產(chǎn)、連接策略、連接人員、連接流程�；趫�(chǎng)景標(biāo)準(zhǔn)化、工具標(biāo)準(zhǔn)化、流程標(biāo)準(zhǔn)化，助力敏捷運(yùn)營，無縫對(duì)接內(nèi)外部各項(xiàng)安全能力，實(shí)現(xiàn)安全運(yùn)營流程的高效落地。
騰訊當(dāng)前可提供豐富的安全服務(wù)：漏洞情報(bào)服務(wù)、數(shù)據(jù)泄露情報(bào)服務(wù)、安全攻防服務(wù)、安全驗(yàn)證服務(wù)、安全托管服務(wù)等。李欣總結(jié)，騰訊安全運(yùn)營的理念，是以“智慧攻防”，促“敏捷運(yùn)營”。
獲取“云啟WETELE運(yùn)營商數(shù)智升級(jí)”系列云課堂，更多完整課程信息，請(qǐng)點(diǎn)擊觀看云課堂專題頁面：http://www.qwwl.net/topic/6356.html
