近日,在“全球數(shù)字經(jīng)濟(jì)大會—云智算安全論壇暨2025第三屆SecGo安全會議”上,中國信息通信研究院正式授牌成立“云上大模型安全推進(jìn)方陣”,發(fā)布“2025年可信安全最新評估結(jié)果”。憑借在人工智能安全領(lǐng)域深厚積累與創(chuàng)新實(shí)踐,啟明星辰當(dāng)選方陣副理事長單位;啟明星辰天清MAF大模型應(yīng)用防火墻首批通過中國信通院“大模型內(nèi)容安全防護(hù)產(chǎn)品能力評估”。
本次評估嚴(yán)格依據(jù)《大模型內(nèi)容安全防護(hù)產(chǎn)品能力評估辦法》,聚焦用戶關(guān)切與實(shí)際生產(chǎn)場景中的核心風(fēng)險與威脅,重點(diǎn)覆蓋高對抗攻防測試、違規(guī)內(nèi)容識別、端到端安全能力閉環(huán)、生態(tài)集成、防護(hù)性能等八類關(guān)鍵指標(biāo),全面涵蓋內(nèi)容風(fēng)險識別、檢測分析、安全防護(hù)及安全管理等維度。在此權(quán)威評估中,啟明星辰天清MAF大模型應(yīng)用防火墻表現(xiàn)優(yōu)異,充分展現(xiàn)了卓越的綜合實(shí)力。
為有效應(yīng)對大模型安全挑戰(zhàn),啟明星辰聚焦前沿趨勢研究、推動標(biāo)準(zhǔn)體系完善、探索行業(yè)最佳實(shí)踐、促進(jìn)產(chǎn)業(yè)生態(tài)協(xié)同,積極了構(gòu)建全面的大模型安全能力體系。其中,面向DeepSeek等企業(yè)級大模型服務(wù)商,啟明星辰推出業(yè)內(nèi)首個大模型安全防護(hù)產(chǎn)品 —— 天清MAF大模型應(yīng)用防火墻。
該產(chǎn)品旨在保護(hù)使用大模型或由大模型驅(qū)動的應(yīng)用程序免受威脅或降低其風(fēng)險,為大模型推理服務(wù)、智能體及MCP服務(wù)提供實(shí)時安全防護(hù),在模型安全、數(shù)據(jù)安全、應(yīng)用安全、內(nèi)容安全等領(lǐng)域提供一體化解決方案。
模型安全:全面覆蓋OWASP LLM TOP10大模型相關(guān)風(fēng)險,有效防御提示詞注入攻擊、過度代理、算力拒絕服務(wù)攻擊、不當(dāng)輸出等威脅。
數(shù)據(jù)安全:對大模型/智能體輸出內(nèi)容進(jìn)行全面檢測和過濾,實(shí)現(xiàn)敏感個人數(shù)據(jù)過濾、系統(tǒng)提示詞防護(hù)、數(shù)據(jù)泄露防護(hù)。
應(yīng)用安全: 一站式提供大模型應(yīng)用層防護(hù),包括組件漏洞防護(hù)、Web攻擊防護(hù)、BOT流量管理、API安全防護(hù)等。
內(nèi)容安全:覆蓋《生成式人工智能服務(wù)安全基本要求》、《生成式人工智能服務(wù)管理暫行辦法》等公安、網(wǎng)信合規(guī)要求。
針對大模型業(yè)務(wù)場景的內(nèi)容級、應(yīng)用級新型威脅,天清MAF創(chuàng)新性采用“大模型技術(shù)”對抗“大模型威脅”路徑,有效解決傳統(tǒng)安全產(chǎn)品難以應(yīng)對大模型自然語言交互風(fēng)險場景的痛點(diǎn);通過大小模型結(jié)合的自然語義檢測,融合神經(jīng)網(wǎng)絡(luò)語義理解與智腦對決技術(shù),全面保障大模型服務(wù)安全;基于多項(xiàng)算法優(yōu)化及動態(tài)防御矩陣技術(shù),實(shí)現(xiàn)毫秒級響應(yīng)的高性能內(nèi)容檢測。
隨著生成式人工智能技術(shù)在企業(yè)級應(yīng)用的爆發(fā)式增長,其帶來的內(nèi)容安全、數(shù)據(jù)泄露、模型濫用等新型安全風(fēng)險日益凸顯。啟明星辰將持續(xù)深耕大模型安全領(lǐng)域,全力推動大模型安全應(yīng)用落地實(shí)踐,促進(jìn)大模型安全產(chǎn)品服務(wù)水平提升,為產(chǎn)業(yè)健康發(fā)展保駕護(hù)航。
