【記者成鈺北京報(bào)道】9月28日，綠盟科技舉辦以“智御新境·安全無界”為主題的大模型安全創(chuàng)新成果（新品）發(fā)布會(huì)。當(dāng)前 AI 應(yīng)用風(fēng)險(xiǎn)持續(xù)演進(jìn)，隨 AI 自主性增強(qiáng)，風(fēng)險(xiǎn) “攻擊面” 擴(kuò)大，給安全防護(hù)帶來挑戰(zhàn)。

　　綠盟科技秉持“AI原生安全+智能運(yùn)營”的雙軌理念，提出大模型安全建設(shè)的“一三五”防御理念。該理念以政策法規(guī)、國家標(biāo)準(zhǔn)、行業(yè)要求等為指導(dǎo)依據(jù)，首先開展主體識(shí)別工作，明確安全防護(hù)的對(duì)象和范圍。借助合規(guī)測(cè)評(píng)、安全測(cè)試、AI紅隊(duì)等多種手段，全面開展安全風(fēng)險(xiǎn)評(píng)估，精準(zhǔn)識(shí)別出需優(yōu)先處理的特定場(chǎng)景安全風(fēng)險(xiǎn)。

　　在此基礎(chǔ)上，構(gòu)建覆蓋算力、語料、模型、應(yīng)用及第三方組件的縱深防御體系，從多維度開展日常安全運(yùn)營，保障 AI 應(yīng)用穩(wěn)定可靠。

　　基于頂層AI安全治理體系，在推動(dòng)大模型安全建設(shè)落地過程中，應(yīng)當(dāng)統(tǒng)籌協(xié)調(diào)獨(dú)立部署大模型以及外聯(lián)商業(yè)大模型兩類關(guān)鍵場(chǎng)景。

　　針對(duì)大模型安全落地，綠盟統(tǒng)籌獨(dú)立部署、外聯(lián)商業(yè)大模型兩類場(chǎng)景，推出場(chǎng)景化解決方案：前者按訓(xùn)練、部署、應(yīng)用階段梳理風(fēng)險(xiǎn)、落實(shí)責(zé)任；后者區(qū)分 API 與 WEB 外聯(lián)模式，快速部署安全策略，貼合企業(yè)風(fēng)險(xiǎn)管理需求。

　　同時(shí)，綠盟科技還發(fā)布三款核心產(chǎn)品，構(gòu)建“評(píng)估－防護(hù)－響應(yīng)”的全生命周期防御體系。

　　大模型安全評(píng)估系統(tǒng)。它如同一位“安全體檢官”，能對(duì)140余款主流模型進(jìn)行自動(dòng)化深度掃描，精準(zhǔn)發(fā)現(xiàn)內(nèi)容安全、對(duì)抗攻擊、數(shù)據(jù)泄露及組件漏洞等風(fēng)險(xiǎn)，并出具符合國家《生成式人工智能服務(wù)安全基本要求》的評(píng)估報(bào)告，為企業(yè)合規(guī)備案提供堅(jiān)實(shí)依據(jù)。

　　AI安全一體機(jī)（清風(fēng)衛(wèi)）。它是軟硬一體的“全能衛(wèi)士”，集成了內(nèi)容安全過濾、敏感數(shù)據(jù)防泄漏、精細(xì)化算力調(diào)度及應(yīng)用層攻擊防護(hù)等核心能力。通過自研“風(fēng)云衛(wèi)”混合模型和三級(jí)資源管控機(jī)制，有效防御提示詞注入、模型越獄等高級(jí)攻擊，同時(shí)保障資源高效利用，防止模型濫用。

　　輕量敏捷的AI安全圍欄。它作為“實(shí)時(shí)哨兵”，可通過API無縫集成至現(xiàn)有應(yīng)用，提供流式檢測(cè)與毫秒級(jí)響應(yīng)，對(duì)輸入輸出進(jìn)行實(shí)時(shí)風(fēng)險(xiǎn)分析和智能處置，是守護(hù)智能客服、AI助手等交互場(chǎng)景的第一道防線。

　　此外，為助力企業(yè)合規(guī)備案，綠盟打造全流程服務(wù)體系，自研核心工具 “綠盟大模型安全合規(guī)評(píng)估系統(tǒng)（LSAS）”；針對(duì)大模型生產(chǎn)應(yīng)用風(fēng)險(xiǎn)，推出大模型紅隊(duì)評(píng)估服務(wù)，攻防團(tuán)隊(duì)模擬攻擊，系統(tǒng)性發(fā)掘潛在安全漏洞。

（編輯 張暉）