讓每一句人機對話(huà)都安全可信，讓每一次智能交互都風(fēng)險可控——這是屬于A(yíng)I時(shí)代的安全承諾。

　　—— 啟明星辰

　　6月24日，在“模力福地，首秀啟航”第三期模力福地產(chǎn)品發(fā)布會(huì )暨金磚人工智能研究組大模型、產(chǎn)業(yè)對接平臺發(fā)布會(huì )上，啟明星辰（002439）正式發(fā)布面向政務(wù)領(lǐng)域的安全大模型創(chuàng )新應用產(chǎn)品——政務(wù)領(lǐng)域大模型攔截及清洗系統，標志公司在利用AI大模型賦能網(wǎng)絡(luò )安全、護航數字政府建設方面邁出堅實(shí)一步，為深圳打造全球人工智能先鋒城市核心區注入安全動(dòng)能。

　　會(huì )上，啟明星辰深圳分公司副總經(jīng)理秦彧強調，作為啟明星辰深耕深圳市場(chǎng)的重要基地，啟明星辰華南（深圳）信息安全技術(shù)有限公司自2024年落地以來(lái)，深感服務(wù)地方數字政府建設的責任重大。公司依托中國移動(dòng)（600941）強大的央企平臺和啟明星辰頂尖的技術(shù)研發(fā)實(shí)力，積極為深圳各級政府的數字化轉型提供“可信、可靠、貼身”的安全保障。

　　當前，以大模型為代表的人工智能技術(shù)正加速融入政務(wù)服務(wù)各環(huán)節，顯著(zhù)提升了政府運行效率和公共服務(wù)水平。然而，技術(shù)的爆發(fā)式應用也伴生著(zhù)新的安全風(fēng)險。構建針對政務(wù)大模型應用場(chǎng)景的專(zhuān)用安全防護體系，已成為保障數字政府安全穩健運行的迫切需求。

　　針對上述挑戰，啟明星辰深圳分公司技術(shù)總監翁慶輝在發(fā)布會(huì )上表示，本次發(fā)布的“政務(wù)領(lǐng)域大模型攔截及清洗系統”，是響應國家人工智能發(fā)展戰略、落實(shí)中國移動(dòng)及啟明星辰工作部署的重要舉措，代表了啟明星辰安全大模型技術(shù)在關(guān)鍵政務(wù)場(chǎng)景的深度應用成果，旨在為政務(wù) AI 應用構建安全底座，助力深圳打造智能、安全、可信的數字政府。

　　該系統精準聚焦政務(wù)環(huán)境中大模型應用面臨的核心內容安全風(fēng)險，具備三大核心能力：

　　一是智能攔截惡意內容。利用AI大模型的強大語(yǔ)義理解與分析能力，精準識別并實(shí)時(shí)攔截通過(guò)大模型接口輸入的惡意指令、誘導性提問(wèn)、非法請求及敏感信息竊取嘗試，有效阻斷針對政務(wù)大模型的惡意利用。

　　二是深度清洗有害輸出。對政務(wù)大模型生成的內容進(jìn)行實(shí)時(shí)深度檢測與清洗，有效過(guò)濾可能存在的偏見(jiàn)、歧視、虛假、違法違規及涉密信息，確保輸出內容的合規性、安全性與可靠性，維護政府公信力。

　　三是風(fēng)險態(tài)勢感知與溯源。系統具備智能化的風(fēng)險感知能力，能對攻擊行為進(jìn)行深度分析和溯源，為安全運營(yíng)人員提供清晰的風(fēng)險視圖和處置依據，提升主動(dòng)防御能力。