大模型安全防护系统_终端安全_产品

防护阶段及对应方案

大模型研发与训练场景

描述：
1.数据安全：模型训练前、构建知识库前若含用户隐私（如医疗记录、金融信息等），可能因数据清洗不彻底导致泄露。
2. 训练环境安全：攻击者可能通过网络攻击（如 DDoS 攻击）中断训练进程，或篡改训练参数导致模型性能受损。
方案：
1、通过代理 RAG 业务系统请求，对模型训练前、构建知识库前的语料进行敏感数据清洗，保障语料库及生成内容的安全性、合规性，防止恶意攻击（如数据投毒、提示注入）、敏感信息泄露及生成有害内容
2、开启抗DDoS配置攻击，保障训练环境安全。
大模型部署与运行阶段

描述：
1. 模型安全：模型运行环境中可能暗藏恶意病毒，导致模型参数篡改或数据泄露；模型接口存在SQL注入、跨站脚本漏洞，攻击者可借此篡改运行逻辑。
2、访问控制：内部人员若权限过高且缺乏审计，可能恶意调用模型生成敏感内容或泄露模型核心信息。
方案：
1、通过防病毒、漏洞检测、微隔离等模型主机防护措施，保障大模型服务主机在运行时的安全；
2、根据不同权限划分不同RAG语料库，投喂数据按照角色权限相互独立，且仅开放必要功能访问，如开发人员仅能调试代码，禁止直接调用生产模型；
大模型应用与交互阶段

描述：
1、不合规的问题可能被用于生成违规内容（如政治敏感话题、虚假信息等内容）、误导性内容（如谣言）。
2、不安全的输入输出：模型交互时输出的恶意域名、黄色网站、暴恐网站；通过用户对话推断出敏感隐私，并意外泄露。
方案：
1、内置海量规则库，提高垂直领域违规内容检测率；
2、实时检测聊天内容中的隐私信息并脱敏；
3、实时检测聊天内容中的URL是否是恶意域名、黄色网站、暴恐网站并检测检测聊天内容是否涉及注入风险
大模型持续监控阶段

描述：
1.大模型资产难以被识别和持续监测，导致资产台账缺失；
2.模型的遭受异常调用行为（如高频次请求、异常输入模式）无法精准识别，导致被破坏或篡改，影响业务持续运行
方案：
1、通过大模型资产透视，对大模型资产识别并进行运行状态监测，并绘制模型资产流量画像，避免外部非法访问。；
2、对模型进程进行流量捕捉，可视化呈现模型网络访问情况；
3、实时统计模型输入输出token、访问速率、时延情况

大模型安全防护系统

大模型安全防护系统是一款针对于大模型安全设计的一站式防护产品，覆盖资产安全、数据安全、内容风控及主机防护等核心场景，提供从开发、训练、部署到运营的全生命周期安全闭环，实现模型资产的统一监测、风险识别与动态防护，保障模型运行安全；内置敏感信息检测、内容过滤与异步审计能力，有效防范数据泄露与违规内容生成；同时提供主机层面的漏洞扫描、基线检查等安全加固功能，确保底层环境稳定可靠。系统支持灵活的策略配置与集中化管理，满足不同业务场景的安全需求，助力用户安全、合规地落地大模型应用。

产品功能