国家互联网应急中心于2026年9月23日发布关于2026年人工智能大模型安全众测活动典型漏洞风险的通报，主题涉及大模型应用中的漏洞风险与网络安全问题。安全众测通过测试发现系统在实际使用中可能存在的薄弱环节，通报则将典型风险纳入安全预警信息。对运营大模型服务的团队来说，这类信息与应用部署、接口开放、数据处理和日常运维都有联系。
大模型应用的安全边界往往不止于模型本身。一个对外提供服务的系统，通常还连接着用户账户、知识库、业务接口和后台管理功能。模型生成的内容如果被当作可信指令直接交给其他程序执行，风险就可能从对话环节延伸到业务系统。知识库接入也有类似问题：检索到的文档属于外部输入，不能因为它出现在模型上下文中，就获得调用工具或访问敏感数据的权限。
以下属于大模型应用的通用防护做法，并非此次通报披露的具体漏洞细节。运营团队可以从实际开放的功能入手，梳理哪些接口允许用户提交文本、上传文件，哪些功能会调用内部工具。检查重点是权限如何传递：普通用户发起的请求，不能借由模型调用获得管理员权限；对话中出现的指令，也不应直接改变文件、数据库或业务流程。涉及写入、发送和执行操作的工具调用，应在模型之外设置独立的权限校验。
处理用户输入和检索内容时，应用还应区分数据与指令。恶意文本可能伪装成系统命令，试图影响模型回答或诱导其调用外部功能。通用做法是在服务端固定关键规则，限制模型可调用的工具及参数范围，并对工具返回结果实施必要的过滤。若应用允许上传文件，还要检查文件类型、大小和解析流程，避免把文件名、文档正文中的控制语句当作系统指令。
排查工作不能只停留在模型回答是否正常。管理员可查看接口访问记录、异常调用次数、工具执行日志和权限变更记录，查找与已知风险相关的异常请求。完成配置调整或程序修复后，应在测试环境复现原有问题，确认限制生效，同时检查正常业务是否受到影响。正式环境部署完成后，再结合日志持续观察相同入口，能够帮助团队判断修复措施是否稳定。
对于通报涉及的具体风险，处置流程仍以正式公告和相关系统的维护说明为准。团队内部把应用版本、开放接口、知识库来源和工具权限记录清楚，后续开展漏洞修复与验证会更直接，也能减少多系统联动时遗漏暴露入口的情况。
（相关资讯内容来源于网络，如有不实和侵权请联系删除）
