AI 资产在哪里？
哪些 AI 应用、模型、智能助手和 MCP 工具正在运行？
让 AI 用得更快，也用得更稳
企业接入大模型、智能助手与 MCP 工具之后，真正的挑战不只是“能不能用”，而是能否知道 AI 在哪里、如何流转，以及风险发生在哪里。
发现→观察→治理→检测→响应
企业需要回答的，不只是“能不能用”
AI 安全不是简单地禁止使用，而是让企业知道 AI 在哪里、如何流转、风险发生在哪里，并把这些信息转化为可持续的治理与运营动作。
数据如何流转？
数据经过了哪些模型、接口与工具，调用链路是否清晰可追溯？
敏感信息安全吗？
有没有敏感信息被误传、暴露或进入不合适的 AI 服务？
权限是否越界？
第三方调用和智能体操作，是否超出了应有的权限范围？
AI 应用的主要风险，已有行业清单可依
生成式 AI 应用的风险不同于传统 Web 应用。OWASP 面向 LLM 应用的 Top 10（2025）给出了行业公认的风险清单，可作为企业自评、优先级排序与治理落地的起点。
提示注入（LLM01）
通过精心构造的输入改变模型行为，绕过安全策略或影响关键决策。
敏感信息泄露（LLM02）
模型输出泄露机密数据、算法或个人信息，带来合规与知识产权风险。
供应链风险（LLM03）
预训练模型、数据集与部署平台引入的第三方风险，难以完全掌控。
数据与模型投毒（LLM04）
在训练、微调或嵌入阶段注入恶意数据，植入后门或偏见。
不当输出处理（LLM05）
输出未经校验直接进入下游系统，可能引发 XSS、SSRF 或越权执行。
过度代理（LLM06）
智能体的权限、功能或自主性过大，一旦被利用将危及机密性、完整性与可用性。
系统提示泄露（LLM07）
系统提示中可能包含凭据或规则，泄露后可被绕过防护或用于提权。
向量与嵌入弱点（LLM08）
RAG 场景下向量生成、存储与检索的缺陷，可导致内容注入或越权访问。
错误信息（LLM09）
模型生成看似可信的错误内容（幻觉），带来声誉与法律风险。
无界消耗（LLM10）
不受控的推理请求导致拒绝服务、成本失控或模型被窃取。
围绕 AI 全生命周期，构建四项核心能力
从资产发现到运行时防护，把分散的安全动作组织成可落地、可复用的能力体系。
梳理企业内运行的 AI 应用、模型、智能助手与 MCP 工具，建立持续更新的资产台账。
识别敏感数据在调用链路中的流向，防止误传、泄露与不合规的 AI 服务使用。
对模型、接口与智能体工具执行最小权限与动态授权，抑制越权与过度代理。
在请求与响应环节拦截提示注入、恶意插件调用与不当输出，并联动处置。
对齐 NIST AI RMF，把治理落到流程
美国 NIST 发布的 AI 风险管理框架（AI RMF 1.0）以「治理、映射、度量、管理」四个核心职能组织 AI 风险工作，是全球广泛参考的方法论。
- 治理 Govern建立 AI 安全的策略、职责与问责机制。
- 映射 Map识别 AI 场景、数据与相关方的风险上下文。
- 度量 Measure用指标与测试评估风险水平与防护效果。
- 管理 Manage按优先级处置风险，并持续监测与改进。
从评估到持续运营，分阶段落地
不追求一次到位，按成熟度逐步推进：先看清、再管住、后运营。
- 现状评估盘点 AI 资产、数据流与现有安全能力，形成风险基线。
- 试点治理选择高价值或高风险场景先行，验证策略与流程。
- 推广建设把验证过的能力推广到更多业务与团队。
- 持续运营纳入日常安全运营，持续度量、审计与优化。
参考的行业标准与框架
方案设计参考国际主流 AI 安全与治理框架，便于企业对接合规与审计要求。
OWASP LLM Top 10
面向 LLM 与生成式 AI 应用的十大安全风险清单（2025）。
NIST AI RMF
AI 风险管理框架，以治理、映射、度量、管理四职能组织风险工作。
MITRE ATLAS
面向 AI 系统的对抗性威胁矩阵，覆盖从侦察到影响的技术与战术。
ISO/IEC 42001
人工智能管理体系标准，为组织级 AI 治理提供管理要求。
从看清 AI，到管住 AI 风险
从现有 AI 使用情况与数据边界出发，建立可观察、可管理、可持续运营的安全体系。