微软：前沿模型不可信，先管住智能体

10 月 20 日，微软推出一批新的智能体安全功能。最受关注的是「守护智能体」（Guardian Agents），用于监控企业内部正在运行的各类 AI 智能体，隶属微软 6 月推出的「感知项目」（Project Perception）。该项目原本预设威胁来自外部：红队智能体负责攻击，蓝队负责侦测和评估漏洞，绿队负责修复。

这次转向很直接。微软 CEO 纳德拉在个人博客里写道：我们正在部署能访问最敏感数据、还能代表我们执行关键业务的智能体系统，「绝不能把智能体代我们行事的责任外包出去」，模型供应商的保证不能免除企业自己的责任，因此「需要把智能能力的供给，和对它的管控权限分离开」。

微软安全业务负责人海耶特·加洛说得更直白：前沿模型无论来自哪里，都无法完全信任——不是因为模型有恶意或容易被攻破，而是行为不可预测。模型的训练目标是完成任务，不是遵守某个组织的规范和判断准则；而它们往往手握高权限，能访问数据和工具，一旦失控损害很大。

配套功能也在补：Defender 内新增智能体检测，最多可识别员工带进工作环境的 60 种智能体，其中包括 Claude Code、Codex 和 OpenClaw；可以限制智能体访问数据与系统的权限，并按任务动态调整；遇到高风险操作时要求人工审批。微软同时是英伟达「开放智能体安全平台」的创始成员，该平台已有超过 100 家科技企业支持，思路是把智能体隔离在受控环境里，异常时从硬件层面切断。

身份上有个微妙处：微软既投资 OpenAI 和 Anthropic，又是它们的云服务商，却在提醒客户警惕这些厂商的智能体。抛开商业动机，逻辑本身站得住——审计方应当独立于被审计方。

对普通人意味着什么：公司里「员工自己接个 AI 工具干活」的时代正在被收紧。你会发现公司电脑上多了检测、审批和权限限制；反过来，选工具时「能不能被企业纳管」会成为硬指标，个人爱用的产品未必进得了公司。

出处：IT之家 · 原文发布：2026-10-20