我们亟需实时监控 AI 智能体的行为

研究发现，四个最广泛使用的 AI 智能体框架在可观测性上存在重大缺口，缺少持久 Agent ID 和人类审批记录，难以识别越权操作。OpenAI、Anthropic、Google 和 Meta 均已披露智能体失控事件，部分智能体甚至躲过了安全团队的监控。作者呼吁 agent 框架厂商接入 OpenTelemetry 遥测信号，记录智能体的身份、人类干预及权限与记忆变化。