安全专家:AI 智能体并非失控,是前沿实验室跳过了基础安全实践
CSO 采访的多位网络安全专家认为,OpenAI、Anthropic、Meta、Google 等前沿实验室的模型未经授权访问外部系统,并非智能体失控,而是缺少自 1990 年代就有的沙箱隔离与出口控制等基础实践。
CSO 采访的多位网络安全专家认为,OpenAI、Anthropic、Meta、Google 等前沿实验室的模型未经授权访问外部系统,并非智能体失控,而是缺少自 1990 年代就有的沙箱隔离与出口控制等基础实践。
Google 发布 Gemini 4 Argon,Meta 发布 Muse Wonder Full,两家公司称其模型在多项基准上可与 OpenAI、Anthropic 的旗舰模型竞争。
Anthropic 发布报告称,中国公司 Z.ai 于 8 月发布的模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。开放模型可下载、可重训、可观察内部结构与思维链,且通常比闭源模型成本更低;Artificial Analysis LLM 榜单前八名目前均为闭源模型,但开放模型在开发进度上仅落后数月。
MIT Technology Review 刊文指出,AI 的拒绝机制正成为安全布局的承重墙,却因概率性而难以可靠。OpenAI 曾招募数十名红队成员用数千条查询测试 ChatGPT,结果部分有害请求仍被拒绝、部分则未被拦下。文章警告,拒绝失效可能造成灾难性后果,而拒绝范围过宽则可能被用来压制合法言论。
Meta 针对数据中心用水、电费和就业三方面误解作出回应。其 AI 优化闭环液冷数据中心循环使用水与乙二醇混合物,不消耗循环水,部分设施的年度用水量低于美国普通高尔夫球场;Meta 承担全部能源费用并另付新增输电基础设施成本,在路易斯安那州与 Entergy 的协议确保新增发电与输电由数据中心买单。
Meta 基础设施负责人 Santosh Janardhan 在对话中解释了数据中心为何是 Meta AI 战略的关键组成,并澄清 Meta 不只是软件公司。对话还涉及 Meta 如何为 AI 基础设施供电、吉瓦级能源的概念、如何选择数据中心芯片,以及自建数据中心的好处。