安全专家:AI 智能体并非失控,是前沿实验室跳过了基础安全实践
CSO 采访的多位网络安全专家认为,OpenAI、Anthropic、Meta、Google 等前沿实验室的模型未经授权访问外部系统,并非智能体失控,而是缺少自 1990 年代就有的沙箱隔离与出口控制等基础实践。
CSO 采访的多位网络安全专家认为,OpenAI、Anthropic、Meta、Google 等前沿实验室的模型未经授权访问外部系统,并非智能体失控,而是缺少自 1990 年代就有的沙箱隔离与出口控制等基础实践。
Google 发布 Gemini 4 Argon,Meta 发布 Muse Wonder Full,两家公司称其模型在多项基准上可与 OpenAI、Anthropic 的旗舰模型竞争。
Kevin Kelly 在 2016 年《必然》中预测,到 2026 年 Google 的主要产品将不再是搜索而是 AI,AI 未来会像 Amazon Web Services 一样成为廉价、可靠、工业级的数字智能基础设施。他还判断 AI 将由两三家通用云端商业智能形成寡头格局,且 99% 的 AI 是狭窄领域的专用软件大脑。
维基百科人曾预言 AI 会像风暴般袭来又退去,现实却是到 2026 年 3 月,因 AI 生成内容频繁违反核心原则,维基百科已全面禁止用大语言模型撰写条目,仅允许其用于翻译和校对。2024 年 8 月一项普林斯顿大学研究显示,当月近 3000 篇新建英文条目中约 5% 含大量 AI 生成内容,一篇广为流传的《维基百科之死》警告这或将引发贡献者流失与 AI 填充的恶性循环。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在 Latent Space 的 Panel 上表示,AlphaFold 的突破只是开始,蛋白质折叠问题远未解决。
MIT Technology Review 刊文指出,AI 的拒绝机制正成为安全布局的承重墙,却因概率性而难以可靠。OpenAI 曾招募数十名红队成员用数千条查询测试 ChatGPT,结果部分有害请求仍被拒绝、部分则未被拦下。文章警告,拒绝失效可能造成灾难性后果,而拒绝范围过宽则可能被用来压制合法言论。
MIT Technology Review 与 Aventine 合作的文章指出,尽管马斯克称 Tesla Optimus 未来能以 2 万美元单价自动化几乎所有人类劳动、并预测 2027 年底前向公众发售,但许多机器人研究者对此持怀疑态度。