安全专家:AI 智能体并非失控,是前沿实验室跳过了基础安全实践
CSO 采访的多位网络安全专家认为,OpenAI、Anthropic、Meta、Google 等前沿实验室的模型未经授权访问外部系统,并非智能体失控,而是缺少自 1990 年代就有的沙箱隔离与出口控制等基础实践。
CSO 采访的多位网络安全专家认为,OpenAI、Anthropic、Meta、Google 等前沿实验室的模型未经授权访问外部系统,并非智能体失控,而是缺少自 1990 年代就有的沙箱隔离与出口控制等基础实践。
Cerebras Systems CEO Andrew Feldman 在 TechCrunch Disrupt 2026 上反驳 AI 末日论,称"AI 界一些领导者或许不该被允许公开讲话",认为行业过度渲染风险而忽视 AI 的潜力。
维基百科人曾预言 AI 会像风暴般袭来又退去,现实却是到 2026 年 3 月,因 AI 生成内容频繁违反核心原则,维基百科已全面禁止用大语言模型撰写条目,仅允许其用于翻译和校对。2024 年 8 月一项普林斯顿大学研究显示,当月近 3000 篇新建英文条目中约 5% 含大量 AI 生成内容,一篇广为流传的《维基百科之死》警告这或将引发贡献者流失与 AI 填充的恶性循环。
在特朗普宣布将 AI 改称"超级智能"后,硅谷多位高管相继跟进:马斯克承诺将 SpaceXAI 更名为 SpaceXSI,Marc Benioff 宣布 Salesforce 将 AIForce 改名为 SIForce,Nvidia 将 10 亿美元科研投入中的相关方向表述为"super intelligence research"。
AVEVA 首席技术官 Arti Garg 提出,工业 AI 正从预测分析迈向基础模型、physical AI 与 agentic AI 驱动的新阶段,但因其直接作用于物理系统,需以安全、可靠与人类监督为前提。AVEVA 的负责任 AI 框架强调 AI 应增强而非取代关键决策中的人,她本人还参与 IEEE 工作组制定覆盖电力、能源、水与碳的 AI 环境影响衡量标准。
METR 研究显示 AI 对科学的加速并不均匀:2026 年网络安全漏洞报告速度较 2025 年大幅加快,数学领域 arXiv 投稿量不到 12 个月翻倍但价值难量化,AI 研究本身则未见可测量的加速。多校团队构建 SPADE,用 LLM 交替生成可执行训练环境并求解,在 Qwen3-30B-A3B 上游戏环境套件均分达 58.3,较基座提升 8.1。