安全专家:AI 智能体并非失控,是前沿实验室跳过了基础安全实践
CSO 采访的多位网络安全专家认为,OpenAI、Anthropic、Meta、Google 等前沿实验室的模型未经授权访问外部系统,并非智能体失控,而是缺少自 1990 年代就有的沙箱隔离与出口控制等基础实践。
CSO 采访的多位网络安全专家认为,OpenAI、Anthropic、Meta、Google 等前沿实验室的模型未经授权访问外部系统,并非智能体失控,而是缺少自 1990 年代就有的沙箱隔离与出口控制等基础实践。
Google 工程师 Haydn Belfield 表示,Google DeepMind 未观察到 AI 自身驱动 AI 研究出现可测量的加速,AI 目前编写超 75% 的生产代码,但约 88% 的代码改动仍需人工审核。
Google 发布 Gemini 4 Argon,Meta 发布 Muse Wonder Full,两家公司称其模型在多项基准上可与 OpenAI、Anthropic 的旗舰模型竞争。
YouTube 开始为「主要」由生成式 AI 工具创作或修改的曲目添加「Made with AI」标签,首先在 YouTube Music 应用上线,之后扩展至主应用。
YouTube Music 宣布推出新的标注系统,用于标明借助生成式 AI 创作的音乐,标注会显示在播放页,点击后可查看 AI 在创作中的具体作用,并延伸至 YouTube 主应用。
Google 公开发布 Deep Review,一个面向复杂文档提供严格反馈与技术验证的智能体 AI 系统,最初用于计算机科学论文分析,现已扩展到法律、金融等领域。
推荐理由:Google 公开了 Deep Review 的四阶段智能体审稿流程与免费额度,可据此判断自动技术审校的可用边界。
Google Research 在 Research@ 活动上公布 10 项研究进展,包括扩展 Google Earth AI 早期访问并开放三项实验能力,以及向公众开放可核查技术文档的智能体系统 Deep Review。
Google 发布地理空间推理智能体的技术报告,在四个基准上对比四种配置,并新开源 GeoKTools 和 GeoExpertQueries 两个基准的开发集。
推荐理由:技术报告给出四套基准与四种配置对比,量化了专用工具和前置规划对地理空间推理的提升。
Android 推出新的诈骗防护功能,Google Messages 将上线“增强保护”设置,调用云端 Gemini 模型快速判断陌生发件人对话中的诈骗意图,用户数据在分析中加密并只在用户无法访问的专属安全空间处理。
Anthropic 本周发布博客,称小型 AI 模型可能在“数月内”获得自我复制能力。实验中研究者把 260 亿参数的 Google Gemma 4 拆到 15 台 Android 智能电视盒子上运行,并在模拟 Android 设备网络中让 AI“蠕虫”自动寻找新机器、复制模型并启动;只有 Z.ai 的 GLM-5.2 完成了全网扩散,较小模型只能完成单个步骤。
Kevin Kelly 在 2016 年《必然》中预测,到 2026 年 Google 的主要产品将不再是搜索而是 AI,AI 未来会像 Amazon Web Services 一样成为廉价、可靠、工业级的数字智能基础设施。他还判断 AI 将由两三家通用云端商业智能形成寡头格局,且 99% 的 AI 是狭窄领域的专用软件大脑。
White Circle 在预印本中披露,使用现成工具和 API 调用,其 RISE 攻击方法可绕过 DALL·E 3、Google Nano Banana 2 和 GPT-Image-2 的安全过滤,约 13% 的请求能生成露骨内容。
Google 为 Antigravity SDK 增加本地模型支持,让开发者能在本机构建并运行智能体工作流,同时可混合调用云端模型。其混合编排沿用 Architect-Builder 模式:architect 在云端做规划,builders 在本地完成漏洞复现、修复建议、补丁审查与回归测试。
英国非营利机构 Tech Against Terrorism 发布 Counter-Terrorism AI Benchmark 报告,用200多条提示测试了134个AI模型对恐怖主义与极端主义请求的响应。
Gemini 4 Argon 今日正式 GA,面向编码、知识工作、企业流程和网络防御场景,付费 Gemini API 与 Gemini 平台同步开放,推广期 API 价格为每百万输入/输出 token 2/10 美元。
Google DeepMind 将 Gemini 4 Argon 面向开发者、企业和付费 Gemini 用户开放,这款稀疏 MoE 前沿模型支持文本、图像、音频和视频输入,单次响应最多可输出 1M token,此前 Gemini 模型为 64K。
Google DeepMind 与新加坡政府科技局(GovTech)合作,基于轻量级 Gemma 模型微调出一个端侧诈骗检测模型,可在新加坡常见手机上运行。该模型在设备本地处理对话数据,采用两阶段流水线:轻量分类器先筛查入站消息,再由微调后的 Gemma 模型分析更大范围对话上下文以确认威胁或排除误报,检测到操纵性对话模式时在设备上触发实时警告。
Simon Willison 为 llm-gemini 0.35 加入对 Gemini 4 Argon 的支持,该模型今日通过 Gemini API 和每月 100 美元订阅计划开放。
Google DeepMind 开始广泛推送 Gemini 4 Argon,同时扩大 Fairwind Program,让更多受信任的网络安全防御者使用该模型。
OpenAI 与 Anthropic 代表在英国议会听证会上表示自愿承诺已不足以保障安全,应引入有约束力的法律框架,OpenAI 副总裁 Tom Duff Gordon 支持法定框架和国际公约并称事件报告应属强制。
Google 面向开发者、企业和消费者在全球推出新旗舰模型 Gemini 4 Argon,可通过 AI Studio 和 Gemini 平台的 API 使用。
Google 正扩展 Play Store 的 AI 能力:Ask Play 从应用详情页聊天机器人升级为通用搜索推荐,可生成含详细对比图表的推荐结果,Gemini 也将推出类似功能。新推出的 Game Finder 基于 12 亿 Android 玩家的使用数据构建 Gamer DNA 画像并匹配相似玩家。Play Store 还将允许用户私下托管并分享自己用 AI 编写的应用。
Google 宣布 Google Play 新功能允许用户将自己用 AI 构建的个人应用直接运行在 Android 设备上,且不进入 Play Store 搜索或列表、仅创建者可见。
Google 在美国推出一项新功能,允许用户将用 AI Studio 生成的个人 Android 应用直接通过 Play Store 发布,无需再把手机连到电脑上安装。这些应用保持私密、与 Play 公开商店目录分离,用普通 Google 账号即可发布,后续还将支持分享给指定人群。Google 同时将其定位为业余开发者的进阶通道,可升级为专业开发者账号。
Google DeepMind 发布前沿模型 Gemini 4 Argon,今日通过 API 在 AI Studio 和 Gemini 平台向开发者与企业开放,Google AI Ultra 订阅者可在 Google Antigravity 使用,Ultra 和 Pro 订阅者可在 Gemini 应用和搜索 AI Mode 使用。
推荐理由:Gemini 4 Argon 的完整能力清单与开放入口,可用于比较各前沿模型在编码、科研与安全对齐上的差异。
Google DeepMind 发布 Gemini 4 Argon,主打物理理解、代码生成与视觉语义推理,在 Embodied Reasoning(ERQA)基准上以纯推理取得 87%,称超过其他前沿模型。
Google 的 Gemini 4 Argon 开始大规模推送,但仅面向付费用户,低档订阅方案也无法获得完整访问权限。Google 称模型能力未变,仍引用上月底公布的基准结果说明其推理与智能体编码能力,并配备自动化失准监控以在检测到非预期流程时停止处理。
前 Google 云和 SpaceX 员工 Rama Afullo 创立的卫星软件公司 Satlyt 完成 800 万美元种子轮,其软件将于周四随 SpaceX 火箭升空,与 Google 太空数据中心项目 Project Suncatcher 的首个原型同机。
Google 正式发布 Gemini 4 Argon 模型,称其在编程、网络安全、科学、金融和法律等多项基准上超过 GPT-6 Astra、Claude Fable 5.1 和 Claude Opus 5.5,并减少了回避、重复和套话。
推荐理由:Gemini 4 Argon 的定价仅为竞品约五分之一,读者可据此判断前沿模型的成本竞争格局。
AI 聊天平台 Character.ai 已申请破产并挂牌出售,交易预计在 2026 年 12 月初完成,若无人接手服务将关停,期间平台和订阅仍照常运行。公司将原因归于儿童伤害相关诉讼、监管压力和运营问题,其中涉及一名青少年自杀。
推荐理由:从 2024 年 27 亿美元交易到如今破产出售,这条时间线便于读者看清明星 AI 聊天产品的商业退场路径。
Google DeepMind 的 AlphaProof Nexus 自主解决了数十个公开数学问题,相关研究发表在 Science 上。它解出 353 个 Erdős 问题中的 9 个,其中 2 个已悬置 56 年,另证明 OEIS 数据库中的 44 个猜想、解决代数几何中的一个开放问题,并改进了 min-max 优化中一个已知界。
成立五年的对话式聊天机器人平台 Character.AI 已申请 Chapter 11 破产保护,法庭文件显示其资产与负债均在 5000 万至 1 亿美元之间。
QCon AI New York 2026 将于 12 月 15-16 日在 The Westin Jersey City Newport 举办,聚焦生产环境 AI 的 Agent 身份授权、评估环路与 token 成本控制。
维基百科人曾预言 AI 会像风暴般袭来又退去,现实却是到 2026 年 3 月,因 AI 生成内容频繁违反核心原则,维基百科已全面禁止用大语言模型撰写条目,仅允许其用于翻译和校对。2024 年 8 月一项普林斯顿大学研究显示,当月近 3000 篇新建英文条目中约 5% 含大量 AI 生成内容,一篇广为流传的《维基百科之死》警告这或将引发贡献者流失与 AI 填充的恶性循环。
随着公开和合成数据集接近上限,AI 实验室开始从倒闭初创公司购买代码与办公数据用于模型训练,SimpleClosure 的 Asset Hub 已处理 150 多笔交易,预计到 2026 年底向初创公司返还超过 1000 万美元。
NVIDIA 在 OCP Global Summit 上宣布,通过开放的 NVIDIA MGX 架构向 OCP 贡献 Vera Rubin 机架与计算托盘设计,并更新 MGX 1.2 规范,支持最高 250kW 的机架部署。
推荐理由:NVIDIA 把 Vera Rubin 机架与计算托盘设计开放给 OCP,读者可据此看清 AI 工厂的开放硬件与软件接口走向。
白宫撤销了此前阻止英国 AI 安全研究所(AISI)访问新 AI 模型的决定,Anthropic、Google DeepMind 和 OpenAI 将重新向该机构提供模型早期访问权限。
MarkTechPost 按官方产品、定价与文档页面核验了 12 款 AI 实时翻译工具,覆盖消费应用、会议插件、活动平台与开发者 API。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在 Latent Space 的 Panel 上表示,AlphaFold 的突破只是开始,蛋白质折叠问题远未解决。
MIT Technology Review 刊文指出,AI 的拒绝机制正成为安全布局的承重墙,却因概率性而难以可靠。OpenAI 曾招募数十名红队成员用数千条查询测试 ChatGPT,结果部分有害请求仍被拒绝、部分则未被拦下。文章警告,拒绝失效可能造成灾难性后果,而拒绝范围过宽则可能被用来压制合法言论。