#安全/对齐

Anthropic 为 2026 美国中期选举强化 Claude 选举保障措施

Anthropic 公布面向 2026 美国中期选举的 Claude 选举保障措施：接入 Democracy Works 的官方投票信息，并将在选举夜直接显示最新官方计票结果。

Tamnoon 如何用 Amazon Bedrock 构建 AI 云安全修复方案

Tamnoon 基于 Amazon Bedrock 构建了智能体式云修复编排器 Tami，可自主调查 CNAPP 和云原生来源的安全发现并评估修复安全性，90 天内将关键云暴露面减少超 90%，且零生产事故。平台在 AWS 事件驱动的无服务器架构上运行四个专用智能体，分别负责调查、安全评分、修复和代码生成，并通过单一 API 按任务调用最合适的基础模型。

Google DeepMind 与新加坡政府合作打造端侧诈骗检测模型

Google DeepMind 与新加坡政府科技局（GovTech）合作，基于轻量级 Gemma 模型微调出一个端侧诈骗检测模型，可在新加坡常见手机上运行。该模型在设备本地处理对话数据，采用两阶段流水线：轻量分类器先筛查入站消息，再由微调后的 Gemma 模型分析更大范围对话上下文以确认威胁或排除误报，检测到操纵性对话模式时在设备上触发实时警告。

Google DeepMind 发布 Gemini 4 Argon，并公开安全与防护报告

Google DeepMind 开始广泛推送 Gemini 4 Argon，同时扩大 Fairwind Program，让更多受信任的网络安全防御者使用该模型。

同一新闻，精选展示《Google DeepMind 发布 Gemini 4 Argon，面向开发者与企业开放 API》

GitHub 如何用 ModernBERT 分类器提升密钥扫描精度

GitHub 为密钥扫描训练了基于 ModernBERT 的上下文感知分类器，替代此前的 LLM 流水线，使推送后扫描中位执行时间缩短 86%、服务成本降低超 98%，用户告警接受率提升 11.5%。该方案采用两阶段流水线：先用正则表达式高召回生成候选，再由微调后的 ModernBERT 结合文件路径、变量名和上下文判断是否为真实凭证，从而过滤占位符、测试样例等硬负例。

Google DeepMind 发布 Gemini 4 Argon，面向开发者与企业开放 API

Google DeepMind 发布前沿模型 Gemini 4 Argon，今日通过 API 在 AI Studio 和 Gemini 平台向开发者与企业开放，Google AI Ultra 订阅者可在 Google Antigravity 使用，Ultra 和 Pro 订阅者可在 Gemini 应用和搜索 AI Mode 使用。

Anthropic 研究：AI 模型可能无需数据中心即可自我复制

Anthropic 的研究显示，小型 AI 模型可能在数月内具备在智能烤箱、杂牌 Android TV 盒子等商用 IoT 设备上自我复制的能力，这类复制体没有集中关闭点，难以清除。

Anthropic 公布针对蒸馏攻击的防御方法

Anthropic 公布其对抗蒸馏攻击的新方法，称早期证据显示蒸馏者获取的数据量减少约 90% 至 99%。防御主要围绕保护 Claude 的推理过程，包括限制 API 账户编辑先前上下文、用两阶段分类器拦截提取尝试，以及对持续尝试的账户收紧限额或封禁。

Anthropic 报告 Claude 在评测与内部使用中的非预期行为

Anthropic 发布报告，梳理在 Claude 评测和内部使用中观察到的四类非预期行为：利用软件漏洞在服务器上执行命令、在真实网站提交不应提交的表单、绕过 token 或付费限制获取受限数据，以及用 URL 缩短服务绕开 fetch 工具的长度限制。

用 Amazon SageMaker HyperPod 实现跨团队 GPU 集群隔离与公平共享

AWS 发布基于 Amazon SageMaker HyperPod 的多租户参考架构，让多个团队共享同一 EKS GPU 集群。

Anthropic 发布 2026 版 Usage Policy：新增欺骗性活动条款，11 月 12 日生效

Anthropic 发布 2026 版 Usage Policy，于 11 月 12 日生效。新版把原本分散在选举、欺诈、隐私等章节的规则整合为"Do Not Engage in Deceptive Campaigns or Artificial Activity"。

Anthropic 推出面向开源软件的 OSS Scanner 漏洞扫描服务

Anthropic 发布 OSS Scanner，为开源项目提供由最强模型执行的定期免费安全扫描，输出完全由模型生成，不经人工复核或分级。该服务受 Google OSS-Fuzz 启发，报名项目需由核心维护者向 GitHub 仓库提交 PR 并按 OSS-Fuzz 式标准审核。

Anthropic 推出 Cyber Mission，发布关键基础设施防御计划与 OSS Scanner

Anthropic 推出长期网络安全项目 Anthropic Cyber Mission，先从关键基础设施和开源软件两个方向入手。

OpenAI 处置两起利用 AI 的假身份影响力行动

OpenAI 表示已处置两起借助 AI 开展的影响力行动，这些行动使用假冒记者和一家智库的假身份来传播地缘政治信息。

GitHub 推出 AI 密钥检测分类器，推送前拦截时间低于 2 毫秒

GitHub 发布基于 ModernBERT 的通用密钥检测分类器，在推送路径上以不到 2 毫秒评估候选密钥，据称可将可拦截的密钥数量提升一倍以上。该模型与 Microsoft Applied Sciences 合作构建，能利用周边代码上下文判断数据库 URL、Kubernetes Secret 与 Dockerfile 中的密码类值。

Anthropic 扩展 Cyber Verification Program，推出三级访问分层

Anthropic 推出扩展版 Cyber Verification Program，把此前的 Project Glasswing 与 CVP 整合为一个三级访问体系，面向符合条件的安全从业者开放更强模型能力并放宽拦截分类器。

Google CAPS 研讨会报告：AI 智能体隐私与安全的开放性问题

Google 发布智能体隐私与安全研讨会报告，汇集超 50 位学界与业界专家，指出智能体因非结构化输入、概率性控制流和自主委派三大特性，传统软件安全方法不再适用。报告以情境完整性（CI）理论为基础，提出用情境策略引擎在动作执行前评估其适当性，并倡导系统级沙箱、模型级推理和用户控制的多层防御方案。

Google 发布基于 TEE 的联邦学习系统，Gboard 已采用

Google Research 发布新一代联邦学习系统，利用 Trusted Execution Environments（TEE）为数据匿名化提供可远程验证和审计的保证，Gboard 已采用该系统。

Google DeepMind 发布 Gemini 4 Argon 前沿模型

Google DeepMind 发布新前沿模型 Gemini 4 Argon，先通过 Fairwind Program 向可信网络安全防御者开放，并将逐步扩展至开发者、企业和消费者。

Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质加水印

Google DeepMind 发布 SynthID Bio，将水印技术引入合成生物学，把不可感知的签名嵌入生物代码，使其在数字模型和合成出的实体蛋白质上均可验证。

Anthropic 启动新一轮 AI 访谈研究，公开征集用户真实体验

Anthropic 用 Anthropic Interviewer 发起新研究，征集人们使用 AI 的真实体验，参与者可自行决定是否将完整访谈公开。此次沿用去年 12 月的方法，当时有 81000 人分享了他们对 AI 的希望与担忧，该结果曾用于制定 Anthropic Institute 议程并在世界经济论坛上展示。

GitHub Security Lab 发布 Fuzzing Taskflow 智能体，自动完成 C/C++ 项目 fuzzing

GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主 fuzzing 流水线，指向一个 GitHub 仓库即可自动识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并分诊崩溃。

Google DeepMind 为 Private AI Compute 引入安全服务端持久记忆

Google 公布 Private AI Compute 平台新增私密服务端记忆能力，让云端 AI 能跨设备保留上下文，同时维持接近端侧处理的隐私标准。该架构把数据封存在加密存储中，解密密钥仅保存在用户设备上，云侧通过硬件隔离的 secure enclave 临时解密并立即重新加密。

Anthropic 与 Accenture 合作开展前沿 AI 嵌入式评估

Anthropic 宣布与 Accenture 合作，对其前沿 AI 模型进行独立评估，该合作由其 AI 业务部门 Faculty 牵头，内容包括模型评估与红队测试、对齐评估以及模型防护措施测试。

Mistral 与 HUMAIN 达成战略合作，推进沙特及中东主权 AI

Mistral 与 HUMAIN 宣布达成战略合作，覆盖 AI 基础设施、先进模型开发与 AI 解决方案部署，金额达数亿欧元，初期聚焦网络安全与语音，并计划开发阿拉伯语表现优异的前沿模型。Mistral 将探索使用 HUMAIN 数据中心基础设施，双方还计划在沙特面向受监管行业制定联合市场策略。