跳到正文
  1. The Verge · AI77

    Character.AI 申请破产并出售资产,纽约州总检察长联合 40 州要求保护用户数据

    Character.AI 周二宣布申请 Chapter 11 破产并将部分资产出售给 Disney,纽约州总检察长 Letitia James 联合 40 位两党州总检察长向破产案提交利益通知,要求任何资产出售或转让方解决监管问题。

    推荐理由:Character.AI 破产出售之际,40 位州总检察长联合介入,读者可了解用户数据在资产转让中面临的监管要求。

  1. Google DeepMind79

    Google DeepMind 发布 Gemini 4 Argon,并公开安全与防护报告

    Google DeepMind 开始广泛推送 Gemini 4 Argon,同时扩大 Fairwind Program,让更多受信任的网络安全防御者使用该模型。

    推荐理由:官方披露了 Argon 在网络安全与生物滥用防护、实时失配监控和提示注入抵抗上的具体做法与数字,可据此了解前沿模型的安全部署方式。

  1. Anthropic Research62

    Anthropic 公布针对蒸馏攻击的防御方法

    Anthropic 公布其对抗蒸馏攻击的新方法,称早期证据显示蒸馏者获取的数据量减少约 90% 至 99%。防御主要围绕保护 Claude 的推理过程,包括限制 API 账户编辑先前上下文、用两阶段分类器拦截提取尝试,以及对持续尝试的账户收紧限额或封禁。

    推荐理由:Anthropic 公开了反蒸馏防御的具体方法与量化效果,同时说明了误伤正常请求和计费变化等代价。

  1. Anthropic News73

    Anthropic 推出 Cyber Mission,发布关键基础设施防御计划与 OSS Scanner

    Anthropic 推出长期网络安全项目 Anthropic Cyber Mission,先从关键基础设施和开源软件两个方向入手。

    推荐理由:Anthropic 公布两份网络安全举措与合作伙伴名单,读者可据此了解前沿模型在关键基础设施与开源代码防御中的落地方式。

  1. Anthropic News61

    Anthropic 扩展 Cyber Verification Program,推出三级访问分层

    Anthropic 推出扩展版 Cyber Verification Program,把此前的 Project Glasswing 与 CVP 整合为一个三级访问体系,面向符合条件的安全从业者开放更强模型能力并放宽拦截分类器。

    推荐理由:Anthropic 把两套网络安全访问计划合并为三级分层,并公开了各层的模型权限与评估数据。

  1. Anthropic News66

    Anthropic 与 Accenture 合作开展前沿 AI 嵌入式评估

    Anthropic 宣布与 Accenture 合作,对其前沿 AI 模型进行独立评估,该合作由其 AI 业务部门 Faculty 牵头,内容包括模型评估与红队测试、对齐评估以及模型防护措施测试。

    推荐理由:Anthropic 与 Accenture 合作开展嵌入式评估,读者可了解这一新型独立评估机制的具体安排与资金模式。

已经到底了