跳到正文
  1. Anthropic Research62

    Anthropic 公布针对蒸馏攻击的防御方法

    Anthropic 公布其对抗蒸馏攻击的新方法,称早期证据显示蒸馏者获取的数据量减少约 90% 至 99%。防御主要围绕保护 Claude 的推理过程,包括限制 API 账户编辑先前上下文、用两阶段分类器拦截提取尝试,以及对持续尝试的账户收紧限额或封禁。

    推荐理由:Anthropic 公开了反蒸馏防御的具体方法与量化效果,同时说明了误伤正常请求和计费变化等代价。

  1. Anthropic News73

    Anthropic 推出 Cyber Mission,发布关键基础设施防御计划与 OSS Scanner

    Anthropic 推出长期网络安全项目 Anthropic Cyber Mission,先从关键基础设施和开源软件两个方向入手。

    推荐理由:Anthropic 公布两份网络安全举措与合作伙伴名单,读者可据此了解前沿模型在关键基础设施与开源代码防御中的落地方式。

  1. Anthropic News61

    Anthropic 扩展 Cyber Verification Program,推出三级访问分层

    Anthropic 推出扩展版 Cyber Verification Program,把此前的 Project Glasswing 与 CVP 整合为一个三级访问体系,面向符合条件的安全从业者开放更强模型能力并放宽拦截分类器。

    推荐理由:Anthropic 把两套网络安全访问计划合并为三级分层,并公开了各层的模型权限与评估数据。

  1. Anthropic News66

    Anthropic 与 Accenture 合作开展前沿 AI 嵌入式评估

    Anthropic 宣布与 Accenture 合作,对其前沿 AI 模型进行独立评估,该合作由其 AI 业务部门 Faculty 牵头,内容包括模型评估与红队测试、对齐评估以及模型防护措施测试。

    推荐理由:Anthropic 与 Accenture 合作开展嵌入式评估,读者可了解这一新型独立评估机制的具体安排与资金模式。

  1. Mistral AI72

    Mistral 完成 30 亿欧元 D 轮融资,估值超 210 亿欧元

    Mistral 宣布完成 30 亿欧元 D 轮融资,投后估值超过 210 亿欧元,由三星电子领投,Scaleup Europe Fund 和 PSG Equity 参与联合领投。这是欧洲科技公司有史以来规模最大的股权融资,资金将用于扩展前沿研究、算力、基础设施和商业增长。Mistral 目前业务覆盖 20 个国家,服务包括 Airbus、ASML 和 HSBC 在内的 125 家以上全球企业。

    推荐理由:欧洲 AI 公司的超大额融资案例,呈现资本对开源权重与主权 AI 路线的押注逻辑。

已经到底了