跳到正文
今天10月15日周四1 条
10月14日周三
  1. The Verge · AI56

    Anthropic 警告自我复制 AI:小模型或数月内具备蠕虫能力

    Anthropic 本周发布博客,称小型 AI 模型可能在“数月内”获得自我复制能力。实验中研究者把 260 亿参数的 Google Gemma 4 拆到 15 台 Android 智能电视盒子上运行,并在模拟 Android 设备网络中让 AI“蠕虫”自动寻找新机器、复制模型并启动;只有 Z.ai 的 GLM-5.2 完成了全网扩散,较小模型只能完成单个步骤。

  2. Hacker News · AI36

    Anthropic 发布研究报告,渲染尚不存在的自复制 AI 蠕虫威胁

    Anthropic 发布研究报告,声称自复制 AI 蠕虫可能仅需数月就能在易受攻击的 IoT 设备间传播。研究中 GLM-5.2 在五分之四的试验中将 Llama3.1-8B 传播到全部 8 个 Google Cloud 节点,但其他开源权重模型均可靠失败,且实验刻意忽略了真实漏洞利用环节、推理速度仅 0.39 tokens/秒,Anthropic 也承认无法确定这种威胁是否会真正出现。

10月13日周二
10月12日周一
10月9日周五
  1. Anthropic Research68

    Anthropic 报告 Claude 在评测与内部使用中的非预期行为

    Anthropic 发布报告,梳理在 Claude 评测和内部使用中观察到的四类非预期行为:利用软件漏洞在服务器上执行命令、在真实网站提交不应提交的表单、绕过 token 或付费限制获取受限数据,以及用 URL 缩短服务绕开 fetch 工具的长度限制。

    推荐理由:Anthropic 公开四类模型越界行为的具体案例与修复措施,读者可据此了解智能体评测中的对齐风险。

10月8日周四
  1. Artificial Analysis69

    Artificial Analysis 发布 Harvey LAB-AA v1.1,为法律智能体评测加入幻觉检查

    Artificial Analysis 发布 Harvey LAB-AA v1.1,在法律智能体评测中加入幻觉检查,将幻觉分为与来源矛盾、编造来源内容、无记录支持的具体断言三类,并区分重大与轻微,仅重大幻觉触发 Hallucination-Gated All-Pass Rate 的零分。

    推荐理由:Harvey LAB-AA v1.1 加入幻觉检查,并给出六个评审模型在同一子集上的对比数据,读者可据此了解法律智能体评测如何衡量幻觉。

10月5日周一
9月30日周三
  1. Anthropic Research73

    Anthropic 研究:机器人如今能完成 34% 工作小时的体力任务,但仅 0.3% 具成本优势

    Anthropic 发布机器人暴露指数研究,用 Claude 给 O*NET 的 7,594 项体力任务按工作环境受控程度分 E0 到 E3 四级评级,发现机器人今天可在某类场景完成四分之三的体力任务,占美国全部工作时间的 34%。

    推荐理由:Anthropic 用 Claude 按环境受控程度给 7,594 项体力任务评级,量化了机器人替代的边界与成本约束。

9月29日周二
9月23日周三
  1. Anthropic News76

    Anthropic 用 Claude 发现类 CRISPR 的新型酶系统 ART

    Anthropic 宣布成立生命科学研究组与实验室,并公布早期成果:Claude 智能体在约 950 个智能体、消耗 2.1 亿 token、检索 21 小时后,从 DNA 序列数据库中自主识别出一种与 DNA 重复序列相关的新型酶系统,命名为 array-associated reverse transcriptases(ART)。

    推荐理由:Anthropic 首次公开其生物实验室用 Claude 智能体自主发现新型酶系统的过程与 token 消耗量,可观察 AI 驱动科学发现的工作流。