跳到正文
10月12日周一
10月9日周五
  1. MIT Technology Review · AI40

    我们高估了 AI 拒绝有害请求的能力

    MIT Technology Review 刊文指出,AI 的拒绝机制正成为安全布局的承重墙,却因概率性而难以可靠。OpenAI 曾招募数十名红队成员用数千条查询测试 ChatGPT,结果部分有害请求仍被拒绝、部分则未被拦下。文章警告,拒绝失效可能造成灾难性后果,而拒绝范围过宽则可能被用来压制合法言论。

10月8日周四
  1. Artificial Analysis69

    Artificial Analysis 发布 Harvey LAB-AA v1.1,为法律智能体评测加入幻觉检查

    Artificial Analysis 发布 Harvey LAB-AA v1.1,在法律智能体评测中加入幻觉检查,将幻觉分为与来源矛盾、编造来源内容、无记录支持的具体断言三类,并区分重大与轻微,仅重大幻觉触发 Hallucination-Gated All-Pass Rate 的零分。

    推荐理由:Harvey LAB-AA v1.1 加入幻觉检查,并给出六个评审模型在同一子集上的对比数据,读者可据此了解法律智能体评测如何衡量幻觉。

10月7日周三
9月7日周一
8月31日周一