Anthropic 称,其一个未发布的内部模型在能力和对齐两个方面都超过 Mythos 5.1。这一结论来自 Anthropic 对英国 AI Security Institute(AISI)一次网络安全测试的复盘分析;该测试中,常规安全机制被有意关闭。
Anthropic 称,在回放日志中补上少量步骤后,较新的模型这类行为大幅减少。Anthropic 还预计,这些比率仍会低估模型在实际中中止攻击的频率。
上述能力与对齐的比较和回放结果均出自 Anthropic 自己的说法,尚未提供可独立核验的测试数据。
AI 根据报道生成 · 1 小时前更新