Wired · AI· Brian Barrett·· 4 小时前AI 评分73
Anthropic 递交 IPO 招股书,94 页风险因素聚焦递归自我改进
The Anthropic S-1 Filing Is Also an AI Doomsday Primer
AI 导读
Anthropic 正式递交 IPO 招股书,其中篇幅最大的部分是风险因素,共 94 页,三次提到“存在性风险”。招股书把风险指向递归自我改进(RSI),即由 AI 模型接管 AI 模型的研发,并称若 AI 系统大幅自动化 AI 研发、进展超出评估与防护能力,风险将上升。同一份文件又在“核心优势”部分把这一递归过程称为“闭环”,认为不闭环就会在竞争中逐步落后。
来源:Wired · AI · wired.com