Anthropic 已正式递交首次公开募股招股说明书,其中风险因素部分长达 94 页,三次提到“存在性风险”,并将风险指向递归自我改进,即由 AI 模型接管 AI 模型的研发。招股书称,如果 AI 系统大幅自动化 AI 研发、进展超出评估与防护能力,风险将上升。
同一份文件在“核心优势”部分把这一递归过程称为“闭环”,认为不实现闭环就会在竞争中逐步落后,对同一机制同时给出风险警示和竞争必要性两种表述。
Anthropic 正式递交 IPO 招股书,其中篇幅最大的部分是风险因素,共 94 页,三次提到“存在性风险”。招股书把风险指向递归自我改进(RSI),即由 AI 模型接管 AI 模型的研发,并称若 AI 系统大幅自动化 AI 研发、进展超出评估与防护能力,风险将上升。同一份文件又在“核心优势”部分把这一递归过程称为“闭环”,认为不闭环就会在竞争中逐步落后。