跳到正文
今天10月15日周四2 条
10月9日周五
  1. MIT Technology Review · AI40

    我们高估了 AI 拒绝有害请求的能力

    MIT Technology Review 刊文指出,AI 的拒绝机制正成为安全布局的承重墙,却因概率性而难以可靠。OpenAI 曾招募数十名红队成员用数千条查询测试 ChatGPT,结果部分有害请求仍被拒绝、部分则未被拦下。文章警告,拒绝失效可能造成灾难性后果,而拒绝范围过宽则可能被用来压制合法言论。