MIT Technology Review · AI· Arthur Holland Michel·· 6 天前AI 评分40
我们高估了 AI 拒绝有害请求的能力
We’re putting too much faith in AI’s ability to say no
AI 导读
MIT Technology Review 刊文指出，AI 的拒绝机制正成为安全布局的承重墙，却因概率性而难以可靠。OpenAI 曾招募数十名红队成员用数千条查询测试 ChatGPT，结果部分有害请求仍被拒绝、部分则未被拦下。文章警告，拒绝失效可能造成灾难性后果，而拒绝范围过宽则可能被用来压制合法言论。
来源：MIT Technology Review · AI · technologyreview.com