Tech Against Terrorism 报告:开源模型护栏极易被去除,去护栏版本不到三天即上网
英国非营利机构 Tech Against Terrorism 发布 Counter-Terrorism AI Benchmark 报告,用200多条提示测试了134个AI模型对恐怖主义与极端主义请求的响应。
英国非营利机构 Tech Against Terrorism 发布 Counter-Terrorism AI Benchmark 报告,用200多条提示测试了134个AI模型对恐怖主义与极端主义请求的响应。
菲尔兹奖得主丘成桐与多位中国数学家在北京发起“丘成桐数学与人工智能实验室联盟”,联合八家机构,目标建成超过 1000 名研究者的网络,并指出中国在该领域落后于美国。与此同时,25 位菲尔兹奖得主包括陶哲轩和 Peter Scholze 担忧 AI 生成的证明会削弱数学理解,部分学界人士呼吁抵制 AI 生成的证明。中国方面希望构建专用模型、可机器验证的证明以及透明的 AI 推理过程。