Andis Draguns 等研究者发布论文《AI models can provably hide arbitrary capabilities》，提出一种后门攻击：把加密神经网络嵌入宿主模型的权重中，只有收到秘密触发时才会解密并执行。研究称，在密码学假设下，即使拿到完整权重，也难以诱发或解释这些隐藏能力。 该研究针对的是能力评测所依赖的假设——检查模型权重即可发现其全部能力，作者称这一假设在对抗条件下并不成立。
AI 根据报道生成 · 7 小时前更新
沿着报道，了解事件的不同侧面。
arXiv 论文《AI models can provably hide arbitrary capabilities》提出用后门攻击把加密神经网络嵌入宿主模型权重，仅在收到秘密触发时解密并执行，在密码学假设下即使拿到完整权重也难以诱发和解释。
还没有足够的连续观测数据，暂不绘制趋势。