跳到正文

技术方向

安全对齐 最新动态

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

22 条精选近 30 天 21 条共收录 156 条

更新

精选归档 · 第 2 页

9月25日周五第 21–22 条
  1. GitHub Blog · AI & ML67

    GitHub Security Lab 发布 Fuzzing Taskflow 智能体,自动完成 C/C++ 项目 fuzzing

    GitHub Security Lab 发布 Fuzzing Taskflow,一个面向 C/C++ 项目的自主 fuzzing 流水线,指向一个 GitHub 仓库即可自动识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并分诊崩溃。

    推荐理由:作者公开了自主 fuzzing 流水线的架构与运行方式,可看 LLM 智能体如何接手覆盖率分析与崩溃分诊。

9月18日周五
  1. Anthropic News66

    Anthropic 与 Accenture 合作开展前沿 AI 嵌入式评估

    Anthropic 宣布与 Accenture 合作,对其前沿 AI 模型进行独立评估,该合作由其 AI 业务部门 Faculty 牵头,内容包括模型评估与红队测试、对齐评估以及模型防护措施测试。

    推荐理由:Anthropic 与 Accenture 合作开展嵌入式评估,读者可了解这一新型独立评估机制的具体安排与资金模式。