图书信息
内容简介
AI 安全威胁模型与对抗性评测：AI 实验室如何围绕危险展开竞争 —— 本册为《智能体走进现实》系列中关于自主人工智能前沿的综述。
全书框架（章节主题）：
- 绪论 —— AI 安全威胁图景与本综述的范畴
- AI 安全的核心概念与理论框架
- 对齐问题的形式化表述及其理论困难
- 大语言模型安全威胁的分类学与威胁建模
- 越狱攻击与提示注入：机制、变体与检测
- 多模态模型的安全威胁与跨模态攻击面
- 智能体安全：工具使用、自主行动与运行时防护
- 安全对齐的后训练优化与微调风险
- 推理时安全扩展与计算效率的权衡
- 安全评测基准的构建、分类与一致性分析
- 物理安全与具身智能系统的威胁评估
- 对抗性机器学习：攻击机制与防御策略
- 机制可解释性在安全验证中的应用
- 红队测试与威胁展示竞赛的方法论
- 安全护栏与运行时监控机制
- 人类监督与社会技术系统的安全威胁建模
- 信息物理系统与自动驾驶的安全威胁
- 超级智能的存在性风险与安全治理
- 安全评估的前沿挑战与开放问题
- 未来方向：从威胁展示到安全工程范式
目标读者。 具备机器学习与安全工程基础、希望系统了解 AI 安全威胁、防御机制与评估方法论的人工智能领域研究者、工程师与进阶爱好者。
---
