《超级智能》
Superintelligence
博斯特罗姆在“超级智能尚未出现”时就系统追问：一旦出现远超人类的智能，人类还有多少主动权。他把问题拆成智能的形态、出现的路径、可能失控的机制，以及在失控前是否还有可执行的对策。
人工智能
经典指数 94
通用人工智能
AGI
超越人类的通用智能：可能性、风险与控制问题。
4 本
《超级智能》
Superintelligence
博斯特罗姆在“超级智能尚未出现”时就系统追问：一旦出现远超人类的智能，人类还有多少主动权。他把问题拆成智能的形态、出现的路径、可能失控的机制，以及在失控前是否还有可执行的对策。
人工智能
经典指数 94
《AI 新生》
Human Compatible
罗素提出一个看似退让、实则苛刻的方案：不要给机器明确的目标，而要让它对人类的偏好保持不确定，并据此不断修正自己的行为。这本书把“控制问题”从哲学思辨变成一组可操作的设计原则。
人工智能
经典指数 90
《生命 3.0》
Life 3.0
泰格马克用“生命 1.0 / 2.0 / 3.0”的框架——硬件与软件能否被设计——来组织一个广谱问题：从近期的自动化失业，到远期的宇宙级智能，人类应该选哪条路。它不预言，而是把未来的可能性摆成一排让你自己权衡。
人工智能
经典指数 88
《人机对齐》
The Alignment Problem
克里斯蒂安把对齐问题拆成三层：机器学到的目标可能不是我们想要的，机器继承的数据偏见可能放大社会不公，而机器自身的“价值”可能从未被明确说出。他走访研究者，把技术进展与伦理困境放在同一条时间线上。
人工智能
经典指数 87