凯西·奥尼尔

Cathy O'Neil

国籍
美国
身份
数学家、数据科学家、算法审计者
著作
1

作者简介

美国数学家与数据科学家,哈佛大学数学博士,曾在巴纳德学院任教,后任 D. E. Shaw 对冲基金量化分析师、哥伦比亚大学新闻学院数据实践项目(Lede Program)主任。2008 年金融危机后对金融模型失望,参与「占领华尔街」运动,转向算法审计,创办 ORCAA。2016 年出版《算法霸权》(Weapons of Math Destruction),提出「数学杀伤性武器」三判据——不透明、规模化、毁灭性,列 2016 年美国国家图书奖非虚构长名单,2019 年获美国数学协会 Euler Book Prize。长期为 Bloomberg View 撰稿,运营博客 mathbabe.org。

核心思想

  • 判断模型是否危险,看不透明、规模化、毁灭性三判据,而非算法复杂度
  • 模型不描述现实而是分配机会,预测通过反馈回路把自己变成结果
  • 公平难以量化,因此在以效率为目标的函数中被系统性排除
  • 问责与可申诉性是制度问题,不能靠模型自身的精度解决

著作

相关主题