算法霸权 数学杀伤性武器的威胁与不公
作者:(美)凯西·奥尼尔著;马青玲译
出版时间:2018年版
内容简介
我们生活在算法的时代。我们去哪个学校上学,是否能够获得车贷、需要为健康保险支付多少钱,这些对我们的生活有着重大影响的决定越来越由不得人类自己,而是被各种数学模型所操控。从理论上来说,模型可以更好地促进公平,因为每个人适用于同等的规则,不存在偏袒。
但凯西•奥尼尔这本迫切而且必要的书却告诉我们,事实刚好相反。如今,被广泛使用的算法模型,即使其本身充斥着错误,也依旧不受管束、不被质疑。其中,“强化歧视”的问题特别值得反思:如果一个穷学生因为被借贷模型认定为风险过高(仅仅是根据该学生所生活的街区就得出此判断)而贷不了款,那么接下来,他就会被剥夺能够帮他摆脱贫困的接受优质教育机会,继而陷入一系列的恶性循环。
通过追踪一个人的生命轨迹,凯西•奥尼尔试图在书中揭露数学杀伤性武器对塑造个人和社会未来的影响。这些数学杀伤性武器给教师和学生评分,筛选简历,批准贷款或拒绝贷款,评估员工,甚至监督我们的健康状况,因此凯西•奥尼尔呼吁建模者,要对自己的算法承担更多责任,并且呼吁政策制定者对模型的使用进行监督管理。她指出,对模型的掌控*终取决于我们自己。这本重要的书迫使我们直面问题,揭示真理,要求改变。
目录
引文
第一章 盲点炸弹
不透明、规模化和毁灭性
第二章 操纵与恐吓
弹震症患者的醒悟
第三章 恶意循环
排名模型的焦虑与特权
第四章 数据经济
掠夺式广告的赢家
第五章 效率权衡与逻辑漏洞
大数据时代的正义
第六章 筛选
颅相学的偏见强化
第七章 反馈
辛普森悖论的噪声
第八章 替代变量和间接损害
信用数据的陷阱
第九章
“一般人”公式
沉溺与歧视
第十章 正面的力量
微目标的出发点
结束语
注释
索引