人工智能与大数据会纠正我们的偏见，还是会更糟糕？

改变单词之间的联系可能会带来显著的影响。普林斯顿大学的计算机科学教授阿尔文德。纳拉亚南与同事一起开发了测量机器学习模型中偏见程度的工具。三人从已经被深入研究的心理学测验——内隐联系测验（Implicit Association Test）——开始，在该测验的一个常见变体中，受试者在积极属性的词汇与反映社会类别的词汇之间进行配对的速度越快，他们对二者联系的确信程度就越高。在许多这样的配对中，反应时间的平均差异——通常是以毫秒计——可以作为隐性偏见的测量指标。纳拉亚南和同事讲反应时间替换成单词间的距离，建立了“单词嵌入联系测验”。该测验重现了内隐联系测验研究在同一组词汇中所发现的同一组刻板印象。

20多年来，内隐联系测验已经揭示出各种各样的隐性偏见，从性别到国籍再到种族，跨越许多不同背景的人群。由于偏见如此普遍，有人猜测人类的自然倾向——比如支配等级和群体内部的身份识别等——是造成这些偏见的原因；从这一角度看，偏见是人类天性中不可避免的。单词嵌入联系测验论文的作者推测，他们的研究结果支持了另一种（尽管不是唯一的）可能性：“仅仅接触语言就足以在我们脑海中产生这些隐性偏见。”换句话说，如果偏见是在语言本身的统计中体现并传播，那么我们说话的方式就不只是表达我们看待彼此的方式，而且也是构建偏见的方式。如果诸如Bolukbasi开发的去偏见项目能奏效的话，我们就可以大规模地改变偏见，并且是以之前不可能的方式：用软件。如果这些软件不能发挥作用，那持续几代人的数字化基础结构可能就会不断加强和延续这些偏见。

纳拉亚南指出，Bolukbasi的论文假设了性别是二元的，或至少性别词汇之间的遵循一条直线。“我不认为（我们）有任何（去偏见）能对一个可能稍微复杂的概念起作用的线索，”他说道。他特别指出了种族刻板印象，其中有关类别的概念与用来定义它们的方法一样有问题。

（编辑：西安站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!