为什么新技术和人工智能必须包括多样性？

想象一下，如果一个被错误定罪的人被要求设计警察用来给罪犯定罪的算法。想象一下，如果一个刚移民到美国的年轻人被要求设计用于美国顶尖大学招生的算法。想象一下，如果历史上被边缘化的人群被要求设计你的产品。这些算法的输出会复制与今天相同的输出的机会很小，甚至没有。这在很多方面都是人工智能和机器学习所提供的--但是，如果我们不提高警惕，我们的系统不是拥抱观点和意见的多样性，而是在最好的情况下执行现有的偏见，在最坏的情况下积极创造新的偏见。

人工智能和机器学习中偏见的影响

尽管我们的社会中蕴含着无数围绕多样性的问题，但我们的社会仍能稳步发展，有些人可能会说，缓慢的进展加上人工智能提供的许多好处已经足够好了。我显然不同意。虽然多样性有足够多的道德和伦理理由，但最突出的事实是，在一天结束时，DEI不仅仅意味着多样性、公平和包容，我认为它还应该代表多样性等于收入。每当一家公司使用一种疏远用户的算法，为了适应一种模式而削弱一个异类，在做出招聘决定时压制多样性，或者以一种无视多样性的方式而不是以支持多样性的方式工作时，就会有美元被留在桌子上，而这些美元是很少有企业能够承受的。

我第一次意识到技术和种族的潜在负面互动是在90年代末和21世纪初，当时我--以及我的许多黑人朋友--发现自己无法被Facebook使用的面部识别软件正确识别。我们很快就知道，谁在房间里做编程很重要。大多数程序员长得不像我们，他们在看起来像他们的脸而不是我们的脸上训练机器，使我们这些肤色较深的人成为无法被电脑识别的神秘人物。人们会认为，随着时间的推移，情况会有所好转，但美国国家标准与技术研究所(NIST)在2018年进行的一项研究发现，一些面部识别算法对非裔美国人的错误率比白种人高100倍。

可悲的是，这种偏见不只是在视觉数据中发现。国家经济研究局2019年的一项研究发现，信用评分公司使用的算法倾向于低估非裔美国人和西班牙裔借款人的信用度。这些算法通常会给这些借款人较低的信用分数和较高的利率。

多元化对企业成功的重要性

这与多样性有什么关系？人工智能也将我们带入了人力资源的新时代。世界各地的公司都在使用人工智能来筛选潜在雇员的简历。问题是，人工智能驱动的招聘系统已经被发现歧视妇女和少数民族。剑桥大学的一项研究发现，由亚马逊开发的人工智能驱动的招聘工具因此降低了包含 "女性"、"女性 "和 "性别 "等词汇的简历等级，结果，名字听起来像女性的候选人不太可能被选中参加面试。

有两个问题--这两个问题是相互关联的，很难解决，而且需要解决。首先，在所有这些情况下，训练集是有缺陷的。如果一个系统是在有偏见的信息上训练的，它将产生和传播有偏见的输出。在招聘工具的案例中，它是根据10年来向公司提交的简历进行训练的，其中大部分是来自男性申请人（他们被选中，在某种程度上是由于人力资源部门人员的系统性偏见）。第二，负责这些系统的人没有足够重视或考虑多样性，以至于没有在系统中实际编码。

多样性在人工智能发展中的作用

就像一个孩子学习什么是正确的和错误的，或者如何表现，人工智能需要被教导。为了正确地教它如何处理它可能遇到的无数不同的情况，组织必须让人工智能接触到过去正确和错误（或成功和失败）的例子。这些过去的例子可能带有对妇女、移民、身体或神经分歧的人以及种族和民族群体的偏见。目前，由于人工智能计算的复杂性非常高，几乎是一个黑盒子，检查系统是否有偏见的最好方法是通过测试输入和输出。测试输入到系统中的特定特征、或地理、或人口标记方面的任何形式的抽样偏见，以及从算法中得出的不需要的相关性是至关重要的。问题是，这个额外的步骤，虽然相对简单，但却很耗时，而时间就是金钱。既然如此，要问的一个公平的问题是--这就够了吗？

在我们的社会话语中，人们普遍认为，鉴于我们社会中的各种系统结构，仅仅做到色盲（例如）是不够的。为了实现某种公平，"色盲"--换句话说，在解决种族差异方面采取更积极的立场--是必要的。那么，如果在其他圈子里，仅仅是色盲是不够的，那么为什么在这个圈子里，没有偏见就足够了呢？正如我多次说过的，多样性、公平和包容很重要，但它的重要性不仅仅是因为它在道德上是正确的或在人文上是正确的，而是因为在商业中（正如我先前所说），多样性等于收入。

举几个例子：

美国进步中心2009年的一项研究发现，拥有更多种族和性别多样性的公司更可能拥有更高的利润。
彼得森国际经济研究所2016年的一项研究发现，有更多女性高管的公司更有利可图。
波士顿咨询公司2018年的一项研究发现，董事会在种族和性别上更加多元化的公司，盈利能力更强。

研究表明，多元化团队可以带来更广泛的视角和经验，从而更有创意地解决问题，做出更好的决策。他们可以更有效地了解和服务多样化的客户群，对顶尖人才更具吸引力，从而提高生产力和创新能力。人工智能为企业提供了一个机会，不仅可以确保他们的招聘行为不带偏见，还可以确保他们的员工具有为日益多样化的消费者提供最佳商品和服务所需的多样性。

那些仅仅依靠人工智能来筛选简历、筛查学校申请、或对信贷作出决定等的组织正在犯一个严重错误。他们把锤子误认为木匠，把汽车误认为司机。这实际上与我在领导产品构思研讨会时偶尔遇到的一个问题非常相似。客户会对我为帮助他们释放创造力而设计的练习的确切规则和程序如此投入，以至于当我抛出规则并开始捕捉开始涌现的想法时，他们真的会感到不安。他们常常想忍气吞声，冒着失去想法的风险，而不是牺牲精心制定的练习规则--直到我提醒他们，练习只是一个工具，真正重要的是想法。

人工智能仅仅是一种工具。是的，它是一个强大的工具，但它仍然只是一个工具--我们作为商人、社会成员和人类所拥有的众多工具之一。我们需要记住，我们的目标仍然是创造一个更加多样化、公平和包容的商业环境--这样我们才能为我们的消费者创造更好的产品、服务和体验。如果我们不这样做，我们就会把钱留在桌子上，我们就会让我们的消费者不满意，我们就会让我们的公司没有最好的人才，我们就会让自己暴露在第一个聪明到可以利用我们盲点的竞争对手面前。

与我合作过的最聪明的公司是那些首先确定他们的目标，然后找到实现这些目标的工具的公司，而不是反过来。马歇尔-麦克卢汉（Marshall McLuhan）曾经说过，"我们塑造我们的工具，然后我们的工具塑造我们"。在这种情况下，如果我们希望继续前进到一个更多样化的未来，更不用说为我们的企业带来更多的利润，我们就不能，也不应该让我们的工具来塑造我们。

塞隆-伦迪Cerrone Lundy 是Vivaldi 的总监。他与企业合作，更好地了解客户需求，并创造产品、服务和体验等。