4月17日，AI Now研究所在发布的一份报告中表示，人工智能行业面临着“多样化危机”，并指出了关于该领域方向的关键问题。
报告发现，女性和有色人种的比例严重不足，并指出人工智能领域的教授男性占比约80％，而Facebook和谷歌的女性人工智能研究人员占比分别仅为15%和10%。有色人种占比也极小，在主要科技公司员工中他们属于少数群体。结果显示，AI领域的劳动力主要由白人和男性的观点领导，创建的工具也经常影响其他人群使用。“这些系统影响了劳动力的多样性，”AI Now研究所联合主任Meredith Whittaker说。
更糟糕的是，通过修复潜在求职者的“通道”来改善问题的计划在很大程度上失败了。研究人员写道：“尽管经过数十年的”通道研究“评估了从学校到工业的各种求职者的流动，但人工智能行业的多样性并未取得实质性进展。
“我们需要知道这些系统是否公平安全。”
研究人员提出了一些改善问题的建议。他们认为，公司可以发布更多关于按种族和性别划分的福利数据，以及公布骚扰和歧视透明度报告来提高透明度。
虽然多样性是科技行业普遍存在的问题，但在人工智能中会造成更大的潜在危险，比如人脸识别等可能具有偏见性的技术将不合理地影响历史上被边缘化的群体。研究人员写道，2017年引入的人脸扫描确定性行为的程序等工具可以反映出过去的不公正现象。我们需要严格的测试。但更重要的是，AI工具的制造商自身必须拒绝进行具有风险的项目。“我们需要知道这些系统既安全又公平，”AI Now研究所联合主任Kate Crawford说。