世界上最好的面部识别人工智能系统STILL努力告诉黑人

总部位于马里兰州盖瑟斯堡的NIST的研究人员测试了软件在试验中验证两个不同图像是否显示相同面部的能力。法国公司Idemia的软件已经使用在美国，澳大利亚和法国的警察部队，以及在美国的邮轮码头边境机构，根据报告有线。他们发现，两位Idemia的最新工具与白人女性，黑人男性或白人男性相比，更容易错误地匹配黑人女性的面孔。在Idemia的算法为白人女性提供1万分之一的假匹配率(FMR)的情况下，该软件对黑人女性的FMR为1,000分之一 - 经常是10倍。

作者在报告中写道：“白人男性......是通常给出最低FMR的人口统计数据。黑人女性......通常会提供最高的FMR。”Idemia表示，最新的AI测试尚未商业化发布，这些问题将通过进一步开发得到解决。该公司还声称，NIST的工程师，他们的测试被视为面部识别准确性监控的黄金标准，可能会将他们的软件推向极限。

总部位于巴黎的Idemia的美国公安部门负责人Donnie Scott告诉Wired，“人们之间存在身体上的差异，算法将以不同的速度改善不同的人。”这不是第一次提出面部识别软件中的种族偏见问题。

由麻省理工学院媒体实验室进行的一项名为“性别阴影”的2018年3月研究发现，微软，IBM和Face ++的流行面部识别服务在性别和种族方面的准确性各不相同。同年6月，微软宣布更新其面部识别技术，试图解决麻省理工学院的研究结果。

在2019年1月，麻省理工学院的研究人员以一种新算法的形式宣布了该问题的潜在解决方案，该算法可以扫描面部，但也会评估提供给它的训练数据。该算法扫描训练数据中的偏差并消除它所感知的任何偏差，从而产生更平衡的数据集。