一项新的联邦研究发现，世界上许多顶级的面部识别算法都因年龄，种族和种族而存在偏差。根据美国国家标准技术研究院（NIST）的研究，当前在市场上出售的算法可能会误识别某些组中的成员，其识别频率比其他组高100倍。
NIST说，它发现了“经验证据”，表明年龄，性别和种族等特征会影响“大多数”算法。该小组测试了来自99个组织的189种算法，这些算法共同为全球使用的大多数面部识别系统提供支持。
 
这些发现提供了更多证据，表明世界上许多最先进的面部识别算法尚未准备好用于执法和国家安全等关键领域。国会议员称该研究“令人震惊”，据《华盛顿邮报》报道，并呼吁美国政府重新考虑使用该技术保护边境的计划。
 
律师称结果“正在整理”
该研究测试了“一对一”检查，用于将某人与护照或身份证匹配，以及“一对多”搜索，其中某人与更大数据库中的一条记录匹配。在一对多搜索中，非裔美国女性的识别频率最高，而在一对一搜索中，亚裔，非裔美国人，美洲原住民和太平洋岛民则被错误识别。儿童和老人也被错误地识别。在某些情况下，亚裔和非裔美国人被误认的人数比白人多100倍。通常在中年白人男子中发现准确率最高。
 
NIST的研究依靠组织自愿提交其测试算法。但名单上没有的是亚马逊，该公司将其软件出售给当地警察和联邦调查员。先前的研究引起了人们对亚马逊系统准确性的担忧，人工智能研究人员呼吁该公司停止出售其“有缺陷的”系统。亚马逊声称，其软件无法通过NIST的测试轻松地进行分析（尽管拥有类似产品的科技公司在提交算法方面没有问题），并且其股东拒绝了遏制销售的呼吁。
 
专家说，可以通过使用更多套训练数据来减少这些算法中的偏差。研究人员发现，例如，在亚洲国家/地区开发的算法在白人和亚洲面孔之间的错误率没有太大差异。
 
但是，如果以不尊重人们安全或隐私的方式使用该技术，即使解决偏见问题也无法解决面部识别的所有问题。
 
“先开发出可用于武器的面部分析技术有什么好处？”负责研究面部识别偏差的AI研究人员去年对《边缘》杂志说。 “技术考虑不能脱离社会影响。”