IBM将不再提供，开发或研究面部识别技术

IBM首席执行官阿里德·克里希纳（Arvind Krishna）今天在致国会的一封信中说，IBM将不再提供通用的面部识别或分析软件。 IBM告诉The Verge，该公司也将不再开发或研究该技术。克里希纳（Krishna）给科里·布克（D-NJ）和卡马拉·哈里斯（D-CA）以及卡伦·巴斯（D-CA），哈基姆·杰弗里斯（D-NY）和杰罗德·纳德勒。

“ IBM坚决反对并且不会容忍将任何[面部识别]技术（包括其他供应商提供的面部识别技术）用于大规模监视，种族歧视，侵犯基本人权和自由或与我们的目的不符的任何目的。价值观和信任与透明度原则，”克里希纳在信中说。 “我们认为现在是时候开始关于国内执法机构是否应该使用面部识别技术以及如何使用面部识别技术的全国性对话。”

带有种族偏见和隐私问题的问题上的面部识别软件已经过仔细审查

在过去的十年中，由于人工智能的进步，面部识别软件有了很大的进步。同时，由于该技术通常是由私营公司提供的，很少受到法规或联邦政府的监督，因此该技术在年龄，种族和种族方面存在偏见，这可能会使该工具对于执法和执法人员不可靠。安全和潜在的侵犯公民权利的时机。

在2018年，Joy Buolamwini和Timnit Gebru进行的研究首次揭示了许多商业面部识别系统（包括IBM的）有多大的偏见。这项工作以及他们俩随后的研究导致对这些算法的主流批评，并为纠正偏差进行了持续的尝试。

例如，美国国家标准技术研究院（National Institute of Standards and Technology）于2019年12月进行的一项研究发现，“在大多数当前评估的人脸识别算法中，跨人口差异存在广泛准确性的经验证据”。该技术还因其在侵犯隐私方面的作用而受到抨击。

值得注意的是，NIST的研究并未包括亚马逊的技术，亚马逊是少数几个向执法部门出售面部识别软件的主要科技公司之一。然而，程序的名称Rekognition也因其准确性而受到批评。例如，在2018年，美国公民自由联盟发现Rekognition错误地使28名国会议员与从25,000张公共面部照片中挑选出来的面孔相匹配。

从今年初开始，另一家公司Clearview AI受到了严格的审查，当时它发现其面部识别工具由超过30亿张图像（部分是通过刮除社交媒体网站收集的）构建而成，已被私营企业和企业广泛使用。执法机构。此后，Clearview已被下达了许多停止和终止命令，并且是许多隐私诉讼的核心。 1月份，Facebook还因其非法使用面部识别技术而被要求赔偿5.5亿美元，以了结集体诉讼。

IBM已尝试解决面部识别偏差问题，并于2018年发布了公开数据集，旨在帮助减少偏差作为面部识别模型训练数据的一部分。但是还发现，IBM在2019年1月未经F受试者的同意，共享了一份单独的培训数据集，其中包含近一百万张从Flickr拍摄的照片-尽管这些照片是根据知识共享许可共享的。 IBM在当时的一份声明中告诉The Verge，该数据集将仅由经过验证的研究人员访问，并且仅包含可公开获得的图像。该公司还表示，个人可以选择退出数据集。

克里希纳（Krishna）在信中还主张进行警察改革，认为应将更多的警察不当行为案件置于联邦法院的管辖范围之内，国会应修改合格的豁免原则等措施。此外，克里希纳说：“我们需要为所有美国人创造更开放和公平的途径，以获取适销对路的技能和培训。”他建议国会考虑在全国范围内扩大P-TECH学校模式并扩大获得Pell Grants的资格。