人脸辨识在追捕犯人，或是协寻失踪人口是相当好用的工具，但可能侵犯人权和过度介入人民生活却是隐忧。如今又爆出训练出来的人脸辨识 AI 出错，人权团体用 Amazon 的人脸辨识程式 Rekognition 来扫国会议员，却将不少位议员误认为罪犯，其中大部分是黑人议员。
美国人权团体美国公民自由联盟 (American Civil Liberties Union，ACLU) 的部落格发布他们的发现结果，他们用 Amazon 的人脸辨识程式 Rekognition，扫描所有美国众议院、参议院议员，预设的信赖区间 80% 下去做，这意味有 80% 的机会辨识正确。
▲ ACLU 进行脸部扫描辨识的步骤。(Source：ACLU)
ACLU 运用公共数据库中 25,000 个大头照为训练素材，再去辨认国会议员。结果发现有 28 位议员有被误判状况，辨识为犯人。有 40% 的误判状况是有色人种，尽管全部国会的人中，只有 20% 是有色人种。
▲ Amazon 的脸部辨识出差错的状况。(Source：ACLU)
当训练资料不够代表普及状况时，AI 的辨识效果会被有偏差的资料误导，导致出来的结果出问题。Amazon 发言人回应，称用人脸辨识在警政、执法上面，信赖区间要设高些，至少要 95%。
先前 Google 也曾发生类似事情，Google 相簿将上传的黑人女性，辨识为大猩猩。
- Amazon’s Rekognition messes up, matches 28 lawmakers to mugshots
- Amazon’s facial recognition tool misidentified 28 members of Congress in ACLU test
