顔認証システムの精度についてはMIT（マサチューセッツ工科大学）やアメリカ国立標準技術研究所（NIST）がテストを行っており、どちらでも性別、年齢、肌の色によって認識の精度が変わることが判明している。性別では女性、年齢では若年層と老人、肌の色は白くない場合の精度が低く、社会的弱者を誤認しやすいという結果となっているため、差別や偏見を助長するという批判が起きた。また、MITのテストではAmazon社のRecognitionはマイクロソフト社やIBM社よりも成績が悪く（Amazon社はNISTのテストには参加していない）、メーカーによって精度に有意な差があることもわかっている。
顔認証システムの誤認識のために無実の一般市民が逮捕、拘留された事例もあり、精度の低さが深刻な社会問題になっていることがわかる。

こうした問題を踏まえて2019年5月にアメリカ自由人権協会（ACLU）はアメリカ下院に、現在の顔認証システムには精度、特定の人種などへの偏見の助長、憲法に抵触する危険、透明性の欠如などさまざまな問題があり、いったん利用を禁止し、調査と法制度の整備を行う必要があるとする資料を提出した。

さらに2020年5月、ジョージ・フロイドという黒人男性がミネソタ州で白人警官に殺されたことをきっかけに全米に人種差別への抗議活動＝黒人人権運動（Black Lives Matter）が広まったこともあり、Amazon、マイクロソフト、IBM、グーグルといった企業は顔認証システムの提供を停止した。Amazonはその理由を説明していないが、精度、法制度、法執行機関の誤用と濫用が収まるまで待つことにしたのだろうと推測されている。

NISTの顔認証システムのテストは2017年から行われており、2019年まではテスト対象のアルゴリズム数（１企業が複数のアルゴリズムを提供していることもある）と企業数は急増していた。しかし、2020年には大きく減少した。アルゴリズム数、企業数ともに2019年の半分以下である。NISTのページで最新の情報を確認できる。黒人人権運動の影響の大きさがうかがえる。

ただし、必ずしも大手企業全てが提供を中止したわけではない。アメリカ移民・関税執行局は大手顔認証システム企業Clearview AI社と契約を締結しているし、日本のNECも提供を継続している。

Facial Recognition Technology (Part 1): Its Impact on our Civil Rights and Liberties.
2019年5月22日
https://docs.house.gov/meetings/GO/GO00/20190522/109521/HHRG-116-GO00-Wstate-GulianiN-20190522.pdf
Amazon facial-identification software used by police falls short on tests for accuracy and bias, new research finds
The Washington Post、2019年1月25日
https://www.washingtonpost.com/technology/2019/01/25/amazon-facial-identification-software-used-by-police-falls-short-tests-accuracy-bias-new-research-finds/
Federal study confirms racial bias of many facial-recognition systems, casts doubt on their expanding use
The Washington Post、2019年12月19日
https://www.washingtonpost.com/technology/2019/12/19/federal-study-confirms-racial-bias-many-facial-recognition-systems-casts-doubt-their-expanding-use/
NISTの顔認証システムのテスト
https://pages.nist.gov/frvt/html/frvt11.html#_frvt_participation_statistics_