Les recherches rétrospectives sont largement considérées comme moins controversées, et moins difficiles à maîtriser, que la reconnaissance faciale en direct, utilisée en temps réel pour retrouver des suspects. Les chefs de police continuent de voir dans la reconnaissance faciale le prochain grand bond en avant dans la lutte contre la criminalité. Les sceptiques y voient la prochaine menace majeure pour les libertés civiles.
L’Inspection de Sa Majesté de la police a publié ses conclusions mercredi. L’inspection ne porte que sur la reconnaissance faciale rétrospective, dans laquelle les forces recherchent des images après un événement plutôt que de scanner des personnes en temps réel.
Les policiers risquent d’arrêter des innocents, en particulier issus de minorités ethniques, s’ils traitent des données inexactes de reconnaissance faciale comme des éléments de preuve, a constaté un rapport officiel.
Les inspecteurs ont constaté que certains policiers avaient agi sur la base de correspondances potentielles issues de ces recherches sans effectuer suffisamment de vérifications. Dans un petit nombre de cas, les policiers se sont trop appuyés sur les résultats, ce qui a conduit à des mesures d’enquête inappropriées.
«Certains enquêteurs ne savaient pas que les résultats de la RFR constituaient des renseignements plutôt que des preuves et exigeaient des vérifications supplémentaires avant que les policiers n’engagent des mesures coercitives», indique le rapport.
Le rapport indique que le biais de l’algorithme persiste. Le système est plus susceptible de signaler à tort comme suspects des personnes issues de minorités ethniques. Des réglages rendant plus probable l’identification erronée de femmes ainsi que de personnes asiatiques et noires ont également été cités dans les critiques de l’usage de l’outil.
Les inspecteurs ont relevé une autre menace pour la confiance du public: des images de garde à vue qui auraient dû être supprimées ont été conservées. Ces manquements ont réduit la capacité du système à produire des correspondances fiables.
Des critiques ont estimé que la police ne devrait pas être autorisée à continuer de rechercher des correspondances dans des images de garde à vue détenues illégalement, avec si peu de garanties. L’inspection elle-même n’a pas chiffré le nombre de telles images encore conservées.
Bien que la technologie puisse aider à lutter contre la criminalité, le rapport a constaté qu’elle est entachée d’erreurs et de biais. Les opérateurs ne se rendent pas toujours compte qu’ils doivent mener des vérifications supplémentaires pour confirmer ce que le système renvoie.
«Cela crée un risque que des personnes soient incorrectement identifiées ou arrêtées, ce qui pourrait saper la confiance du public dans la technologie», indique le rapport. «Il faut faire davantage pour réduire les risques que des personnes soient arrêtées à tort.».
La loi n’a pas suivi le rythme. «Les inspecteurs ont constaté que la législation n’a pas suivi l’évolution de la technologie de reconnaissance faciale et qu’il n’existe aucun cadre législatif complet régissant l’usage de cette technologie», indique le rapport.
Cet écart, selon le rapport, rend plus difficile pour les forces de comprendre le fondement légal de la reconnaissance faciale rétrospective et les garanties nécessaires pour protéger le public.
«Un cadre législatif plus clair, des normes nationales plus strictes et de meilleurs dispositifs de gouvernance et de contrôle sont essentiels pour préserver la confiance du public», indique le rapport.
L’avertissement de l’inspection est plus étroit et plus immédiat: sans contrôles renforcés, une correspondance erronée peut lancer les policiers à la poursuite de la mauvaise personne, et les personnes les plus exposées sont celles que l’algorithme est déjà plus susceptible d’identifier à tort.