La semaine dernière IBM a annoncé cesser de travailler sur la technologie de reconnaissance faciale, tandis que Microsoft et Amazon ont promis un moratoire d’un an sur la vente de leurs systèmes aux services de police afin de donner le temps aux politiciens d’adopter de nouvelles lois pour réglementer la technologie.
Si les annonces sont faites dans le cadre du mouvement Black Lives Matter les demandes de la part de la société civile et des chercheurs pour que ces technologies soient interdites ou tout le moins très encadrées, elles, ne datent pas d’hier…
Les dangers d’une telle technique pour les minorités sont réels et connus.
Rappelez-vous l’étude de 2018 produite par la chercheuse du MIT Joy Buolamwini et Timnit Gebru (alors chercheur à Microsoft) et que le New York Times avait résumé sous le lapidaire « Facial Recognition Is Accurate, if You’re a White Guy »
Quand bien même ces fameux biais seraient effacés et les algorithmes correctement « entraînés », cette technologie porte intrinsèquement en elle des germes liberticides et destructeurs.
Et la surveillance biométrique est en embuscade… Revient la fameuse question : ce qui est techniquement faisable est-il socialement / éthiquement / humainement souhaitable ?