Le géant de la technologie Microsoft a rejeté la demande d’un organisme d’application de la loi américaine d’installer des systèmes de reconnaissance faciale sur les voitures et les caméras des policiers qui s’occupent des questions de droits humains. C’est ce qu’a révélé le président de l’entreprise, Brad Smith, lors d’une conférence.

Dans un monde où les autorités de différents pays veulent utiliser les avantages de l’intelligence artificielle pour prévenir la criminalité, la crainte que ces systèmes n’entraînent une discrimination à l’encontre de certaines populations en raison de biais dans les algorithmes a conduit les militants, les journalistes et les experts à s’opposer à ces systèmes sophistiqués de surveillance et de contrôle.

Selon l’exécutif de Microsoft, l’utilisation de tels systèmes pourrait conduire à l’arrestation et à l’interrogatoire de femmes innocentes et de populations minoritaires de manière disproportionnée parce que l’intelligence artificielle a été formée aux images principalement avec des hommes blancs.

« Chaque fois qu’une personne a été arrêtée, elle voulait faire un scan facial » contre une base de données de suspects, a dit M. Smith sans préciser le nom de l’organisme californien chargé de l’application de la loi. Après avoir analysé l’impact inégal,  » nous avons dit que cette technologie n’est pas votre réponse.

S’exprimant lors d’une conférence de l’Université de Stanford sur  » l’intelligence artificielle centrée sur l’homme « , M. Smith a également déclaré que Microsoft avait rejeté un accord visant à installer une reconnaissance faciale sur les caméras couvrant la capitale d’un pays, sans préciser le nom, que l’association Freedom House n’avait pas jugé libre. Pour Smith, l’utilisation du système de

Microsoft aurait pu être utilisée pour supprimer la liberté de réunion dans ce lieu.

Cependant, Microsoft a accepté de céder sa technologie à une prison américaine en évaluant qu’étant donné qu’il s’agit d’un environnement limité, le système améliorerait la sécurité au sein de l’établissement, qui est également resté anonyme.

Selon M. Smith, les décisions de l’entreprise s’inscrivent dans le cadre d’un engagement en faveur des droits de l’homme, qui, selon lui, est de plus en plus critique à un moment où les progrès technologiques rapides permettent aux gouvernements d’effectuer une surveillance massive et aveugle ou de déployer des armes autonomes, entre autres mesures qui pourraient se révéler irréversibles.

Il a également invité les clients à faire preuve de transparence quant à la manière dont ils entendent l’utiliser. Malgré cette déclaration, M. Smith s’est abstenu d’exclure les ventes à la police.