Législateurs américains: un projet de loi pour lutter contre les biais dans les algorithmes des entreprises de technologie

Wyden sénat américain

Les législateurs américains ont proposé mercredi un projet de loi exigeant des grandes entreprises de technologie qu’elles détectent et éliminent tout biais discriminatoire intégré dans leurs modèles informatiques, soulignant l’intérêt croissant de Washington pour la réglementation de la Silicon Valley.

Le projet de loi, intitulé Algorithmic Accountability Act of 2019, attribuerait de nouveaux pouvoirs à la Federal Trade Commission (FTC) des États-Unis et contraindrait les entreprises à déterminer si leur technologie était influencée par des considérations de race, de sexe ou autres. Les règles s’appliqueraient aux entreprises dont le chiffre d’affaires annuel est supérieur à 50 millions de dollars, ainsi qu’aux courtiers en données et aux entreprises disposant de plus d’un million de données de consommateurs.

“Les ordinateurs sont de plus en plus impliqués dans les décisions les plus importantes affectant la vie des Américains – que quelqu’un puisse ou non acheter une maison, obtenir un emploi ou même aller en prison”, a déclaré le sénateur démocrate Ron Wyden dans un communiqué de presse annonçant le projet de loi. «Mais au lieu d’éliminer les biais, ces algorithmes reposent trop souvent sur des hypothèses ou des données biaisées qui peuvent réellement renforcer la discrimination à l’égard des femmes et des personnes de couleur.»

Le communiqué de presse citait, par exemple, un rapport de Reuters selon lequel Amazon.com Inc. avait supprimé un moteur de recrutement automatisé dont il avait établi le parti pris contre les femmes, et des accusations américaines selon lesquelles Facebook Inc. aurait laissé les annonceurs discriminer en fonction de la race, en violation présumée de la Fair Housing Act.

Le sénateur Cory Booker et la représentante Yvette Clarke, tous deux démocrates, se sont joints à Wyden pour présenter le projet de loi, qui pourrait faire face à une bataille difficile au sein du Sénat sous contrôle républicain.


«Soumettre les algorithmes à un niveau supérieur aux décisions humaines implique que les décisions automatisées soient intrinsèquement moins fiables et plus dangereuses que les décisions humaines, ce qui n’est pas le cas», a déclaré Daniel Castro, vice-président de la Information Technology & Innovation Foundation, une entreprise de Washington. à but non lucratif qui comprend des représentants de l’industrie à son conseil.

Cela ne servirait qu’à stigmatiser et décourager l’utilisation d’IA, ce qui pourrait réduire ses impacts sociaux et économiques bénéfiques“, a déclaré Castro.

L’Internet Association, qui compte parmi ses membres Amazon, Facebook, Google et Alphabet Inc, ainsi que d’autres sociétés de haute technologie, n’a pas de commentaire immédiat.

 

Avec Reuters.