L’UNESCO alerte sur les stéréotypes de genre dans l’IA générative
Les grands modèles de langage (LLM) utilisés par l’intelligence artificielle (IA) générative ont « une propension inquiétante à produire des stéréotypes de genre« , met en garde une étude dévoilée, jeudi, par l’UNESCO, à la veille de la journée internationale des droits des femmes.
Intitulée « Préjugés contre les femmes et les filles dans les grands modèles de langage », cette étude examine les stéréotypes dans les grands modèles de langage, les outils de traitement du langage naturel qui sous-tendent les plateformes d’IA générative les plus répandues, indique un communiqué de l’Organisation onusienne, basée à Paris.
Elle présente des « preuves incontestables » de préjugés à l’encontre des femmes dans le contenu généré par chacun de ces grands modèles de langage, ajoute la même source.
« Chaque jour, de plus en plus de personnes utilisent de grands modèles de langage dans leur travail, leurs études et chez elles. Ces nouvelles applications d’IA ont le pouvoir de subtilement façonner les perceptions de millions de personnes, de telle sorte que même de légers préjugés sexistes dans le contenu qu’elles génèrent peuvent amplifier de manière significative les inégalités dans le monde réel », souligne Audrey Azoulay, directrice générale de l’UNESCO, citée dans le communiqué.
Lire aussi : Économie: L’IA permet un remodelage de la division du travail et des fonctions professionnelles
« Notre Organisation appelle les gouvernements à élaborer et à faire appliquer des cadres réglementaires clairs, et les entreprises privées à effectuer un suivi et une évaluation continus des préjugés structurels, comme le prévoit la Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle, adoptée à l’unanimité par nos États membres en novembre 2021″, ajoute-t-elle.
Les LLM Open source les plus répandus présentent les préjugés de genre les plus significatifs, souligne le communiqué. Toutefois, l’étude conclut également que leur nature ouverte et transparente peut constituer un avantage considérable pour traiter et atténuer ces préjugés grâce à une collaboration accrue au sein de la communauté scientifique mondiale, par rapport à des modèles plus fermés.
Une partie de l’étude mesure la diversité des contenus générés par l’IA concernant un échantillon de personnes de différents genres et milieux culturels notamment, en invitant les plateformes à « écrire une histoire » sur chaque personne.
Les LLM Open source, en particulier, ont tendance à attribuer aux hommes des emplois plus diversifiés et à statut élevé, tels qu' »ingénieur », « enseignant » et « médecin », tout en reléguant fréquemment les femmes à des rôles traditionnellement dévalorisés ou stigmatisés par la société, tels que « domestique » et « cuisinière », d’après l’étude.
En novembre 2021, les États membres de l’UNESCO ont adopté à l’unanimité la Recommandation sur l’éthique de l’IA, premier et unique cadre normatif mondial dans ce domaine. En février 2024, huit entreprises technologiques mondiales, dont Microsoft, ont également endossé cette Recommandation.
Ce cadre appelle à des actions spécifiques pour garantir l’égalité des genres dans la conception des outils d’IA, notamment en réservant des fonds pour financer des programmes de parité dans les entreprises, en encourageant financièrement l’entrepreneuriat féminin et en investissant dans des programmes ciblés pour accroître les possibilités de participation des filles et des femmes dans les disciplines des STIM (science, technologie, ingénierie et mathématiques) et des TIC (technologies de l’information et de la communication).
Avec MAP
