L’OMS alerte sur les stéréotypes négatifs envers les personnes aînées inclus dans les systèmes d’IA
L’Organisation mondiale de la santé (OMS) a alerté mercredi sur les stéréotypes négatifs envers les personnes âgées inclues dans les systèmes d’intelligence artificielle (IA) utilisés dans le domaine de la santé, et qui menacent directement la qualité des soins aux aînés.
Dans le domaine de la santé, le potentiel de l’IA est énorme pour améliorer la qualité des soins mais « l’encodage de stéréotypes, de préjudices ou de discrimination dans l’IA ou leur manifestation dans la façon dont on l’utilise pourrait miner la qualité des soins pour les personnes âgées« , souligne l’Organisation dans un nouveau mémoire sur le sujet.
L’IA repose sur l’utilisation de vastes bases de données qui sont souvent compilées, partagées et analysées de manière peu transparente. Comme cela a déjà été démontré pour le genre ou l’origine, ces vastes bases de données peuvent être biaisées et reproduire voire amplifier des pratiques âgistes déjà largement répandues dans les systèmes de soins.
« Les algorithmes de l’IA peuvent incruster les inégalités existantes dans le domaine de la santé et avoir un effet systématiquement discriminant beaucoup plus large qu’un individu biaisé« , souligne le mémoire.
Ces défauts peuvent encore être aggravés par la sous-représentation des personnes âgées dans les bases de données utilisées. En basant les algorithmes sur des données cumulées à partir des populations jeunes on prend le risque de manquer ce qui est spécifiques aux aînés en matière de santé.
Pour autant, le mémoire souligne aussi les bénéfices que la santé des personnes âgées peut tirer de l’IA, en matière de prévention des chutes ou d’autres urgences médicales, grâce à la collecte de données par le biais d’accessoires connectés par exemple.
L’IA peut ainsi aider à faire une médecine plus préventive en permettant de mieux prédire l’évolution d’une maladie ou les risques.
Le mémoire recommande d’impliquer les personnes âgées dans tous les aspects qui peuvent affecter la façon dont on les soigne.
Il faut les associer non seulement à l’élaboration des algorithmes mais aussi les inclure dans des comités d’éthique par exemple ou s’assurer que les agences sanitaires les consultent pour détecter et éliminer les biais en amont, souligne l’OMS.
Avec MAP
