Une nouvelle étude révèle les préjugés persistants de l'IA à l'égard des dialectes anglais afro-américains

Une nouvelle étude a mis en évidence le racisme dissimulé dans les modèles de langage de l'IA, en particulier dans leur traitement de l'anglais afro-américain (AAE). Contrairement aux recherches antérieures axées sur le racisme manifeste (comme l'étude CrowS-Pairs ), cette étude a été réalisée pour mesurer les préjugés sociaux dans les modèles de langage de l'IA pour mesurer les préjugés sociaux dans Masked LLMs), cette étude met l'accent sur la façon dont les modèles d'IA perpétuent subtilement les stéréotypes négatifs par le biais de préjugés dialectaux. Ces préjugés ne sont pas immédiatement visibles mais se manifestent de manière évidente, par exemple en associant les locuteurs AAE à des emplois de statut inférieur et à des jugements pénaux plus sévères.

L'étude a montré que même les modèles formés pour réduire les préjugés manifestes conservent des préjugés profondément ancrés. Cette constatation pourrait avoir des conséquences considérables, surtout à l'heure où les systèmes d'IA s'intègrent de plus en plus dans des domaines critiques tels que l'emploi et la justice pénale, où la justice et l'équité sont essentielles par-dessus tout.