Une nouvelle méthode de formation vise à réduire les préjugés sociaux dans l'IA

Les chatbots d'IA sont connus pour générer assez souvent des solutions fondées sur des préjugés raciaux lorsqu'ils sont soumis à diverses questions, et de nombreux efforts de recherche ont été consacrés à ce problème. Aujourd'hui, une nouvelle méthode de formation est prête à résoudre ce problème. Cette méthode, connue sous le nom de "déduplication équitable" ou simplement "FairDeDup", est le résultat d'une recherche menée par une équipe d'Adobe et Le doctorant du collège d'ingénierie de l'OSU, Eric Slyder, a été formé à la déduplication équitableeric Slyman, doctorant à l'OSU College of Engineering.

La déduplication des ensembles de données utilisés pour l'apprentissage de l'IA consiste à supprimer les informations redondantes, ce qui permet de réduire les coûts de l'ensemble du processus. Pour l'instant, les données utilisées proviennent de l'ensemble de l'internet, et contiennent donc des idées et des comportements injustes ou biaisés que les humains ont souvent l'habitude d'émettre et de partager en ligne.

Selon M. Slyman, "FairDeDup supprime les données redondantes tout en incorporant des dimensions de diversité contrôlables et définies par l'homme afin d'atténuer les préjugés. La liste des préjugés perpétués par les chatbots d'IA de nos jours comprend la profession, la race ou le sexe, mais aussi l'âge, la géographie et les idées liées à la culture qui sont manifestement injustes.

FairDeDup est une version améliorée d'une méthode antérieure connue sous le nom de SemDeDupqui exacerbait souvent les préjugés sociaux, bien qu'elle se soit révélée être une solution rentable. Les personnes intéressées par ce domaine devraient se procurer l'ouvrage de Kris Hermans intitulé Mastering AI Model Training : A Comprehensive Guide To Become An Expert In Training AI Models, qui est actuellement disponible sur Kindle pour 9,99 $ ou en version brochée (pour 44,07 $).