CMV Subreddit infiltré par des bots pour une expérience universitaire contraire à l'éthique

Des chercheurs de l'université de Zurich ont mené secrètement une étude impliquant des robots d'intelligence artificielle pour voir s'ils modifiaient l'opinion des gens sur divers sujets. L'expérience a porté sur le subreddit r/changemyview (CMV), un fil de discussion populaire sur de nombreux sujets aux points de vue opposés.

Les chercheurs anonymes n'ont pas contacté les modérateurs au préalable et n'ont pas demandé leur autorisation avant de déployer les bots générés par l'IA. Les modérateurs ont été informés par courriel après l'expérience, "dans le cadre d'une étape de divulgation"

Parmi les exemples les plus accablants ( ) parmi les exemples les plus accablants, citons un bot "prétendant être une victime de viol", un autre qui se comportait "comme un conseiller en traumatologie spécialisé dans les abus" ou un bot qui se présentait "comme un homme noir opposé à Black Lives Matter"

Les modérateurs ont également accusé les chercheurs d'avoir abandonné l'approche prévue des "arguments fondés sur les valeurs", autorisée par la commission d'éthique de l'université, pour élaborer des "arguments personnalisés et affinés" qui n'ont pas été approuvés.

Les robots ont eu accès aux attributs personnels de l'afficheur original (OP), à savoir le sexe, l'âge, le lieu de résidence, l'appartenance ethnique et l'orientation politique, tels qu'ils ressortent de l'historique des messages postés sur la plateforme. Les chercheurs ont soutenu que la méthode était justifiée parce que "le manque d'expériences de terrain existantes constitue une lacune inacceptable dans le corpus de connaissances"

La réponse de l'équipe de recherche de l'université de Zurich n'a guère contribué à éteindre l'incendie. Ils ont affirmé qu'ils étaient "engagés en faveur d'une transpérience totale" Ils ont plaidé leur cause en prétendant "aider la société à se préparer à l'impact réel de la persuasion par l'IA"

Plus important encore, ils pensent que ce projet "a apporté des informations importantes" et que "la suppression de la publication n'est pas proportionnelle à l'importance des informations apportées par l'étude"

Dans un courriel envoyé à Engadgetles chercheurs affirment que "les avantages potentiels de cette recherche l'emportent largement sur les risques"

La situation a dégénéré au point que le directeur juridique de Reddit, Ben Lee, a réagi aux messages en déclarant que l'équipe avait "banni tous les comptes associés à l'effort de recherche de l'Université de Zurich" M. Lee a ajouté que Reddit était "en train de contacter l'Université de Zurich et cette équipe de recherche en particulier pour leur adresser des demandes légales formelles"