L'IA d'Elon Musk a créé des images controversées au contenu inapproprié, mais a désormais été restreinte

Le nouveau générateur d'images par IA d'Elon Musk, Grok, développé par xAI et disponible pour les utilisateurs Premium et Premium+ sur X (anciennement Twitter), suscite la controverse. Grok est censé avoir mis en place des mesures de protection pour empêcher la création de contenus inappropriés. Si c'est le cas, ces mesures ne semblent pas particulièrement efficaces ou faciles à contourner, car contrairement à la concurrence de Midjourney ou de Dall-E, Grok a parfois généré des contenus qui ne sont pas socialement acceptables.

Les utilisateurs ont déjà créé de nombreuses images https://x.com/Esqueer_/status/1823789104879800368 qui montrent des célébrités dans des situations compromettantes, des personnages protégés par des droits d'auteur et des scènes violentes. Comme le rapporte The Verge cela a suscité des inquiétudes quant à la diffusion de contenus préjudiciables, en particulier à l'approche des élections américaines. La controverse a également atteint Reddit.

Elon Musk, qui est connu pour ne pas être un fan des restrictions et les considérer comme de la censure, n'a pas encore commenté la question. Cependant, depuis le 16 août, Grok semble désormais beaucoup plus restreint en ce qui concerne la création d'images provocantes ou nuisibles. Une confirmation officielle d'Elon Musk ou de xAI se fait toujours attendre, mais il semble que l'entrepreneur ait cédé à la pression du public.