Un texte caché peut inciter ChatGPT à falsifier les résultats de recherche

ChatGPT Search, un moteur de recherche web basé sur l'IA, peut être amené à modifier ses résultats à l'aide d'un texte caché. L'outil d'IA peut être forcé à modifier ses réponses concernant des produits ou des services malgré la présence d'avis négatifs sur une page.

Le Guardian rapporte qu'il a réussi à faire en sorte que ChatGPT Search renvoie de faux résultats à l'adresse en lui donnant une fausse page de produit pour un service donné en lui donnant une fausse page de produit pour un appareil photo et en lui demandant si l'achat en valait la peine. Sans utiliser de texte caché, l'outil d'IA a donné une réponse équilibrée avec les avantages et les inconvénients du produit.

Le texte caché, comme son nom l'indique, ne peut être vu par les visiteurs d'un site web. Il est utilisé pour diverses raisons, notamment pour assurer l'accessibilité aux utilisateurs et améliorer leur expérience sur le site web. À l'inverse, il peut être utilisé pour manipuler les classements SEO à l'aide de vidages de mots clés ou, dans le cas présent, pour tromper un outil d'intelligence artificielle afin qu'il donne des évaluations positives sur des produits ou des services.

Toutefois, en testant la même page web avec du texte caché, l'outil d'IA pourrait être amené à donner des avis positifs sur le produit malgré des avis négatifs sur la même page. Selon le Guardian, cette simple inclusion peut garantir une impression positive d'un produit ou d'un service. Elle peut conduire à créer des sites web qui induisent délibérément les utilisateurs en erreur et les incitent à cliquer sur des liens malveillants.