Google impose davantage de restrictions à l'IA pour l'empêcher de dire aux gens de manger des cailloux et de générer d'autres réponses bizarres

La recherche Google AI, que l'entreprise appelle AI Overviews, est désormais disponible pour des millions d'utilisateurs. Bien qu'elle vise à vous aider à trouver rapidement ce que vous cherchez, elle n'est pas totalement garantie d'offrir des réponses précises et significatives. Par exemple, lorsque les utilisateurs ont commencé à l'utiliser, elle leur a conseillé de manger des cailloux et d'utiliser de la colle non toxique pour que le fromage adhère mieux à la pizza.

La bonne nouvelle, c'est que Google s'est empressé de régler le problème et a supprimé certains de ces résultats d'IA bizarres et inexacts résultats d'IA étranges et inexacts. L'entreprise affirme que ces résultats étaient dus à des "lacunes dans les données", combinées à des questions bizarres posées par les internautes aux aperçus de l'IA.

Liz Reid, responsable de la recherche chez Google, affirme en outre que les synthèses d'IA n'ont généralement pas d'"hallucinations", mais elle admet que les recherches d'IA peuvent mal interpréter les informations disponibles sur l'internet. Le billet de blog de Reid compare ensuite le "taux d'exactitude" des résultats générés avec les "featured snippets" et indique qu'il est "équivalent".

Le billet de blog sur le sujet explique également que Google met en place des restrictions supplémentaires pour s'assurer que ces réponses bizarres apparaîtront moins souvent à l'avenir. Grâce à ces mesures, les aperçus d'IA sont moins susceptibles d'apparaître lorsque les requêtes sont "absurdes" ou satiriques.

Obtenez un Google Pixel 8 avec des fonctionnalités d'IA générative sur Amazon