Le FBI met en garde contre la montée en puissance des fraudes utilisant l'IA et des escroqueries par clonage de voix

Le FBI https://www.ic3.gov/PSA/2024/PSA241203 a lancé un avertissement sur l'utilisation croissante de l'IA générative dans les activités criminelles, en particulier la fraude. Selon le FBI, les outils d'IA permettent aux criminels de réaliser plus facilement des escroqueries à plus grande échelle et avec des détails plus convaincants.

La dernière alerte souligne comment l'IA aide les fraudeurs à créer de faux profils de médias sociaux, à rédiger des courriels de phishing convaincants et à mettre en place de faux sites d'investissement en crypto-monnaies. Si la création de faux contenus n'est pas illégale, leur utilisation à des fins frauduleuses est une préoccupation croissante pour les forces de l'ordre.

Les criminels utilisent également l'IA pour générer des photos de profil réalistes, falsifier des pièces d'identité et créer de fausses mentions de célébrités pour des produits contrefaits. L'IA est utilisée pour des escroqueries telles que la manipulation des marchés. Certains groupes clonent même des voix pour tromper les gens dans le cadre d'escroqueries d'urgence, où les fraudeurs se font passer pour des membres de la famille dans le besoin. L'IA peut également créer des contenus vidéo réalistes pour des cadres ou des figures d'autorité afin de rendre ces escroqueries plus crédibles.

L'alerte du FBI souligne qu'il est de plus en plus difficile de distinguer un contenu créé par l'IA d'un contenu réel. Soyez attentif à des signes tels que des mains ou des visages déformés, des ombres bizarres ou des mouvements non naturels dans les images ou les vidéos.

Pour vous protéger, le FBI recommande d'utiliser des phrases secrètes avec les membres de votre famille et de vérifier toute demande financière par le biais de canaux de confiance. Il insiste sur le fait qu'il ne faut jamais partager d'informations sensibles ou envoyer de l'argent à une personne que vous ne connaissez qu'en ligne.

Cette mise en garde intervient alors que les outils d'IA continuent de s'améliorer et de devenir plus accessibles, ce qui complique la tâche des forces de l'ordre.