Pindrop dévoile le logiciel Pulse Inspect, qui détecte les clones vocaux artificiels pour lutter contre la fraude et la désinformation
Pindrop a dévoilé le logiciel Pulse Inspect qui permet de détecter les clones vocaux générés par l'IA afin de lutter contre la fraude et la désinformation. Le logiciel utilise des technologies brevetées pour détecter de manière fiable plus de 90 % des voix générées par l'IA, même avec des échantillons audio de moins de dix secondes.
Les voix clonées par l'IA sont devenues si convaincantes qu'elles ont fait perdre des millions à des fraudeurs. Au début de l'année, les voleurs de ont dérobé 25 millions de dollars à un employé du service financier d'une multinationale de Hong Kong d'une multinationale de Hong Kong en utilisant un faux appel vidéo qui utilisait les fausses voix du directeur financier et d'autres membres du personnel. De fausses vidéos politiques ont été utilisées pour influencer le résultat d'électionsy compris les prochaines élections américaines de 2024. De faux appels vocaux d'hommes politiques ont également été créés et utilisésce qui a suscité beaucoup d'émoi.
Pindrop mène des recherches dans ce domaine depuis huit ans et détient 25 brevets sur la détection des faux audio. La dernière version de l'IA Pulse Inspect a été entraînée sur plus de 20 millions d'échantillons de voix réelles et fausses. Des échantillons de fausses voix provenant de plus de 370 outils de clonage différents permettent d'obtenir des taux de détection élevés. L'IA décompose les échantillons de voix en clips de quatre secondes pour les analyser, en utilisant les caractéristiques audio uniques des différents algorithmes de deepfake et les caractéristiques audio supplémentaires des voix réelles pour identifier les faux. Pulse Inspect peut ainsi détecter les faux dans 90 % des cas lorsqu'il est confronté à des voix clonées provenant d'outils de deepfake jamais rencontrés auparavant et dans 99 % des cas lorsqu'il est confronté à des voix provenant d'outils déjà vus.
Les entreprises doivent savoir que les logiciels de détection des fraudes ne sont jamais parfaits. Un test récent de Pulse Inspect réalisé par NPR a révélé que le logiciel n'a pas correctement catégorisé les vraies voix par rapport aux fausses dans 3 des 84 échantillons testés. Ce taux d'échec de 3,6 % laisse une petite chance aux attaquants de réussir, et les entreprises devraient toujours utiliser la défense en profondeur pour protéger leurs actifs.
Les lecteurs qui s'inquiètent pour leurs biens et leurs proches devraient sécuriser leurs comptes à l'aide de méthodes à deux facteurs, telles que des codes d'accès envoyés par SMS ou une clé physique à deux facteurs(comme celle-ci sur Amazon), et s'assurer que les membres de leur famille utilisent un mot ou une phrase secrète pour vérifier leur identité lors d'appels suspects.
Source(s)
Pindrop lance Pulse Inspect : Une solution de pointe pour lutter contre les deepfakes et la propagation de la désinformation
PindropⓇ PulseTM Inspect permet aux médias, aux réseaux sociaux, aux organisations à but non lucratif et aux gouvernements de maintenir l'intégrité du contenu en identifiant les audios générés par l'IA avec une précision de 99 %
Atlanta, GA - 15 août 2024 - Pindrop, leader mondial de l'authentification et de la sécurité vocales depuis 2011, annonce aujourd'hui le lancement de PindropⓇ PulseTM Inspect en Preview. Cet outil innovant, le dernier ajout à la famille de produits de pointe de PindropⓇ PulseTM pour la détection des deepfakes, peut détecter la parole générée par l'IA dans n'importe quel fichier audio numérique avec une précision de 99 %. Après le lancement de Pindrop Pulse en début d'année et le dernier financement de Pindrop en juillet, Pindrop Pulse Inspect étend la technologie de Pindrop au-delà des seuls centres d'appels, mais offre désormais un nouveau cas d'utilisation pour les organisations médiatiques, les organisations à but non lucratif, les agences gouvernementales et les réseaux de médias sociaux. Pulse Inspect analyse et vérifie rapidement si les fichiers multimédias contiennent de la parole synthétique afin que les clients puissent empêcher de manière proactive la diffusion de fausses informations et maintenir la crédibilité de leur marque.
L'IA générative a entraîné une augmentation des deepfakes, ce qui constitue une menace sérieuse pour la crédibilité des organisations. Le Deepfake and Voice Clone Consumer Sentiment Report de Pindrop estime que plus de 12 millions d'adultes américains connaissent quelqu'un qui a été personnellement victime de deepfakes créés sans son consentement. Ces fichiers synthétiques sont souvent diffusés sur des plateformes telles que YouTube, TikTok, Instagram, Facebook et les médias d'information. Pour éviter d'être exposées à ces menaces en constante évolution, les organisations peuvent adopter cette technologie de pointe afin de préserver leur image publique et leur crédibilité. La solution Pulse de Pindrop s'attaque de front à ce problème en détectant les deepfakes avec une précision exceptionnelle.
En adoptant Pulse Inspect, les utilisateurs peuvent télécharger des fichiers audio dans la plateforme Pindrop afin de déterminer rapidement et avec précision si les fichiers contiennent de la parole synthétique. Pindrop fournit immédiatement des scores de deepfake et une visibilité sur les parties spécifiques du fichier qui sont identifiées comme contenant des artefacts synthétiques ou de deepfake, de sorte que l'utilisateur peut accorder une plus grande attention à ce segment lors de l'examen et de la réalisation de l'analyse. Avec Pulse Inspect, les utilisateurs peuvent prendre des mesures rapides pour sauvegarder l'intégrité du contenu avant de le distribuer sur n'importe quelle plateforme publique d'information, sociale ou de publication en ligne.
"Depuis plus de dix ans, Pindrop est à la pointe de l'innovation en matière d'authentification vocale et de sécurité. Par exemple, nous avons découvert le moteur TTS source utilisé dans l'incident de deepfake de Biden plus tôt cette année, et le besoin critique de mécanismes robustes de détection de deepfake est apparu clairement dans mes conversations avec des dizaines de parties prenantes à travers les industries", a déclaré le cofondateur et PDG de Pindrop, Vijay Balasubramaniyan. "Aujourd'hui, nous lançons Pulse Inspect afin d'étendre notre expertise en matière de détection des faux à des organisations telles que les médias, les organisations à but non lucratif, les gouvernements et les réseaux de médias sociaux à un moment charnière de l'histoire. Avec Pulse Inspect, nous donnons aux organisations les moyens de préserver l'intégrité de leur contenu et de rétablir la confiance dans l'ère numérique moderne."
Pulse Inspect s'appuie sur la technologie avancée de détection des deepfakes de Pindrop, dont une étude indépendante de NPR a montré qu'elle était 40 points de pourcentage plus efficace que son concurrent le plus proche. Pindrop a entraîné son modèle de détection de deepfake sur plus de 350 outils de génération de deepfake, plus de 20 millions d'énoncés uniques et plus de 40 langues, couvrant plus de 90 % des langues parlées sur Internet. Les scores de deepfake sont fournis en continu toutes les quatre secondes, ce qui permet d'identifier les contenus synthétiques par rapport aux contenus humains dans les médias mixtes. Le suivi continu du caractère vivant permet à Pulse Inspect de détecter quels segments de l'audio sont synthétiques ou authentiques, ce qui est particulièrement utile lorsqu'une partie seulement de l'audio est un deepfake. Sa plateforme de traitement par lots pilotée par API, facile à utiliser, et son interface utilisateur simple permettent une analyse claire (synthétique ou non) avec des seuils ajustables en fonction de la tolérance au risque, ce qui permet de gagner du temps et de l'argent et d'économiser des ressources.
"En tant que leader dans le domaine de la voix synthétique pour Hollywood, Respeecher a établi des directives et des politiques qui garantissent que notre technologie n'est pas utilisée à mauvais escient, et nous restons engagés dans le développement et l'utilisation éthiques de la technologie de clonage de voix d'IA", a déclaré Alex Serdiuk, PDG et cofondateur de Respeecher, un partenaire de Pindrop. "La technologie Pulse Inspect de Pindrop nous aide à nous assurer que notre technologie de détection reste en avance sur les menaces d'attaques génératives de l'IA. Nous sommes ravis de voir le lancement de Pindrop Pulse Inspect, et nous sommes impatients de mettre la technologie entre les mains de nos clients communs afin qu'ils puissent examiner de manière légale n'importe quel audio et déterminer sa provenance synthétique."
"Avec les prochaines élections américaines et la croissance spectaculaire de l'audio synthétique généré par l'IA apparaissant dans ces appels en 2024, YouMail, un service de messagerie vocale visuelle et de blocage de Robocall, reconnaît Pindrop Pulse Inspect comme la solution de référence pour détecter avec précision les deepfakes dans les appels vocaux", a déclaré Mike Rudolph, directeur de la technologie chez YouMail. "La technologie de Pindrop n'est pas seulement résistante aux différents formats audio, elle est aussi d'une précision impressionnante à grande échelle. Nous sommes ravis de nous associer à Pindrop pour identifier les robocalls liés aux élections qui sont des deepfakes, d'autant plus que le volume de ces appels augmente pendant la période critique des élections américaines."
"TrueMedia.org est un projet d'IA à but non lucratif et non partisan visant à lutter contre la désinformation dans les campagnes politiques en identifiant les médias manipulés", a déclaré Oren Etzioni, PDG de TrueMedia.org. "Notre évaluation complète a révélé que la détection de deepfake audio de Pindrop est plus précise que d'autres solutions pour détecter les discours synthétiques. Nous sommes ravis de nous associer à Pindrop dans cette mission et d'ajouter la technologie de détection de deepfake de Pindrop à la solution pour nos clients et utilisateurs à travers le monde"
