Google offre 12 millions de dollars aux pirates pour lutter contre les attaques d'IA générative

Google étend son programme actuel de récompense des bogues pour récompenser les pirates et les chercheurs en sécurité qui identifient des attaques possibles dans le domaine de l'IA générative. Le programme de récompense des vulnérabilités (Vulnerability Rewards Program, VRP) définit des lignes directrices claires concernant les rapports éligibles pour des récompenses financières. Si un problème peut être signalé, vous pouvez le soumettre sur le site Web Bug Hunter et recevoir une récompense s'il est jugé valide.

L'année dernière, Google a versé 12 millions de dollars à des professionnels de la sécurité pour la divulgation de failles de sécurité. En août, l'entreprise s'est réunie avec d'autres délégués de l'industrie et des chercheurs en sécurité lors de Defcon, le plus grand événement public pour l'IA générative à ce jour, à la Maison Blanche, afin d'identifier les problèmes éventuels.

Nous pensons que l'élargissement du VRP encouragera la recherche sur la sûreté et la sécurité de l'IA et mettra en lumière des problèmes potentiels qui, à terme, rendront l'IA plus sûre pour tout le monde. Nous développons également notre travail sur la sécurité en open source afin de rendre les informations sur la sécurité de la chaîne d'approvisionnement de l'IA universellement accessibles et vérifiables.

- Porte-parole de Google

Jusqu'à présent, l'entreprise a fait appel à sa propre "AI Red Team" pour étudier les menaces liées à l'IA, découvrir les bogues et mettre au point des systèmes de défense.

Nous nous appuyons sur les tactiques, techniques et procédures (TTP) des attaquants pour tester une série de défenses du système.

- Daniel Fabian, responsable des équipes rouges de Google

En vertu de la nouvelle réglementation, les pirates externes peuvent désormais simuler des attaques pour identifier les failles des systèmes et services d'IA de Google, par exemple, mais ils doivent travailler dans un cadre strict. L'extension du système d'incitation a précédé l'introduction d'un nouveau décret par le président Biden.

Le 30 octobre, Joe Biden a pris la première mesure gouvernementale obligatoire en matière d'intelligence artificielle, par exemple. Ce décret prévoit une évaluation approfondie des modèles d'intelligence artificielle avant leur utilisation par les agences gouvernementales.