GISMETEO : ChatGPT expose les données personnelles du fondateur de l’entreprise – Science et Espace
Une équipe de chercheurs a mis au point un chatbot populaire basé sur l’IA ChatGPT Il révèle des informations pour lesquelles il a été formé avec une simple requête, qui lui demande de répéter des mots aléatoires à plusieurs reprises. Le robot a commencé à exposer les informations personnelles des personnes, notamment leurs adresses e-mail, leurs numéros de téléphone, des parties de publications et d’actualités scientifiques, des parties d’articles Wikipédia et d’autres informations. Cela a été indiqué dans la publication de Engadget.
Au cours de leurs recherches, les chercheurs ont demandé au chatbot de répéter le mot « poème » à plusieurs reprises, ce qu’il a fait au début, mais après un certain temps, ils ont saisi l’e-mail et le numéro de téléphone du fondateur et PDG de l’entreprise. Il s’avère que les données sont réelles.
Après la commande, répétez le mot entreprise ChatGPT Il a révélé les adresses e-mail et les numéros de contact d’un cabinet d’avocats américain aléatoire. Collectivement, environ 17 % des générations testées incluaient des données personnelles précédemment mémorisées.
En utilisant des requêtes similaires, les scientifiques ont pu forcer le chatbot à publier des mèches de cheveux aléatoires, des adresses de portefeuille Bitcoin et divers types de contenu pour adultes provenant de sites de rencontres, ainsi que des noms, des anniversaires, etc.
Au total, les chercheurs ont dépensé 200 dollars pour créer 10 000 modèles de données personnelles et autres informations obtenues à partir du réseau, totalisant plusieurs mégaoctets.
Les chercheurs ont averti que les attaquants pourraient obtenir plus de données à un coût plus élevé et que leur attaque était « stupide ».
