Tech

OpenAI a stoppé cinq tentatives de falsification de ses modèles – technologie

s OpenAI, le créateur de ChatGPT, a annoncé avoir détecté et stoppé cinq « opérations d'influence secrètes » au cours des trois derniers mois sur ses algorithmes et modèles. La société a expliqué sur son site Internet que le but de ces opérations est d'influencer l'opinion publique et les résultats politiques.

Les cinq opérations souhaitaient utiliser les modèles OpenAI pour « propager et soutenir des activités trompeuses en ligne ». La société affirme que les cinq campagnes ont été détectées et arrêtées. Jusqu’à présent, rien n’indique qu’il ait eu un impact significatif sur les audiences ou une distribution accrue grâce aux algorithmes.

OpenAI décrit les cinq processus détectés et arrêtés. L'entreprise ne précise pas qui est derrière cette création, mais décrit d'où elle vient géographiquement.

La première s’appelle une mauvaise grammaire. Son activité était principalement sur Telegram en Ukraine, en Moldavie, dans les pays baltes et aux États-Unis, et son origine géographique était la Russie. Les auteurs de la campagne ont utilisé des modèles OpenAI pour améliorer le code de programmation des robots Telegram, ainsi que pour créer de courts commentaires politiques à distribuer au sein de l'application.

Ils ont démantelé le plus grand botnet du monde et capturé son leader

La deuxième campagne provenait du réseau de piratage chinois Spamoflage. J'ai utilisé des algorithmes pour analyser l'activité des personnes sur les réseaux sociaux, créer des scripts en plusieurs langues à distribuer sur différentes plateformes et encore pour la programmation.

La troisième opération, baptisée Doppelganger, est là encore originaire du territoire russe. Ses auteurs ont utilisé des modèles pour créer des commentaires en plusieurs langues à diffuser sur les réseaux sociaux. Ils ont également créé des textes résumant l’actualité dans des publications Facebook, et traduit et édité des textes pour des sites Web liés à leur travail.

READ  Sous-estimer les arts à l'école

La quatrième opération, baptisée IUVM (International Union of Virtual Media), est originaire du territoire iranien. Il est utilisé pour traduire des textes longs, des titres et des éléments de pages Web.

Des documents internes révèlent les secrets de Google

OpenAI a nommé la dernière opération Zero Zeno. Il est originaire du territoire israélien et est utilisé dans des activités similaires aux précédentes. Le contenu des cinq sujets ciblait la politique et les conflits actuels et diffusait des points de vue et des critiques spécifiques.

Amnesty International a développé des opinions politiques et on ne sait pas pourquoi

Quelles sont les nouvelles fonctionnalités et l'algorithme de ChatGPT

OpenAI affirme continuer à travailler pour détecter et arrêter d'autres tentatives d'abus de ses algorithmes. À cette fin, elle coopère avec des experts, des partenaires externes, des organisations et institutions indépendantes et autres, pour pouvoir y répondre. La société affirme qu’elle publiera à l’avenir des rapports sur les campagnes non couvertes.

L'intelligence artificielle aggrave le service client

L'IA est raciste mais ne s'en rend pas compte

Ne manquez pas les actualités les plus importantes – suivez-nous sur Galerie d'actualités Google

Cunégonde Lestrange

"Gourou de Twitter. Écrivain en herbe. Fauteur de troubles typique. Entrepreneur. Étudiant hipster."

Articles similaires

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Bouton retour en haut de la page
Fermer
Fermer