Face aux critiques selon lesquelles c’est un paradis pour les tricheurs, ChatGPT ajoute un outil pour les attraper

Le fabricant de ChatGPT tente de freiner sa réputation de machine à tricher gratuite avec un nouvel outil qui peut aider les enseignants à détecter si un élève ou une IA a écrit ce devoir.

Le nouvel outil de classification de texte AI a été lancé mardi par OpenAI après des semaines de discussion dans les écoles et les collèges sur les inquiétudes que la capacité de ChatGPT à écrire quoi que ce soit sous commande puisse alimenter la tromperie académique et entraver l’apprentissage.

OpenAI prévient que son nouvel outil – comme d’autres déjà disponibles – n’est pas infaillible. Jan Laiki, responsable de l’équipe de conformité d’OpenAI chargée de rendre ses systèmes plus sûrs, a déclaré que la façon dont le texte saisi par l’IA est détecté « est imparfaite et sera parfois erronée ».

« Pour cette raison, ils ne devraient pas être uniquement invoqués lors de la prise de décisions », a déclaré Lake.

Les adolescents et les étudiants font partie des millions de personnes qui ont commencé à essayer ChatGPT Après son lancement le 30 novembre en tant qu’application gratuite sur le site OpenAI. Et bien que beaucoup aient trouvé des moyens de l’utiliser de manière créative et sans danger, la facilité avec laquelle il peut répondre aux questions des tests à domicile et aider à d’autres tâches a semé la consternation chez certains enseignants.

Au moment où les écoles ont ouvert leurs portes pour la nouvelle année, New York, Los Angeles et d’autres grands districts scolaires publics avaient commencé à interdire leur utilisation dans les salles de classe et sur le matériel scolaire.

Le district scolaire public de Seattle a initialement interdit ChatGPT sur tous les appareils scolaires en décembre, mais a ensuite ouvert l’accès aux éducateurs qui souhaitaient l’utiliser comme outil pédagogique, a déclaré Tim Robinson, porte-parole du district.

« Nous ne pouvons pas ignorer cela », a déclaré Robinson.

Le district discute également de la possibilité d’étendre l’utilisation de ChatGPT dans les salles de classe pour permettre aux enseignants de l’utiliser pour former les élèves à être de meilleurs penseurs critiques et pour permettre aux élèves d’utiliser l’application comme « tuteur personnel » ou pour aider à générer de nouvelles idées lorsqu’ils travaillent sur une mission, dit Robinson.

Les districts scolaires à travers le pays disent voir la conversation autour de ChatGPT évoluer rapidement.

« La première réaction a été OMG, comment allons-nous arrêter la vague de tricherie qui va se produire avec ChatGPT ? », a déclaré Devin Page, spécialiste de la technologie à l’école publique du comté de Calvert dans le Maryland. Il a dit que se rendre compte que « c’est l’avenir » et l’obstruer n’est pas la réponse.

Il pense que des boycotts comme lui finiront par débloquer ChatGPT, a déclaré Page, en particulier une fois que le service de détection de l’entreprise sera en place.

OpenAI a souligné les limites de son outil de détection dans un article de blog mardi, mais a déclaré qu’en plus de dissuader le plagiat, il peut aider à détecter les campagnes de désinformation automatisées et autres abus de l’IA pour imiter les humains.

Plus le texte est long, meilleur sera l’outil pour détecter si une IA ou un humain a écrit quelque chose. Écrivez n’importe quel texte – un essai d’admission à l’université ou une analyse littéraire de Ralph Ellison l’homme invisible – et l’outil l’étiquettera comme « très improbable, improbable ou peu clair si probable ou probable » produit par l’IA.

Mais tout comme ChatGPT lui-même, qui a été formé sur une énorme collection de livres numériques, de journaux et d’écrits en ligne, mais qui diffuse souvent en toute confiance des mensonges ou des bêtises, il n’est pas facile d’expliquer comment cela se passe avec le résultat.

« Nous ne savons essentiellement pas par quel type de modèle il s’intéresse, ni comment cela fonctionne en interne », a déclaré Lakey. « Nous ne pouvons pas dire grand-chose à ce stade sur le fonctionnement réel du classificateur. »

Les établissements d’enseignement supérieur du monde entier ont également commencé à discuter de l’utilisation responsable de la technologie de l’IA. Sciences Po, l’une des universités les plus prestigieuses de France, a interdit son utilisation la semaine dernière et a averti que toute personne utilisant subrepticement ChatGPT et d’autres outils d’IA pour produire des travaux écrits ou oraux pourrait être bannie de Sciences Po et d’autres institutions.

En réponse au contrecoup, OpenAI a déclaré qu’il travaillait depuis plusieurs semaines sur la rédaction de nouvelles directives pour aider les éducateurs.

« Comme beaucoup d’autres technologies, un district peut décider qu’il n’est pas approprié de l’utiliser dans ses salles de classe », a déclaré Lama Ahmed, chercheur en politiques d’OpenAI. « Nous ne les poussons pas dans un sens ou dans l’autre. Nous voulons simplement leur donner les informations dont ils ont besoin pour pouvoir prendre les bonnes décisions pour eux. »

Il s’agit d’un rôle public inhabituel pour la startup de San Francisco axée sur la recherche, désormais soutenue par des milliards de dollars d’investissements de son partenaire Microsoft et faisant l’objet d’un intérêt croissant de la part du public et des gouvernements.

Le ministre français de l’Economie numérique, Jean-Noël Barrot, a récemment rencontré en Californie des dirigeants d’OpenAI, dont le PDG Sam Altman, et une semaine plus tard, il a déclaré à un public du Forum économique mondial de Davos, en Suisse, qu’il était optimiste quant à la technologie. Mais le ministre du gouvernement – ​​ancien professeur au MIT et à l’école de commerce française HEC à Paris – a déclaré qu’il y avait aussi des questions éthiques difficiles à aborder.

« Si vous êtes à la faculté de droit, il y a lieu de s’inquiéter car, de toute évidence, ChatGPT, entre autres outils, sera en mesure de proposer des examens relativement impressionnants », a-t-il déclaré. « Si vous êtes membre de l’École d’économie, tout va bien car ChatGPT aura du mal à trouver quelque chose à attendre ou à offrir lorsque vous êtes à l’École supérieure d’économie. »

Il a déclaré qu’il sera de plus en plus important pour les utilisateurs de comprendre les bases du fonctionnement de ces systèmes afin qu’ils sachent quels biais peuvent exister.