ChatGPT et AI : logiciel pour détecter l’utilisation des systèmes d’IA activés dans les universités néo-zélandaises

par RNZ

La course aux armements anti-fraude universitaire est allée plus loin aujourd’hui en activant un logiciel capable de détecter l’utilisation de systèmes d’IA tels que ChatGPT.

Turnitin, qui est utilisé par les huit universités néo-zélandaises, a déclaré qu’il peut désormais surveiller le matériel généré par l’IA avec une précision de 98 % et a exploité cette capacité pour ses clients néo-zélandais.

Les universitaires ont déclaré à RNZ que la mise à jour aiderait, mais ils doutaient qu’elle soit efficace pendant longtemps ou pour les étudiants qui connaissent des façons complexes d’utiliser les outils.

Le vice-président régional de Turnitin pour l’Asie-Pacifique, James Thorley, a déclaré que le programme estimait le pourcentage de texte écrit par l’IA et mettait en évidence les phrases offensantes.

Détecter le travail généré par l’IA est plus difficile que détecter d’autres types de triche, a déclaré Thorley.

« Chaque fois que ChatGPT ou tout autre outil d’écriture d’IA génère quelque chose, c’est unique, donc deux créations ne seront jamais identiques, vous ne pouvez donc pas le détecter de la même manière que vous détectez l’usurpation d’identité et le copier-coller à partir de n’importe quelle source », a-t-il déclaré. .

« Vous recherchez vraiment cette différence entre la façon dont un écrivain IA écrit et la façon dont un humain écrit, mais c’est évidemment beaucoup plus compliqué que de simplement faire correspondre le même texte. »

Thurley a déclaré que le test indiquait que Turnitin serait efficace même si les étudiants modifiaient le travail généré par l’IA pour le faire ressembler au leur.

Il a déclaré que des enquêtes aux États-Unis indiquent que 25 à 50 % des étudiants universitaires ont utilisé l’IA pour diverses tâches.

« Tout le monde est en fait très enthousiasmé par le potentiel de ces types d’outils. La détection ne signifie pas nécessairement qu’une mauvaise conduite se produit, et c’est mal. Il s’agit d’avoir une vue d’ensemble de ce qui se passe et d’entamer des conversations. »

Catherine Moran de l’Université de Canterbury a déclaré qu’elle repensait ses évaluations en raison de l’intelligence artificielle et s’attendait à ce que Turnitin soit utilisé pour des tâches qui n’avaient pas encore changé.

La mise à jour de Turnitin ne fonctionnera probablement qu’à court terme, à mesure que les étudiants s’adapteront – Maître de conférences

Le maître de conférences en génie logiciel à l’Université de Victoria, Simon McCallum, a déclaré que la mise à jour de Turnitin aiderait à détecter les abus d’IA, mais a prédit qu’elle ne serait efficace que pendant une courte période et lorsque les étudiants le feraient de manière simple.

« Il existe tout un tas d’autres outils d’IA qui, lorsque vous les superposez, rendent l’une de ces détections moins certaine et le problème que nous avons est que si vous voulez envoyer un ping à quelqu’un pour usurpation d’identité, vous devez être sûr qu’il ‘ re enfreindre les règles dont ils n’ont pas qu’un soupçon Il est probable qu’une intelligence artificielle ait écrit cela.

Un grand nombre d’étudiants utilisent ChatGPT et des programmes similaires de « grand modèle de langage », a déclaré McCallum.

« Les étudiants utilisent beaucoup GPT. Certains d’entre eux le maîtrisent, et les gens qui sont bons en ingénierie agile, créant de bonnes entrées pour l’IA, sont capables de produire un travail très réaliste qui ressemble beaucoup au leur en un temps beaucoup plus court que s’ils ont dû l’écrire eux-mêmes. »

Il a déclaré que les étudiants devraient apprendre à utiliser l’IA car elle sera largement utilisée dans de nombreux emplois, mais il craint que certains ne le fassent sans aucune réflexion.

« Je m’inquiète quand les gens cessent de penser, qu’ils n’utilisent pas leur cerveau ou ne font pas d’effort pour apprendre.

« Nous devrons peut-être considérer chaque tâche comme une tâche de groupe car nous devons penser que chaque élève a accès à un membre du groupe, qui est une IA qui peut faire une tâche pour lui, et donc vous devez dire, OK à la place de le traiter comme votre propre entreprise, dans Comment le groupe a-t-il contribué ?

McCallum a déclaré que ChatGPT et autres étaient si importants que l’ensemble du système éducatif devait être fermé afin que les enseignants et les conférenciers puissent savoir quoi faire.

« Il s’agit d’un événement de niveau pandémique. C’est le genre de chose qui va fondamentalement changer beaucoup de ce que nous faisons. Dans une pandémie, nous avons soudainement dû aller en ligne et soudainement nous avons dû enseigner dans un tout nouveau façon et c’est le même niveau de changement qui est nécessaire. »

« Fermons les écoles pendant un mois, cinq, six semaines, et consacrons simplement ce temps au développement professionnel avec tous les enseignants et professeurs d’université et disons que vous devez tous rattraper cela parce que cela a fondamentalement changé l’éducation. »