Après que les étudiants ont contesté le programme probatoire, le tribunal français a giflé le test

Dans une victoire préliminaire dans la bataille en cours contre les logiciels portant atteinte à la vie privée qui « surveillent » les étudiants tout en passant des tests à distance, un tribunal administratif français près de Paris a suspendu l’utilisation par une université de la plateforme de surveillance en ligne TestWe, qui surveille les étudiants par reconnaissance faciale et analyse algorithmique .

TestWe, tout comme Proctorio, Examsoft et d’autres applications de surveillance auxquelles nous avons fait appel pour une surveillance intrusive des candidats, suit en permanence les mouvements oculaires et l’environnement des étudiants à l’aide d’analyses vidéo et audio. Le tribunal de Montreuil, en France, a jugé qu’une telle « surveillance permanente des corps et des voix » était déraisonnable et excessive dans le but de prévenir la fraude.

Les applications de surveillance sont apparues pendant la pandémie de COVID-19 lorsque les écoles fermées se sont tournées vers l’enseignement à distance. Les fabricants de logiciels de surveillance ont promis aux écoles un moyen de continuer à gérer et à contrôler les tests à enjeux élevés pour les élèves à la maison – en les observant, en suivant leurs frappes, en vérifiant si leurs yeux s’éloignaient de l’écran et en regardant s’ils s’éloignaient de l’écran . audition, tout au long de leurs ordinateurs.

Il y a beaucoup de bogues dans ces applications. Il envahit la vie privée des élèves, exacerbe les inégalités existantes dans les résultats scolaires et ne peut jamais tout à fait correspondre au contrôle que les écoles ont l’habitude d’appliquer dans la salle d’examen. Et ils ont des défauts : ProctorU, l’une des plus grandes sociétés de surveillance à distance, J’ai récemment cessé complètement de vendre des services de surveillance automatisés Parce que très peu d’administrateurs et d’éducateurs examinaient les résultats pour déterminer si une violation signalée était une violation. Bien que de nombreux étudiants soient revenus à l’apprentissage en personne, la surveillance à distance est toujours utilisée et nous ne pensons pas qu’elle va disparaître de si tôt.

Le boîtier TestWe est l’un des premiers logiciels de surveillance difficiles que nous ayons vus en Europe. C’est un bon signe sur deux fronts. Cela montre que les inquiétudes concernant ce que certains ont appelé « Logiciels espions légitimesIl est partagé par des étudiants et des défenseurs des droits numériques du monde entier. Et comme des étudiants ici aux États-Unis, ils contestent l’utilisation de ces applications invasives, qui peuvent collecter des images faciales, des frappes au clavier, des mouvements oculaires, des images d’arrière-plan et des sons, comme ainsi que des informations personnelles telles que les adresses, les numéros de téléphone et les dates de naissance, et ont qualifié les étudiants de suspects de détourner les yeux de leurs écrans trop longtemps.

Cela montre également que les tribunaux commencent à reconnaître que les technologies qui permettent une surveillance biométrique à 360 degrés, mur à mur, des étudiants dans leurs espaces privés, tels que leurs salons ou leurs chambres, sont un moyen illégal et illégal de lutter contre la fraude. Dans une affaire américaine contestant l’utilisation de la technologie de surveillance à l’Université d’État de Cleveland, un tribunal fédéral de l’Ohio a statué l’année dernière que l’une des techniques de surveillance les plus invasives – le « balayage de pièce » – était inconstitutionnel Parce qu’il offre une fenêtre sur nos maisons, des espaces privés protégés de l’ingérence du gouvernement par le quatrième amendement. En vertu du quatrième amendement, les institutions gouvernementales telles qu’une école publique auront généralement besoin d’un mandat de perquisition à l’intérieur du domicile de quelqu’un.

Le cas TestWe est né après que l’Institut d’enseignement à distance – Université de Paris 8, où toutes les classes sont à distance, a commencé à l’utiliser pour les examens. Il vérifie automatiquement leur identité au début et pendant le test. Nécessite la désactivation de tous les pare-feu et applications antivirus. La version classique de l’application tire sur les élèves toutes les trois secondes. Les images sont analysées, et tout « comportement suspect » est signalé à la plateforme.

L’étudiante EID Judy Marie Masley, une avocate américaine qui enseigne à l’école, s’est élevée contre cette technologie intrusive. « Je n’arrivais pas à croire qu’ils nous espionnaient en plus de tout le stress lié aux examens », a-t-elle déclaré. Elle était la plaignante initiale dans le procès. Nous avons pris connaissance de l’affaire du groupe parisien de défense des droits numériques La Quadrature du Net (LQDN), qui a plaidé avec succès devant les tribunaux au nom des étudiants, arguant que le logiciel de TestWe ne respecte pas les normes établies par la protection générale des données de l’Union européenne. . Règlement (GDPR) pour le traitement des données personnelles des personnes.

En vertu du Règlement général sur la protection des données (RGPD), le traitement des données personnelles doit être autorisé par la loi, avoir une finalité légitime et être proportionné à sa finalité. LQDN a fait valoir que le logiciel de TestWe n’avait aucune base légale parmi celles énoncées dans le Règlement général sur la protection des données (RGPD) et était disproportionné par rapport à sa destination, à savoir surveiller les tests à distance.

Comme l’a rapporté LQDN, le tribunal s’est concentré sur la question de la proportionnalité, estimant qu’il existait de sérieux doutes quant à la conformité de TestWe avec les exigences de minimisation des données du RGPD, qui stipulent que les entités accédant aux données personnelles ne peuvent collecter que ce qui est nécessaire aux fins spécifiées. Dans une décision préliminaire, le tribunal a suspendu l’utilisation de TestWe. La victoire, bien qu’une première, est significative et montre que les tribunaux européens reconnaissent que les systèmes de contrôle algorithmique manquent de proportionnalité.

« C’est bien que le juge soit ouvert à cet argument : cela signifie que la gamme d’informations et de données sur les étudiants que nous collectons et traitons est trop large et disproportionnée par rapport à l’objectif déclaré. En bref, ce n’est pas parce que les données existent ou sont disponibles ne signifie pas qu’il est licite de l’utiliser à quelque fin que ce soit.

« Le tribunal administratif de Montreuil a envoyé un avertissement clair à toutes les autres universités et écoles », a déclaré LQDN. C’est la vraie valeur de la décision de Test We : la pertinence de ce type de surveillance algorithmique permanente est aujourd’hui sérieusement remise en question.

L’avis, en français, est ici.

Bien que ce verdict ait été une victoire claire, la bataille contre la façon dont Fiesta a utilisé TestWe est loin d’être terminée. La décision initiale du tribunal a déclaré qu’il y avait un doute important quant à la légalité de la demande. LQDN n’a pas encore convaincu un tribunal de finalement déclarer l’application illégale et que son utilisation devrait être définitivement suspendue, un processus qui prendra plusieurs mois.