Leçons tirées des technologies liées au COVID-19 : les risques liés à l’adoption d’une approche de solutions technologiques face aux crises de santé publique

En tant que première crise mondiale de santé publique à l’ère des algorithmes, la pandémie de COVID-19 a poussé les gouvernements à se tourner vers de nouvelles technologies basées sur les données et vers de nouveaux outils d’IA à un rythme sans précédent pour soutenir la réponse à la pandémie.

Cependant, un récent rapport de l’Institut Ada Lovelace dans 34 pays a trouvé peu de preuves que ces outils numériques ont réellement contribué à réduire la propagation du COVID-19 ou ont eu un impact positif sur les comportements de santé des gens.

Applications COVID-19

Les pays inclus dans l’étude de Lovelace sont présentés ci-dessous :

Les deux principales applications de lutte contre le coronavirus qu’ils ont tenté de diffuser largement dans ces pays étaient les applications de recherche de contacts et les passeports numériques. Tous deux cherchaient à limiter le danger pour autrui et à autoriser ou limiter les libertés en conséquence.

Applications de suivi des contrats :

• Il existe deux types d’applications de recherche de contrats : une approche centralisée des applications de recherche de contacts dans laquelle les données des utilisateurs sont stockées sur un serveur central géré par les autorités publiques ; et une approche décentralisée, dans laquelle les données des utilisateurs sont stockées sur les téléphones mobiles des utilisateurs et les autorités publiques accèdent aux données sur un serveur back-end (les utilisateurs ont été identifiés au moyen d’identifiants aléatoires afin que leur emplacement et leurs interactions sociales ne puissent pas être reconstitués).
• Vingt-cinq des 34 pays étudiés par Lovelace proposaient des applications numériques de suivi des contrats.

Passeports vaccinaux numériques :

• Il s’agit de certificats de santé numériques utilisés pour prouver le statut vaccinal d’un individu ou les résultats de tests antigéniques pour montrer la guérison du virus.
• Pendant la pandémie, ils ont été utilisés localement dans le pays pour permettre l’accès à certaines activités, comme les lieux de travail, ou pour les voyages internationaux.
• Les 34 pays étudiés par Lovelace ont fourni des passeports vaccinaux numériques entre janvier et décembre 2021. La Chine et la Nouvelle-Zélande figuraient parmi les pays les plus stricts dans l’utilisation des passeports vaccinaux numériques pour restreindre l’entrée sur les sites nationaux et les voyages internationaux.

Quelle est l’ampleur du « flop technologique » ?

Alors que le rapport Lovelace a révélé des lacunes importantes dans les preuves concernant l’efficacité des applications COVID-19 en tant qu’outils de santé publique, les données existantes pointent vers un échec colossal, presque comique. Par exemple:

• L’application australienne a signalé sur deux ans un total de 17 personnes qui n’ont jamais été retrouvées manuellement. L’application française n’a envoyé que 14 notifications malgré plus de 2 millions de téléchargements en juin 2020 ;
• L’utilisation volontaire d’applications de recherche de contacts dans 13 pays a révélé un taux d’adoption moyen de seulement 9 %. L’adoption initiale a diminué dans de nombreux pays à mesure que les préoccupations concernant la vie privée des consommateurs se sont accrues. Le gouvernement français rapporte que chaque jour des dizaines de milliers de citoyens suppriment l’application Contract Race (qui utilise un modèle centralisé).
• Même l’utilisation d’applications décentralisées de suivi des contrats, plus respectueuses de la vie privée, s’est heurtée à des difficultés. Il est prouvé que les millions de personnes qui ont téléchargé l’application NHS COVID-19 (utilisée en Angleterre et au Pays de Galles) ne pouvaient techniquement pas l’activer.

Dans la mesure où les systèmes de passeport numérique pour les vaccins reposaient sur l’hypothèse qu’un individu présenterait un risque moindre pour les autres s’il était vacciné, ils ont été mal conçus car il n’existe aucune preuve scientifique claire que la vaccination réduit le risque de transmission de maladies d’un individu.

Le rapport de Lovelace fait également état d’expériences mitigées concernant l’impact des passeports numériques de vaccination sur les taux de vaccination (la théorie est qu’une « récompense » d’un accès facile aux lieux et aux voyages encouragerait la vaccination) :

• Dans la majorité des pays de l’UE, les exigences en matière de passeport vaccinal pour les voyages intérieurs et l’accès à différents contextes sociaux semblent avoir conduit à des taux de vaccination plus élevés : la France, par exemple, a connu une augmentation de 15 % des taux de vaccination après l’introduction du système de passeport numérique ;
• Mais les niveaux d’acceptation du vaccin contre la COVID-19 étaient faibles en Asie de l’Ouest, en Afrique du Nord, en Russie, en Afrique et en Europe de l’Est, malgré l’utilisation de passeports numériques vaccinaux : par exemple, seul 1 Russe sur 4 a été vacciné malgré un système de passeport numérique obligatoire prévu.

Le rapport Lovelace a identifié un certain nombre de raisons expliquant les mauvaises performances des applications liées au coronavirus (COVID-19).

Problèmes techniques liés aux applications liées au coronavirus (COVID-19).

Les applications liées au coronavirus (COVID-19) dans certains pays ont rencontré des problèmes techniques importants en raison d’une incompatibilité avec le protocole de notifications d’exposition décentralisées (API GAEN) d’Apple/Google. Il s’agit d’un problème particulièrement rencontré par les applications centralisées de suivi des contrats, comme en France et en Australie.

L’étude de Lovelace a révélé que 15 des 25 pays de son étude qui ont déployé des applications de suivi des contrats utilisent un modèle décentralisé – pas tant pour des raisons de confidentialité que pour garantir la conformité à l’API GAEN. Même des pays comme le Royaume-Uni et l’Allemagne, qui suivaient à l’origine un modèle centralisé d’applications de suivi des contrats, ont finalement dû publier une API GAEN pour permettre à leurs systèmes de notification Bluetooth de fonctionner efficacement.

Faibles niveaux d’acceptation générale

Le rapport Lovelace révèle que la principale raison pour laquelle les applications Covid échouent est le faible taux d’adoption et le faible soutien du public dans de nombreux pays. Il ne s’agit pas simplement d’un cas d’apathie passive ou d’inertie : plus de la moitié des pays interrogés ont été témoins de manifestations contre les applications Covid.

Il y avait deux exceptions, à des extrémités différentes de l’échelle :

• En Chine, l’application Health Code est automatiquement intégrée aux applications de commerce électronique WeChat et Alipay des utilisateurs, de sorte qu’ils ne peuvent désactiver les fonctions liées au coronavirus qu’en supprimant ces applications. Considérant que les paiements numériques constituent le principal moyen de paiement en Chine, l’application du Code de la santé était pratiquement obligatoire et, par conséquent, il y avait plus de 900 millions d’utilisateurs de l’application (sur 1,4 milliard) ; Et
• Au Canada, où son application était volontaire, le gouvernement a dépensé 21 millions de dollars canadiens dans une campagne visant à encourager les Canadiens à télécharger et à utiliser l’application, ce qui distingue le Canada des autres pays étudiés par Lovelace où l’utilisation était volontaire. Les preuves ont montré que cette campagne a abouti à des millions de téléchargements.

En examinant la faible adoption mondiale des applications Covid, l’étude de Lovelace a trouvé deux raisons.

Premièrement, il n’est pas surprenant que la légalité publique des applications liées au COVID-19 dépende de la confiance du public dans la sécurité et l’efficacité des applications et de la confiance accordée au gouvernement pour protéger ses libertés et sa vie privée.

La principale source de méfiance du public est l’idée fausse selon laquelle les applications de suivi des contrats permettent aux gouvernements de suivre les mouvements des utilisateurs. Mais le fait, qui n’a pas été activement communiqué par les gouvernements (autres que le Canada), est que les applications de traçage des contrats, notamment celles utilisant Bluetooth et l’API GAEN, n’ont pas collecté de données de géolocalisation, seulement l’incident de proximité dans un endroit non précisé avec un personne infectée. . Quelqu’un est arrivé.

La deuxième raison est liée, mais plus profonde – et mieux illustrée par ce qui s’est passé en Chine lorsque l’utilisation obligatoire d’une application de suivi des contrats a été levée. L’étude de Lovelace émet l’hypothèse que le contenu de célébration largement diffusé sur les réseaux sociaux chinois indiquait « que les gens étaient heureux de prendre des décisions et de prendre des précautions pour eux-mêmes plutôt que de s’appuyer sur un algorithme du code de santé ». Il n’y a rien de plus personnel pour chacun de nous que notre propre santé, et en fin de compte, même si nous pouvons prendre de meilleures décisions lorsque nous le savons, nous pensons que nous sommes en mesure de prendre la décision nous-mêmes plutôt que d’accepter l’algorithme et le règles comportementales qui le déclenchent.

Les applications du COVID-19 pourraient avoir creusé les inégalités structurelles existantes

Sans surprise, les groupes qui avaient déjà un faible niveau de confiance dans le gouvernement étaient moins susceptibles d’utiliser les applications liées au COVID-19. Par exemple, au Royaume-Uni :

• 42 % des répondants noirs, asiatiques et issus de minorités ethniques ont téléchargé une application de recherche de contacts du NHS, contre 50 % des répondants blancs ;
• 13 % des répondants noirs, asiatiques et issus de minorités ethniques ont téléchargé l’application puis l’ont supprimée, contre 7 % des répondants blancs.

Non seulement les applications Covid ont joué un rôle en favorisant la méfiance à l’égard du gouvernement parmi les minorités et les groupes défavorisés, mais elles ont elles-mêmes perpétué ou exacerbé les inégalités. comme Un commentaire a été noté:

« Le lancement d’interventions contre le COVID-19 dans de nombreux pays tend à répéter le modèle d’intervention basé sur des « solutions technologiques » et des « solutions miracles », qui tendent à effacer les facteurs contextuels et à marginaliser d’autres justifications, valeurs et fonctions sociales qui ne sont pas explicitement prises en compte. les refléter. Soutenir les efforts d’innovation basés sur la technologie« .

Le rapport Lovelace révèle également que les passeports numériques vaccinaux pour les voyages internationaux ont accru les inégalités mondiales en discriminant les pays qui n’ont pas été en mesure de garantir un approvisionnement suffisant en vaccins.

Les demandes liées au coronavirus (COVID-19) n’ont pas été bien gérées

Le rapport révèle que la plupart des pays n’ont pas adopté de lois et de réglementations strictes régissant l’utilisation des applications liées au COVID-19, ni de mécanismes efficaces de surveillance et de responsabilisation. Seuls quelques pays ont publié de nouvelles réglementations régissant ces applications, comme le Royaume-Uni, les États membres de l’Union européenne, Taïwan et la Corée du Sud.

La plupart des pays ont utilisé une législation existante qui n’était pas complète, en particulier dans les pays dont les lois sur la protection des données et la vie privée sont plus faibles. Cela a entraîné un manque de responsabilité en cas d’applications inefficaces, de problèmes techniques, d’incidents d’utilisation abusive et de fuites de données. Par exemple, les données des applications de recherche de contacts ont été utilisées dans des enquêtes policières en Allemagne et à Singapour et vendues à des tiers aux États-Unis, tandis que les données numériques du passeport vaccinal ont été compromises au Brésil. Ces incidents ont réduit la confiance du public dans les applications liées au COVID-19 et sa volonté d’utiliser des technologies similaires lors de futures crises publiques.

Parfois, les humains valent mieux que les algorithmes

Le plus gros problème des « solutions techniques » est qu’elles supposent que les processus humains remplacés, parce qu’ils sont plus lents ou plus gourmands en ressources, sont moins efficaces qu’un algorithme. Cependant, comme le souligne le rapport de Lovelace, les processus humains de suivi des contrats étaient un meilleur outil :

« Les équipes manuelles de recherche des contacts devraient idéalement être formées pour aider les individus et les familles à accéder aux tests, à identifier les symptômes et à obtenir de la nourriture et des médicaments en cas d’isolement. Ce type d’enquête approfondie et de recherche des contacts nécessite des connaissances et une communication efficace avec les communautés, ce qui ne peut être réalisé via une application mobile.

Conclusion

Les applications COVID-19 ont été présentées principalement comme une mesure de l’attitude du public à l’égard de l’utilisation de nouvelles technologies de santé basées sur les données dans des contextes quotidiens, ainsi que de la volonté du public de partager des données sensibles et d’accepter des restrictions à ses libertés sur la base des directives des applications. .

Peut-être que la mise en œuvre généralement médiocre des applications liées au COVID-19 signifie que nous sommes en retard dans l’utilisation des outils numériques pour gérer la crise de santé publique – peut-être même avec un effet « d’entraînement » d’érosion de la confiance du public dans l’utilisation des technologies basées sur les données dans la santé quotidienne. contextes.

Le rapport Lovelace formule les recommandations suivantes pour rétablir la confiance :

• Comprendre les différents effets des différentes caractéristiques techniques des applications sur l’acceptation et l’expérience des gens avec ces technologies.
• Il faut aussi aller plus loin, en définissant des critères d’efficacité selon une approche centrée sur l’humain qui dépasse la compétence technique et construit une compréhension des expériences des personnes, segmentées par contextes sociaux et économiques.
• Communiquer efficacement dans le but d’utiliser la technologie dans les crises publiques, y compris l’infrastructure technique et le cadre législatif pour des technologies spécifiques, pour répondre à l’indécision du public et construire un consensus social.
• Développer des mécanismes de recours en cas de fuite ou d’utilisation abusive de données.
• Créer des mécanismes de surveillance qui traitent spécifiquement de l’impact de la technologie sur les inégalités. Surveiller l’impact sur les comportements de santé publique, en particulier en ce qui concerne les groupes sociaux les plus susceptibles de connaître des inégalités de santé et d’autres formes d’inégalité sociale.
• Créer des lignes directrices et des codes spécifiques pour garantir que les développeurs de technologies respectent la confidentialité dès la conception et l’éthique dès la conception, et mettre en place des cadres de suivi et d’évaluation efficaces et des mécanismes de déchéance pour le déploiement des technologies.

En savoir plus: Leçons de l’App Store