Twitch adopte une approche de sécurité « multicouche » avec de nouveaux outils de courtage – TechCrunch

Superviser une communauté en ligne est un travail difficile, souvent ingrat – et c’est encore plus difficile lorsqu’il se déroule en silo.

sur moi TicEn effet, les canaux interconnectés partagent des informations de manière informelle sur les utilisateurs qu’ils préfèrent exclure. L’entreprise formalise désormais cette pratique sur mesure avec un nouvel outil qui lui permet Listes d’interdiction d’échange de chaîneset invitez les communautés à coopérer pour bloquer le harcèlement en chaîne et les autres utilisateurs ennuyeux avant qu’ils ne causent des problèmes.

Lors d’une conversation avec TechCrunch, Allison Hoffman, vice-présidente de Twitch Product, a expliqué que l’entreprise souhaitait finalement responsabiliser les modérateurs de la communauté en leur donnant autant d’informations que possible. Hoffman dit que Twitch a mené des entretiens « approfondis » avec des mods pour savoir ce dont ils ont besoin pour se sentir plus efficaces et pour rendre leurs communautés plus sûres.

Les modérateurs doivent prendre rapidement de nombreuses petites décisions, dont la plus importante consiste à déterminer quels utilisateurs agissent de bonne foi – et ne causent pas intentionnellement de problèmes – et lesquels ne le sont pas.

« S’il y a quelqu’un que vous voyez et que vous dites ‘Oh, c’est un peu coloré, je me demande s’il est nouveau ici ou s’il est de mauvaise foi’ – s’il est bloqué chez l’un de vos amis, c’est plus facile pour vous d’y aller, ‘Ouais' », a déclaré Hoffman. Non, ce n’est probablement pas la bonne personne pour cette communauté », et vous pouvez rendre cette décision plus facile.

« Cela réduit le fardeau mental des superviseurs, tout en éliminant plus efficacement quelqu’un qui n’est pas socialement approprié de votre communauté. »

Dans le tableau de bord des créateurs, les créateurs et les modérateurs de chaînes peuvent demander aux autres chaînes avec lesquelles ils souhaitent échanger des listes d’utilisateurs bloqués. L’outil est bidirectionnel, de sorte que toute chaîne qui demande une autre liste de diffusion la partagera en retour. Un canal peut accepter toutes les demandes de partage de listes de blocage ou n’autoriser que les demandes des affiliés Twitch, des partenaires et des canaux mutuellement suivis. Toutes les chaînes pourront échanger des listes de blocage avec jusqu’à 30 autres chaînes, ce qui permettra de créer une liste très solide d’utilisateurs qui préféreraient être exclus, et les chaînes peuvent arrêter de partager leurs listes à tout moment.

Les canaux peuvent choisir de surveiller ou de restreindre automatiquement tout compte auquel ils s’identifient via ces listes partagées, et ils seront restreints par défaut. Les utilisateurs peuvent toujours « surveiller » le chat, mais ils seront signalés afin que leur comportement puisse être surveillé de près et leur premier message sera marqué d’une case rouge indiquant également les autres endroits où ils ont été bloqués. À partir de là, la chaîne peut choisir de les bloquer entièrement ou de leur donner toute la clarté et de les transformer en statut « de confiance ».

Les derniers outils de modération de Twitch sont un moyen intéressant pour les chaînes d’appliquer leurs règles contre les utilisateurs qui peuvent s’avérer ennuyeux mais qui peuvent cesser d’enfreindre les directives plus larges de l’entreprise interdisant carrément les mauvais comportements. Il n’est pas difficile d’imaginer un scénario, en particulier pour les communautés marginalisées, où une personne mal intentionnée pourrait harceler intentionnellement une chaîne sans violer explicitement les règles de Twitch contre la haine et le harcèlement.

Twitch reconnaît que le harcèlement a « de nombreuses manifestations », mais aux fins de l’arrestation de Twitch, un tel comportement est défini comme « le harcèlement, les attaques personnelles, la promotion de blessures physiques, les raids hostiles et l’espionnage de faux rapports malveillants ». Il existe une zone grise de comportement en dehors de cette définition qui est difficile à saisir, mais l’outil de blocage commun est un pas dans cette direction. Cependant, si un utilisateur enfreint les règles de la plateforme Twitch – pas seulement les règles locales de la chaîne – Twitch encourage la chaîne à le signaler.

« Nous pensons que cela aidera également les problèmes qui violent les directives de notre communauté », a déclaré Hoffman. « Nous espérons que cela sera également signalé à Twitch afin que nous puissions agir. Mais nous pensons que cela aidera le harcèlement ciblé que nous voyons affecter, en particulier, les communautés marginalisées. »

En novembre dernier, Twitch a ajouté une nouvelle méthode permettant aux administrateurs de Détection des utilisateurs essayant de contourner le blocage des canaux. L’outil, que la société appelle « détection d’évasion d’interdiction », utilise l’apprentissage automatique pour signaler automatiquement toute personne dans un canal susceptible d’échapper à une interdiction, permettant aux modérateurs de surveiller cet utilisateur et d’intercepter ses messages de discussion.

Les nouvelles fonctionnalités s’alignent sur la vision de sécurité « multi-couches » de Twitch sur sa plate-forme, où les créateurs diffusent en direct, parfois à des centaines de milliers d’utilisateurs, et les décisions de modération doivent être prises en temps réel à tous les niveaux.

« Nous pensons qu’il s’agit d’un ensemble d’outils puissants pour aider à dissuader de manière proactive le harcèlement basé sur le chat [and] L’une des choses que j’aime à ce sujet, c’est qu’il s’agit d’une autre combinaison d’humains et de technologie », a déclaré Hoffman. « En détectant le contournement de l’interdiction, nous utilisons l’apprentissage automatique pour aider à trouver les utilisateurs que nous pensons suspects. Avec cela, nous comptons sur les relations humaines de confiance, les créateurs et les communautés qu’ils ont déjà établis pour aider à fournir ce signal. »

Le défi de la gestion de contenu Twitch est une sorte de creuset, où des flux dangereux peuvent atteindre un public et causer des dommages lorsqu’ils apparaissent en temps réel. La plupart des autres plates-formes se concentrent sur la découverte de contenu post-événement – quelque chose est publié, scanné par des systèmes automatisés ou signalé, et ce contenu reste affiché, disparaît ou est signalé par un avertissement d’utilisateur ou de plate-forme quelconque.

L’entreprise fait évoluer son approche de la sécurité et de l’écoute de sa communauté, en réfléchissant aux besoins des communautés marginalisées comme les Noirs et les LGBTQ qui ont longtemps lutté pour fournir un espace sûr ou une présence visible sur la plateforme.

en mars , changer de couleur Il a appelé l’entreprise à intensifier ses efforts pour protéger les créateurs noirs avec une campagne appelée #TwitchDoBetter. La La communauté trans et LGBTQ au sens large Il a également fait pression sur l’entreprise pour qu’elle fasse plus pour mettre fin aux raids haineux – où les utilisateurs abusifs inondent la chaîne de l’opérateur de harcèlement ciblé. Tic Deux utilisateurs poursuivis en justice à la fin de l’année dernière Coordonner des campagnes de haine automatisées pour dissuader les futurs mauvais acteurs.

En fin de compte, des politiques intelligentes appliquées de la même manière et des améliorations de la boîte à outils dont disposent les courtiers sont susceptibles d’avoir plus d’impact au quotidien que les poursuites judiciaires, mais davantage de couches de défense ne peuvent pas faire de mal.

« Quant à un problème comme le harcèlement ciblé, il n’a été résolu nulle part sur Internet », a déclaré Hoffman. « Et tout comme dans le monde hors d’Internet, c’est un problème pour toujours – pas un problème qui a une solution individuelle.

« Ce que nous essayons de faire ici, c’est simplement de créer un ensemble d’outils vraiment puissants qui sont hautement personnalisables, puis de le mettre entre les mains des personnes qui connaissent le mieux leurs besoins, qui sont les créateurs et les modérateurs, en les laissant concevoir cela ensemble d’outils pour leurs propres besoins. »