Simplifiez-vous l'innovation

#astuce
catégories

#astuce
partage

#astuce
liens internes

© draganab via Getty image-carre

Une app pour vous protéger du cyber harcèlement

Philothée
Philothée
1 avril 2019

Face à l’incapacité de Twitter et YouTube à endiguer le fléau du cyber harcèlement, une app française joue les “gardes du corps” contre les messages haineux.

Début mars 2019, Twitter a confirmé le lancement prochain d’une nouvelle fonctionnalité censée lutter contre les contenus insultants ou haineux : à l’avenir, les utilisateurs pourront choisir de cacher les réponses toxiques, “afin que les autres utilisateurs ne voient pas la réponse insultante quand ils interagissent avec le tweet initial”, explique Wired. Dans une série de tweets, Michelle Yasmeen Haq, senior product manager chez Twitter, est revenue sur les motivations de la plateforme : “On voit déjà des gens essayer d’assainir leurs conversations en utilisant les outils ‘bloquer’, ‘mute’ et ‘signaler’, mais ces outils ne règlent pas toujours le problème. ‘Bloquer’ et ‘mute’ changent uniquement l’expérience de l’utilisateur, et ‘signaler’ ne fonctionne que pour le contenu qui contrevient à nos règles d’utilisation.” En clair, puisque Twitter ne modère absolument pas le contenu qui est posté sur sa plateforme, il veut donner à ses utilisateurs la possibilité de le faire eux-mêmes.

Le moins qu’on puisse dire, c’est que la fonctionnalité ne suscite guère d’enthousiasme, comme le montre un sondage fait par Wired. Certains redoutent notamment que des personnalités publiques utilisent cette nouvelle fonction ‘hide’ pour censurer les critiques qui ne leur plaisent pas (même si les messages cachés seront toujours accessibles publiquement, via une option dans un menu). D’autres estiment que cela ne fera que renforcer l’effet “bulle” ou “filtre” qui règne déjà sur les réseaux sociaux, où l’on ne voit que du contenu aligné avec ce qu’on pense. Et même si certains, comme la développeuse Jane Manchun Wong, qui a découvert la prochaine mise à jour, espèrent y gagner un peu de tranquillité d’esprit, cela ne résoudra probablement pas l’incapacité maintenant établie de Twitter à empêcher les harceleurs d’agir.

Des internautes livrés à eux-mêmes

Car c’est là le cœur du problème : le cyber-harcèlement est puni par la loi dans de nombreux pays, dont la France et les États-Unis, mais il peut en pratique être compliqué de faire appliquer ces dispositions. Pour un procès dans lequel des cyberharceleurs se voient condamnés, combien ne sont jamais inquiétés parce qu’ils ont participé à une meute et n’ont pas, seuls, harcelé au sens où l’entend la loi ? Et comment se protéger et porter plainte sans le concours des plateformes sur lesquelles ce harcèlement a lieu ? En février dernier, Mounir Mahjoubi, secrétaire d’État chargé du numérique, a présenté un plan d’action contre les contenus haineux en ligne, qui associe très étroitement les réseaux sociaux à cet effort.

Mais en attendant, les internautes sont un peu livrés à eux-mêmes. Et les parents d’enfants et adolescents ne se voient souvent pas proposer d’autres solutions que des apps qui surveillent ce que poste et reçoit leur progéniture : c’est peut-être plus safe, mais pour le respect de l’autonomie de l’enfant, on repassera. C’est là qu’entre en scène un outil conçu par un Niçois de 22 ans qui, à bien des égards, répond aux lacunes des plateformes en ligne (Twitter et YouTube pour le moment, mais le jeune entrepreneur assure être en train de travailler sur Instagram et Twitch).

Screenshot_2019-03-13 Bodyguard, mettez fin aux commentaires haineux sur YouTube et Twitter

Un garde du corps virtuel et intelligent

L’application s’appelle Bodyguard, et elle utilise l’intelligence artificielle pour modérer les commentaires et tweets à la place de l’utilisateur. Ce “garde du corps virtuel” et très intelligent détecte les messages haineux (même ceux truffés de fautes d’orthographe, d’émojis ou d’erreurs intentionnelles), qu’il est capable de distinguer des blagues : sur YouTube, il les supprime directement, et sur Twitter, il bloque l’émetteur du message. Bodyguard vise exclusivement les propos “pénalement répréhensibles”, assure Charles Cohen, son créateur, c’est-à-dire les injures racistes, sexistes, homophobes, mais aussi les incitations au suicide ou au viol, les appels au meurtre et autres joyeusetés auxquelles les producteurs de contenu sont exposés tous les jours sur Internet. Charles Cohen, qui a entraîné lui-même son IA en la nourrissant de plus de 500 000 injures, se targue d’une marge d’erreur de 2%.

Preuve de son succès, l’application a déjà plus de 22 000 utilisateurs sans avoir mené aucune campagne de communication. L’un de ses “clients” (Bodyguard est gratuite) le plus connu, c’est le chanteur Bilal Hassani, représentant de la France pour l’Eurovision 2019 et victime d’une campagne de cyber-harcèlement d’une telle violence qu’il a porté plainte début 2019.

Libérer la parole

Certes, Bodyguard ne règle pas le problème de fond, qui est l’envoi de messages haineux en lui-même. Pour venir à bout de ce fléau-là, il faudra faire des efforts de sensibilisation auprès des enfants (on peut par exemple se référer à la publication “Tools and Games against Cyberbullying“, produite par des associations tchèque, slovaque, estonienne et allemande et financées par la Commission européenne) et mieux appliquer la loi pour les adultes (le cyber-harcèlement prospère aussi grâce à un fort sentiment d’impunité sur Internet). Mais Bodyguard a l’intelligence de se concentrer sur le bien-être et la santé mentale des utilisateurs, qui peuvent désormais tweeter et poster leurs vidéos sans craindre de recevoir des torrents de haine. “Je considère qu’harceler une personne en se cachant derrière son écran, ce n’est de pas la liberté d’expression, répond Charles Cohen à BFM TV qui l’interroge sur un risque de censure. Au contraire, je libère la parole de ceux qui se savent protégés.”

Car le harcèlement, ou sa menace, est un outil puissant pour étouffer la créativité et la parole, surtout de minorités. C’est ce qu’a montré l’affaire de la Ligue du LOL, dont les membres ont conduit certaines de leurs victimes à quitter Twitter ou à cesser de s’exprimer sur certains sujets, comme la journaliste Léa Lejeune qui a raconté avoir arrêté de twitter sur le féminisme pour se concentrer sur des sujets économiques plus “neutres”. Après son harcèlement par les membres du forum 18-25 de jeuxvideo.com (dont plusieurs ont ensuite été condamnés), la journaliste Nadia Daam s’est elle durablement retirée de Twitter. Évidemment, que leurs cibles les lisent ou non, les auteurs de messages haineux doivent être plus efficacement punis par la loi. Mais pour la tranquillité d’esprit de ceux qui veulent continuer d’exister sur Internet, un garde du corps virtuel est peut-être une bonne solution.


Philothée
Ecrit par
Philothée Gaymard
Partager
Commentaires (0)
S’inscrire
à la newsletter