29.04.22

🐣 Comment lutter contre le harcùlement en ligne ? Comme ça.

Visuel 🐣 Comment lutter contre le harcùlement en ligne ? Comme ça.

Ce que Facebook, Twitter, Youtube et consorts n’ont pas rĂ©ussi Ă  faire, Charles Cohen, 22 ans, l’a rĂ©alisĂ©. Dans sa chambre de la maison parentale Ă  Nice, le jeune homme Ă  conçu Bodyguard, une application de modĂ©ration personnalisable et capable de contextualiser les propos. Une prouesse technologique qui lui vaut d’ĂȘtre devenu, en l’espace de trois ans, un acteur majeur dans la lutte contre la haine en ligne.

InterrogĂ©, en janvier 2019 dans l’émission Quotidien sur les moyens dont il disposait pour se protĂ©ger contre les messages haineux en ligne, le chanteur Bilal Hassani rĂ©pondait : “J’ai une application qui s’appelle Bodyguard. C’est une appli qui fait du nettoyage
 Je les remercie vraiment Ă©normĂ©ment parce qu’ils font un travail de filtrage et de modĂ©ration qui est vraiment super bon”. C’est un coup de pub inattendu pour la petite application qui comptait 2500 utilisateurs les mois prĂ©cĂ©dents. Bodyguard passe alors Ă  27 000 aficionados, pour en comptabiliser trois ans plus tard, 70 000 dont la youtubeuse Romy, la Ministre dĂ©lĂ©guĂ©e auprĂšs du ministre de l’IntĂ©rieur, MarlĂšne Schiappa ou encore le dĂ©putĂ© Mounir Mahjoubi. En l’espace de trois ans, la start-up niçoise s’est imposĂ©e comme une interlocutrice incontournable sur la question de la haine en ligne. Elle a Ă©tĂ© consultĂ©e par la dĂ©putĂ©e Laetitia Avia, auteure de la proposition de loi visant Ă  lutter contre la haine sur Internet, en mars 2019. Elle fait de la sensibilisation avec des associations comme e-enfance, et auprĂšs du CSA.

Professionnellement, j’ai 45 ans. Personnellement, j’ai l’impression d’en avoir 15

Charles Cohen, créateur de Bodyguard

Les projecteurs se braquent tout naturellement sur celui Ă  qui l’ancien candidat Ă  l’Eurovision et une poignĂ©e de ministres doivent une certaine sĂ©rĂ©nitĂ© retrouvĂ©e : Charles Cohen, jeune niçois, alors ĂągĂ© de 22 ans. Benjamin d’une fratrie de trois enfants, il vit Ă  Nice chez ses parents, directeurs d’une Ă©cole de danse. Son truc Ă  lui, c’est plutĂŽt la programmation. Charles se souvient qu’à 10 ans, curieux de comprendre le fonctionnement de l’ordinateur familial, il apprend les bases de l’algorithmie. À 11 ans, il se plonge dans les 1200 pages de “programmer en Java”, restĂ© Ă  ce jour le seul livre qu’il a lu en entier. L’annĂ©e suivante, il conçoit son premier programme. Il permet d’éteindre en un seul clic tous les ordinateurs de son collĂšge, le collĂšge Henri Matisse. A 15 ans, lorsque sa mĂšre l’autorise enfin Ă  passer plus d’une heure par jour sur son ordinateur, il lance sa premiĂšre application mobile, qui rĂ©cupĂšre les donnĂ©es des sites des clubs de foot pour les afficher au format mobile. CĂŽtĂ© scolaritĂ©, c’est moins excitant : “j’ai Ă©tĂ© bon Ă©lĂšve jusqu’à ce que je me rende compte que l’expĂ©rience que je commençais Ă  accumuler dans la programmation informatique valait beaucoup plus que n’importe quel diplĂŽme”, dit-il. Il dĂ©croche un bac S de justesse puis fait un tour en prĂ©pa sans grand succĂšs. Il tente sa chance Ă  la fac lorsqu’un ami lui propose de devenir CTO (directeur des nouvelles technologies) de son calendrier social connectĂ©, TimeNote. Mais au bout de deux ans, il faut se rendre Ă  l’évidence, c’est un Ă©chec. “C’est la catastrophe. Pas d’étude, pas de diplĂŽme, je ne sais pas quoi faire de ma vie
 ”  Jusqu’à un jour de juin 2017. Le jeune homme tombe sur un article sur une fillette de 11 ans, poussĂ©e au suicide par le cyber harcĂšlement, dont elle Ă©tait la victime. Charles n’a jamais vĂ©cu pareille expĂ©rience –du moins pas encore- mais pendant six mois, depuis sa chambre sobrement meublĂ©e d’un lit, d’une table et d’une chaise, il modĂšre plus d’un million de commentaires haineux. De quoi rendre fou ? “Non, j’étais ravi de faire ça pour les utilisateurs !”, assure-t-il. Il dĂ©cortique ainsi les diffĂ©rentes Ă©tapes effectuĂ©es par un modĂ©rateur humain, pour ensuite les faire refaire Ă  sa technologie. D’abord, il “nettoie” le commentaire. Peu importe la maniĂšre dont il est rĂ©digĂ© (faute de frappe, emoji, etc..), il en comprend le sens. Il repĂšre les mots problĂ©matiques. Il analyse le contexte et retrouve le destinataire de ces propos. Ensuite, suivant l’état psychologique et le statut de la personne qu’il doit protĂ©ger, il prend une dĂ©cision de supprimer, de bloquer, ou de laisser passer. Un concept qui fera dire Ă  Matthieu Boutard, aujourd’hui directeur gĂ©nĂ©ral, au moment de leur rencontre en dĂ©cembre 2019 : “si sa techno marche, c’est un truc de gĂ©nie”. 

Encore du travail

MalgrĂ© les 20 % d’erreurs commises alors par l’appli — contre 2 % aujourd’hui — Charles lance son application. C’est la douche froide. “Les gens pensaient que c’était une arnaque”, explique-t-il, “parce que l’appli demande Ă  pouvoir retirer des vidĂ©os, des messages
 et Ă  accĂ©der aux rĂ©seaux sociaux des utilisateurs”. Il persĂ©vĂšre. “Je passe trois mois Ă  envoyer des emails Ă  des youtubeurs de 11 ans, qui n’ont qu’une centaine d’abonnĂ©s pour les convaincre d’utiliser Bodyguard. Ceux qui se laissent tenter finissent par en parler gratuitement dans leurs vidĂ©os. Petit Ă  petit, c’est l’effet boule de neige”. Jusqu’à Bilal Hassani. En 2019, il parvient alors, seul et sans business plan, Ă  lever deux millions d’euros auprĂšs de fonds d’investissement. “Ils ont faits un bon pari”, estime aujourd’hui le jeune homme de 25 ans. “Je n’ai pas explosĂ© en vol, et j’ai su m’entourer des meilleurs !”. Parmi eux, donc Matthieu, entrepreneur social dans l’ñme, chargĂ© pendant sept ans des questions de haine en ligne et de la protection de l’enfance chez Google. “Je suis arrivĂ© Ă  un moment oĂč j’étais devenu sceptique. Je comprenais que Google n’était pas en train de rĂ©soudre ces problĂšmes. En rĂ©alitĂ©, on mettait de l’argent dessus, mais cela n’allait pas beaucoup plus loin. Je suis parti et j’ai cherchĂ© un projet dans une thĂ©matique que je connaissais bien”. A 33 ans, le calme Matthieu complĂšte bien le fougueux Charles. À l’un, le gĂ©nie. À l’autre, le business. Avec une envie commune, celle d’emmener Bodyguard hors de nos frontiĂšres, de traiter le texte, la vidĂ©o et l’audio en vingt langues — au lieu des six aujourd’hui, pour les particuliers comme pour les entreprises.  

Une dĂ©termination et des projets qui leur valent des concerts de louanges. À commencer par la dĂ©putĂ©e Laetitia Avia. “Son entreprise et lui-mĂȘme sont des pĂ©pites françaises”, affirme l’avocate, “il a une vraie approche humaine dans ce qu’il fait”. Quant Ă  Charles, ce succĂšs continue de le surprendre. “Professionnellement, j’ai l’impression d’avoir 45 ans, personnellement et mentalement, j’ai l’impression d’en avoir quinze”, admet-il. “La journĂ©e je gĂšre une entreprise, le soir je rentre chez mes parents, oĂč je vis encore”. Un endroit oĂč il ne doit pas mettre souvent les pieds lui qui assure travailler seize heures par jour. 

Bodyguard, de par son efficacitĂ© contre un problĂšme qui a pris de surprise beaucoup des acteurs du web, a fait Ă©merger d’autres solutions parallĂšle. Timidement. Il y a la voie lĂ©gislative : la loi Schiappa de mai 2018 permet de poursuivre tout participant Ă  un raid de cyber harcĂšlement, mĂȘme s’il n’a produit qu’un seul message. Un pas en avant suivi d’un pas en arriĂšre. En janvier dernier, le Conseil constitutionnel censurait la proposition de Laetitia Avia qui exhorte les plateformes Ă  “retirer promptement” un commentaire dĂ©lictueux. Consolation tout de mĂȘme : on voit de plus en plus de cyber harceleurs sur les bancs des accusĂ©s comme le youtubeur Marvel Fitness condamnĂ© en septembre 2020 Ă  deux ans de prison, dont un ferme, et 10 000 euros d’amende pour “cyber harcĂšlement de meute”. Une nouvelle notion dans le droit français qui prend ici en compte son rĂŽle d’instigateur d’un raid numĂ©rique. 

Le maching learning prend généralement en considération des mots clés, mais pas le contexte ou à qui ils sont destinés

Matthieu Boutard, directeur général de Bodyguard

De petites gouttes pour Ă©teindre un grand brasier. La technologie, estime Matthieu Boutard, a encore globalement un train de retard sur la question : “le plus souvent, les technologies n’ont pas Ă©tĂ© crĂ©es pour comprendre les attaques personnelles”, justifie-t-il “Le machine learning prend en considĂ©ration des mots clĂ©s, mais pas le contexte ou Ă  qui ils sont destinĂ©s, contrairement Ă  ce que fait Bodyguard”. Le jeune homme reste optimiste : la concurrence va bien finir par dĂ©barquer. “J’espĂšre qu’il y aura de la concurrence, c’est un marchĂ© qui reprĂ©sente onze milliard de dollars annuels et plus il y aura d’acteurs, plus le problĂšme de la modĂ©ration sera mis en lumiĂšre”. “De maniĂšre gĂ©nĂ©rale, il serait bon d’adopter une politique plus volontariste au sujet de la lutte contre toutes les discriminations”, estime AnaĂŻs Condomines, victime de cyber harcĂšlement et auteure de CyberharcĂšlement, bien plus qu’un mal virtuel : “c’est aux pouvoirs publics d’éduquer tout Ă  chacun Ă  avoir un comportement civilisĂ© en ligne”, affirme-t-elle. Autre axe envisagĂ© par Laetitia Avia : convaincre les plateformes de rĂ©server une partie de leurs espaces publicitaires Ă  des messages de sensibilisation. La concertation devrait ĂȘtre longue. En revanche, sa proposition de dĂ©ployer des jeunes en services civiques au sein d’associations, pour rĂ©pondre aux haters va se concrĂ©tiser avant la fin de l’annĂ©e. “Il y a certaines personnes, sujettes au complotisme discriminatoire, habituĂ©es aux raccourcis, qui manquent de cultures”, analyse la dĂ©putĂ©e, “un dialogue est possible avec eux. Quand on leur rĂ©pond, elles sont dĂ©contenancĂ©es, car elles rĂ©alisent qu’il y a des gens de l’autre cĂŽtĂ© de l’écran”. 

Autant de solutions qui pourraient bon an mal an parvenir Ă  pacifier les rĂ©seaux sociaux Ă  en croire Romain Badouard, maĂźtre de confĂ©rences en sciences de l’information et de la communication Ă  Paris 2 PanthĂ©on-Assas, auteur de Les nouvelles lois du web : “il y a la pression du marchĂ© avec les annonceurs, qui menacent de ne plus diffuser de publicitĂ© si les plateformes ne modĂšrent pas davantage, la pression du pouvoir lĂ©gislatif, celle des utilisateurs eux-mĂȘmes qui exigent des environnements plus pacifiĂ©s avec des mouvements comme “delete facebook”, ou sur Twitter oĂč des utilisateurs annoncent quitter le rĂ©seau social”, cite-t-il. MalgrĂ© tout, Bodyguard n’est pas prĂȘt Ă  mettre la clĂ© sous la porte. “Il y a encore du travail”, estime Charles Cohen, heureux dit-il de faire partie d’une “entreprise avec un impact social, et une volontĂ© de changer quelque chose dans le monde, mĂȘme si ce n’est qu’un grain de sable”. 

Article issu du n°5 du magazine So good, sorti en kiosque le 13 juillet 2021.
Texte : CĂ©cile Fournier. Illustrations : Émilie Seto pour So good.