🐣 Comment lutter contre le harcèlement en ligne ? Comme ça.

Ce que Facebook, Twitter, Youtube et consorts n’ont pas réussi à faire, Charles Cohen, 22 ans, l’a réalisé. Dans sa chambre de la maison parentale à Nice, le jeune homme à conçu Bodyguard, une application de modération personnalisable et capable de contextualiser les propos. Une prouesse technologique qui lui vaut d’être devenu, en l’espace de trois ans, un acteur majeur dans la lutte contre la haine en ligne.

Interrogé, en janvier 2019 dans l’émission Quotidien sur les moyens dont il disposait pour se protéger contre les messages haineux en ligne, le chanteur Bilal Hassani répondait : “J’ai une application qui s’appelle Bodyguard. C’est une appli qui fait du nettoyage… Je les remercie vraiment énormément parce qu’ils font un travail de filtrage et de modération qui est vraiment super bon”. C’est un coup de pub inattendu pour la petite application qui comptait 2500 utilisateurs les mois précédents. Bodyguard passe alors à 27 000 aficionados, pour en comptabiliser trois ans plus tard, 70 000 dont la youtubeuse Romy, la Ministre déléguée auprès du ministre de l’Intérieur, Marlène Schiappa ou encore le député Mounir Mahjoubi. En l’espace de trois ans, la start-up niçoise s’est imposée comme une interlocutrice incontournable sur la question de la haine en ligne. Elle a été consultée par la députée Laetitia Avia, auteure de la proposition de loi visant à lutter contre la haine sur Internet, en mars 2019. Elle fait de la sensibilisation avec des associations comme e-enfance, et auprès du CSA.

Professionnellement, j’ai 45 ans. Personnellement, j’ai l’impression d’en avoir 15

Charles Cohen, créateur de Bodyguard

Les projecteurs se braquent tout naturellement sur celui à qui l’ancien candidat à l’Eurovision et une poignée de ministres doivent une certaine sérénité retrouvée : Charles Cohen, jeune niçois, alors âgé de 22 ans. Benjamin d’une fratrie de trois enfants, il vit à Nice chez ses parents, directeurs d’une école de danse. Son truc à lui, c’est plutôt la programmation. Charles se souvient qu’à 10 ans, curieux de comprendre le fonctionnement de l’ordinateur familial, il apprend les bases de l’algorithmie. À 11 ans, il se plonge dans les 1200 pages de “programmer en Java”, resté à ce jour le seul livre qu’il a lu en entier. L’année suivante, il conçoit son premier programme. Il permet d’éteindre en un seul clic tous les ordinateurs de son collège, le collège Henri Matisse. A 15 ans, lorsque sa mère l’autorise enfin à passer plus d’une heure par jour sur son ordinateur, il lance sa première application mobile, qui récupère les données des sites des clubs de foot pour les afficher au format mobile. Côté scolarité, c’est moins excitant : “j’ai été bon élève jusqu’à ce que je me rende compte que l’expérience que je commençais à accumuler dans la programmation informatique valait beaucoup plus que n’importe quel diplôme”, dit-il. Il décroche un bac S de justesse puis fait un tour en prépa sans grand succès. Il tente sa chance à la fac lorsqu’un ami lui propose de devenir CTO (directeur des nouvelles technologies) de son calendrier social connecté, TimeNote. Mais au bout de deux ans, il faut se rendre à l’évidence, c’est un échec. “C’est la catastrophe. Pas d’étude, pas de diplôme, je ne sais pas quoi faire de ma vie… ”  Jusqu’à un jour de juin 2017. Le jeune homme tombe sur un article sur une fillette de 11 ans, poussée au suicide par le cyber harcèlement, dont elle était la victime. Charles n’a jamais vécu pareille expérience –du moins pas encore- mais pendant six mois, depuis sa chambre sobrement meublée d’un lit, d’une table et d’une chaise, il modère plus d’un million de commentaires haineux. De quoi rendre fou ? “Non, j’étais ravi de faire ça pour les utilisateurs !”, assure-t-il. Il décortique ainsi les différentes étapes effectuées par un modérateur humain, pour ensuite les faire refaire à sa technologie. D’abord, il “nettoie” le commentaire. Peu importe la manière dont il est rédigé (faute de frappe, emoji, etc..), il en comprend le sens. Il repère les mots problématiques. Il analyse le contexte et retrouve le destinataire de ces propos. Ensuite, suivant l’état psychologique et le statut de la personne qu’il doit protéger, il prend une décision de supprimer, de bloquer, ou de laisser passer. Un concept qui fera dire à Matthieu Boutard, aujourd’hui directeur général, au moment de leur rencontre en décembre 2019 : “si sa techno marche, c’est un truc de génie”. 

Encore du travail

Malgré les 20 % d’erreurs commises alors par l’appli — contre 2 % aujourd’hui — Charles lance son application. C’est la douche froide. “Les gens pensaient que c’était une arnaque”, explique-t-il, “parce que l’appli demande à pouvoir retirer des vidéos, des messages… et à accéder aux réseaux sociaux des utilisateurs”. Il persévère. “Je passe trois mois à envoyer des emails à des youtubeurs de 11 ans, qui n’ont qu’une centaine d’abonnés pour les convaincre d’utiliser Bodyguard. Ceux qui se laissent tenter finissent par en parler gratuitement dans leurs vidéos. Petit à petit, c’est l’effet boule de neige”. Jusqu’à Bilal Hassani. En 2019, il parvient alors, seul et sans business plan, à lever deux millions d’euros auprès de fonds d’investissement. “Ils ont faits un bon pari”, estime aujourd’hui le jeune homme de 25 ans. “Je n’ai pas explosé en vol, et j’ai su m’entourer des meilleurs !”. Parmi eux, donc Matthieu, entrepreneur social dans l’âme, chargé pendant sept ans des questions de haine en ligne et de la protection de l’enfance chez Google. “Je suis arrivé à un moment où j’étais devenu sceptique. Je comprenais que Google n’était pas en train de résoudre ces problèmes. En réalité, on mettait de l’argent dessus, mais cela n’allait pas beaucoup plus loin. Je suis parti et j’ai cherché un projet dans une thématique que je connaissais bien”. A 33 ans, le calme Matthieu complète bien le fougueux Charles. À l’un, le génie. À l’autre, le business. Avec une envie commune, celle d’emmener Bodyguard hors de nos frontières, de traiter le texte, la vidéo et l’audio en vingt langues — au lieu des six aujourd’hui, pour les particuliers comme pour les entreprises.  

Une détermination et des projets qui leur valent des concerts de louanges. À commencer par la députée Laetitia Avia. “Son entreprise et lui-même sont des pépites françaises”, affirme l’avocate, “il a une vraie approche humaine dans ce qu’il fait”. Quant à Charles, ce succès continue de le surprendre. “Professionnellement, j’ai l’impression d’avoir 45 ans, personnellement et mentalement, j’ai l’impression d’en avoir quinze”, admet-il. “La journée je gère une entreprise, le soir je rentre chez mes parents, où je vis encore”. Un endroit où il ne doit pas mettre souvent les pieds lui qui assure travailler seize heures par jour. 

Bodyguard, de par son efficacité contre un problème qui a pris de surprise beaucoup des acteurs du web, a fait émerger d’autres solutions parallèle. Timidement. Il y a la voie législative : la loi Schiappa de mai 2018 permet de poursuivre tout participant à un raid de cyber harcèlement, même s’il n’a produit qu’un seul message. Un pas en avant suivi d’un pas en arrière. En janvier dernier, le Conseil constitutionnel censurait la proposition de Laetitia Avia qui exhorte les plateformes à “retirer promptement” un commentaire délictueux. Consolation tout de même : on voit de plus en plus de cyber harceleurs sur les bancs des accusés comme le youtubeur Marvel Fitness condamné en septembre 2020 à deux ans de prison, dont un ferme, et 10 000 euros d’amende pour “cyber harcèlement de meute”. Une nouvelle notion dans le droit français qui prend ici en compte son rôle d’instigateur d’un raid numérique. 

Le maching learning prend généralement en considération des mots clés, mais pas le contexte ou à qui ils sont destinés

Matthieu Boutard, directeur général de Bodyguard

De petites gouttes pour éteindre un grand brasier. La technologie, estime Matthieu Boutard, a encore globalement un train de retard sur la question : “le plus souvent, les technologies n’ont pas été crées pour comprendre les attaques personnelles”, justifie-t-il “Le machine learning prend en considération des mots clés, mais pas le contexte ou à qui ils sont destinés, contrairement à ce que fait Bodyguard”. Le jeune homme reste optimiste : la concurrence va bien finir par débarquer. “J’espère qu’il y aura de la concurrence, c’est un marché qui représente onze milliard de dollars annuels et plus il y aura d’acteurs, plus le problème de la modération sera mis en lumière”. “De manière générale, il serait bon d’adopter une politique plus volontariste au sujet de la lutte contre toutes les discriminations”, estime Anaïs Condomines, victime de cyber harcèlement et auteure de Cyberharcèlement, bien plus qu’un mal virtuel : “c’est aux pouvoirs publics d’éduquer tout à chacun à avoir un comportement civilisé en ligne”, affirme-t-elle. Autre axe envisagé par Laetitia Avia : convaincre les plateformes de réserver une partie de leurs espaces publicitaires à des messages de sensibilisation. La concertation devrait être longue. En revanche, sa proposition de déployer des jeunes en services civiques au sein d’associations, pour répondre aux haters va se concrétiser avant la fin de l’année. “Il y a certaines personnes, sujettes au complotisme discriminatoire, habituées aux raccourcis, qui manquent de cultures”, analyse la députée, “un dialogue est possible avec eux. Quand on leur répond, elles sont décontenancées, car elles réalisent qu’il y a des gens de l’autre côté de l’écran”. 

Autant de solutions qui pourraient bon an mal an parvenir à pacifier les réseaux sociaux à en croire Romain Badouard, maître de conférences en sciences de l’information et de la communication à Paris 2 Panthéon-Assas, auteur de Les nouvelles lois du web : “il y a la pression du marché avec les annonceurs, qui menacent de ne plus diffuser de publicité si les plateformes ne modèrent pas davantage, la pression du pouvoir législatif, celle des utilisateurs eux-mêmes qui exigent des environnements plus pacifiés avec des mouvements comme “delete facebook”, ou sur Twitter où des utilisateurs annoncent quitter le réseau social”, cite-t-il. Malgré tout, Bodyguard n’est pas prêt à mettre la clé sous la porte. “Il y a encore du travail”, estime Charles Cohen, heureux dit-il de faire partie d’une “entreprise avec un impact social, et une volonté de changer quelque chose dans le monde, même si ce n’est qu’un grain de sable”. 

Article issu du n°5 du magazine So good, sorti en kiosque le 13 juillet 2021.

Texte : Cécile Fournier. Illustrations : Émilie Seto pour So good.