Ce que Facebook, Twitter, Youtube et consorts nâont pas rĂ©ussi Ă faire, Charles Cohen, 22 ans, lâa rĂ©alisĂ©. Dans sa chambre de la maison parentale Ă Nice, le jeune homme Ă conçu Bodyguard, une application de modĂ©ration personnalisable et capable de contextualiser les propos. Une prouesse technologique qui lui vaut dâĂȘtre devenu, en lâespace de trois ans, un acteur majeur dans la lutte contre la haine en ligne.
InterrogĂ©, en janvier 2019 dans lâĂ©mission Quotidien sur les moyens dont il disposait pour se protĂ©ger contre les messages haineux en ligne, le chanteur Bilal Hassani rĂ©pondait :ââJâai une application qui sâappelle Bodyguard. Câest une appli qui fait du nettoyage⊠Je les remercie vraiment Ă©normĂ©ment parce quâils font un travail de filtrage et de modĂ©ration qui est vraiment super bonâ. Câest un coup de pub inattendu pour la petite application qui comptait 2500 utilisateurs les mois prĂ©cĂ©dents. Bodyguard passe alors Ă 27â000 aficionados, pour en comptabiliser trois ans plus tard, 70â000 dont la youtubeuse Romy, la Ministre dĂ©lĂ©guĂ©e auprĂšs du ministre de lâIntĂ©rieur, MarlĂšne Schiappa ou encore le dĂ©putĂ© Mounir Mahjoubi. En lâespace de trois ans, la start-up niçoise sâest imposĂ©e comme une interlocutrice incontournable sur la question de la haine en ligne. Elle a Ă©tĂ© consultĂ©e par la dĂ©putĂ©e Laetitia Avia, auteure de la proposition de loi visant Ă lutter contre la haine sur Internet, en mars 2019. Elle fait de la sensibilisation avec des associations comme e-enfance, et auprĂšs du CSA.
Professionnellement, jâai 45 ans. Personnellement, jâai lâimpression dâen avoir 15
Charles Cohen, créateur de Bodyguard
Les projecteurs se braquent tout naturellement sur celui Ă qui lâancien candidat Ă lâEurovision et une poignĂ©e de ministres doivent une certaine sĂ©rĂ©nitĂ© retrouvĂ©e : Charles Cohen, jeune niçois, alors ĂągĂ© de 22 ans. Benjamin dâune fratrie de trois enfants, il vit Ă Nice chez ses parents, directeurs dâune Ă©cole de danse. Son truc Ă lui, câest plutĂŽt la programmation. Charles se souvient quâĂ 10 ans, curieux de comprendre le fonctionnement de lâordinateur familial, il apprend les bases de lâalgorithmie. Ă 11 ans, il se plonge dans les 1200 pages de âprogrammer en Javaâ, restĂ© Ă ce jour le seul livre quâil a lu en entier. LâannĂ©e suivante, il conçoit son premier programme. Il permet dâĂ©teindre en un seul clic tous les ordinateurs de son collĂšge, le collĂšge Henri Matisse. A 15 ans, lorsque sa mĂšre lâautorise enfin Ă passer plus dâune heure par jour sur son ordinateur, il lance sa premiĂšre application mobile, qui rĂ©cupĂšre les donnĂ©es des sites des clubs de foot pour les afficher au format mobile. CĂŽtĂ© scolaritĂ©, câest moins excitant : âjâai Ă©tĂ© bon Ă©lĂšve jusquâĂ ce que je me rende compte que lâexpĂ©rience que je commençais Ă accumuler dans la programmation informatique valait beaucoup plus que nâimporte quel diplĂŽmeâ, dit-il. Il dĂ©croche un bac S de justesse puis fait un tour en prĂ©pa sans grand succĂšs. Il tente sa chance Ă la fac lorsquâun ami lui propose de devenir CTO (directeur des nouvelles technologies) de son calendrier social connectĂ©, TimeNote. Mais au bout de deux ans, il faut se rendre Ă lâĂ©vidence, câest un Ă©chec. âCâest la catastrophe. Pas dâĂ©tude, pas de diplĂŽme, je ne sais pas quoi faire de ma vieâŠââ JusquâĂ un jour de juin 2017. Le jeune homme tombe sur un article sur une fillette de 11 ans, poussĂ©e au suicide par le cyber harcĂšlement, dont elle Ă©tait la victime. Charles nâa jamais vĂ©cu pareille expĂ©rience âdu moins pas encore- mais pendant six mois, depuis sa chambre sobrement meublĂ©e dâun lit, dâune table et dâune chaise, il modĂšre plus dâun million de commentaires haineux. De quoi rendre fouâ? âNon, jâĂ©tais ravi de faire ça pour les utilisateurs !â, assure-t-il. Il dĂ©cortique ainsi les diffĂ©rentes Ă©tapes effectuĂ©es par un modĂ©rateur humain, pour ensuite les faire refaire Ă sa technologie. Dâabord, il ânettoieâ le commentaire. Peu importe la maniĂšre dont il est rĂ©digĂ© (faute de frappe, emoji, etc..), il en comprend le sens. Il repĂšre les mots problĂ©matiques. Il analyse le contexte et retrouve le destinataire de ces propos. Ensuite, suivant lâĂ©tat psychologique et le statut de la personne quâil doit protĂ©ger, il prend une dĂ©cision de supprimer, de bloquer, ou de laisser passer. Un concept qui fera dire Ă Matthieu Boutard, aujourdâhui directeur gĂ©nĂ©ral, au moment de leur rencontre en dĂ©cembre 2019 : âsi sa techno marche, câest un truc de gĂ©nieâ.
Encore du travail
MalgrĂ© les 20 % dâerreurs commises alors par lâappli â contre 2 % aujourdâhui â Charles lance son application. Câest la douche froide. âLes gens pensaient que câĂ©tait une arnaqueâ, explique-t-il, âparce que lâappli demande Ă pouvoir retirer des vidĂ©os, des messages⊠et Ă accĂ©der aux rĂ©seaux sociaux des utilisateursâ. Il persĂ©vĂšre. âJe passe trois mois Ă envoyer des emails Ă des youtubeurs de 11 ans, qui nâont quâune centaine dâabonnĂ©s pour les convaincre dâutiliser Bodyguard. Ceux qui se laissent tenter finissent par en parler gratuitement dans leurs vidĂ©os. Petit Ă petit, câest lâeffet boule de neigeâ. JusquâĂ Bilal Hassani. En 2019, il parvient alors, seul et sans business plan, Ă lever deux millions dâeuros auprĂšs de fonds dâinvestissement. âIls ont faits un bon pariâ, estime aujourdâhui le jeune homme de 25 ans. âJe nâai pas explosĂ© en vol, et jâai su mâentourer des meilleurs !â. Parmi eux, donc Matthieu, entrepreneur social dans lâĂąme, chargĂ© pendant sept ans des questions de haine en ligne et de la protection de lâenfance chez Google. âJe suis arrivĂ© Ă un moment oĂč jâĂ©tais devenu sceptique. Je comprenais que Google nâĂ©tait pas en train de rĂ©soudre ces problĂšmes. En rĂ©alitĂ©, on mettait de lâargent dessus, mais cela nâallait pas beaucoup plus loin. Je suis parti et jâai cherchĂ© un projet dans une thĂ©matique que je connaissais bienâ. A 33 ans, le calme Matthieu complĂšte bien le fougueux Charles. Ă lâun, le gĂ©nie. Ă lâautre, le business. Avec une envie commune, celle dâemmener Bodyguard hors de nos frontiĂšres, de traiter le texte, la vidĂ©o et lâaudio en vingt langues â au lieu des six aujourdâhui, pour les particuliers comme pour les entreprises.

Une dĂ©termination et des projets qui leur valent des concerts de louanges. Ă commencer par la dĂ©putĂ©e Laetitia Avia. âSon entreprise et lui-mĂȘme sont des pĂ©pites françaisesâ, affirme lâavocate, âil a une vraie approche humaine dans ce quâil faitâ. Quant Ă Charles, ce succĂšs continue de le surprendre. âProfessionnellement, jâai lâimpression dâavoir 45 ans, personnellement et mentalement, jâai lâimpression dâen avoir quinzeâ, admet-il. âLa journĂ©e je gĂšre une entreprise, le soir je rentre chez mes parents, oĂč je vis encoreâ. Un endroit oĂč il ne doit pas mettre souvent les pieds lui qui assure travailler seize heures par jour.
Bodyguard, de par son efficacitĂ© contre un problĂšme qui a pris de surprise beaucoup des acteurs du web, a fait Ă©merger dâautres solutions parallĂšle. Timidement. Il y a la voie lĂ©gislative : la loi Schiappa de mai 2018 permet de poursuivre tout participant Ă un raid de cyber harcĂšlement, mĂȘme sâil nâa produit quâun seul message. Un pas en avant suivi dâun pas en arriĂšre. En janvier dernier, le Conseil constitutionnel censurait la proposition de Laetitia Avia qui exhorte les plateformes Ă âretirer promptementâ un commentaire dĂ©lictueux. Consolation tout de mĂȘme : on voit de plus en plus de cyber harceleurs sur les bancs des accusĂ©s comme le youtubeur Marvel Fitness condamnĂ© en septembre 2020 Ă deux ans de prison, dont un ferme, et 10â000 euros dâamende pour âcyber harcĂšlement de meuteâ. Une nouvelle notion dans le droit français qui prend ici en compte son rĂŽle dâinstigateur dâun raid numĂ©rique.
Le maching learning prend généralement en considération des mots clés, mais pas le contexte ou à qui ils sont destinés
Matthieu Boutard, directeur général de Bodyguard
De petites gouttes pour Ă©teindre un grand brasier. La technologie, estime Matthieu Boutard, a encore globalement un train de retard sur la question : âle plus souvent, les technologies nâont pas Ă©tĂ© crĂ©es pour comprendre les attaques personnellesâ, justifie-t-il âLe machine learning prend en considĂ©ration des mots clĂ©s, mais pas le contexte ou Ă qui ils sont destinĂ©s, contrairement Ă ce que fait Bodyguardâ. Le jeune homme reste optimiste : la concurrence va bien finir par dĂ©barquer. âJâespĂšre quâil y aura de la concurrence, câest un marchĂ© qui reprĂ©sente onze milliard de dollars annuels et plus il y aura dâacteurs, plus le problĂšme de la modĂ©ration sera mis en lumiĂšreâ. âDe maniĂšre gĂ©nĂ©rale, il serait bon dâadopter une politique plus volontariste au sujet de la lutte contre toutes les discriminationsâ, estime AnaĂŻs Condomines, victime de cyber harcĂšlement et auteure de CyberharcĂšlement, bien plus quâun mal virtuel : âcâest aux pouvoirs publics dâĂ©duquer tout Ă chacun Ă avoir un comportement civilisĂ© en ligneâ, affirme-t-elle. Autre axe envisagĂ© par Laetitia Avia : convaincre les plateformes de rĂ©server une partie de leurs espaces publicitaires Ă des messages de sensibilisation. La concertation devrait ĂȘtre longue. En revanche, sa proposition de dĂ©ployer des jeunes en services civiques au sein dâassociations, pour rĂ©pondre aux haters va se concrĂ©tiser avant la fin de lâannĂ©e. âIl y a certaines personnes, sujettes au complotisme discriminatoire, habituĂ©es aux raccourcis, qui manquent de culturesâ, analyse la dĂ©putĂ©e, âun dialogue est possible avec eux. Quand on leur rĂ©pond, elles sont dĂ©contenancĂ©es, car elles rĂ©alisent quâil y a des gens de lâautre cĂŽtĂ© de lâĂ©cranâ.
Autant de solutions qui pourraient bon an mal an parvenir Ă pacifier les rĂ©seaux sociaux Ă en croire Romain Badouard, maĂźtre de confĂ©rences en sciences de lâinformation et de la communication Ă Paris 2 PanthĂ©on-Assas, auteur de Les nouvelles lois du web : âil y a la pression du marchĂ© avec les annonceurs, qui menacent de ne plus diffuser de publicitĂ© si les plateformes ne modĂšrent pas davantage, la pression du pouvoir lĂ©gislatif, celle des utilisateurs eux-mĂȘmes qui exigent des environnements plus pacifiĂ©s avec des mouvements comme âdelete facebookâ, ou sur Twitter oĂč des utilisateurs annoncent quitter le rĂ©seau socialâ, cite-t-il. MalgrĂ© tout, Bodyguard nâest pas prĂȘt Ă mettre la clĂ© sous la porte. âIl y a encore du travailâ, estime Charles Cohen, heureux dit-il de faire partie dâune âentreprise avec un impact social, et une volontĂ© de changer quelque chose dans le monde, mĂȘme si ce nâest quâun grain de sableâ.