iutbethune.org
Image default
Enseignement

comment réguler les algorithmes de la haine ?

Notez cet article


L’enquête sur l’assassinat du professeur Samuel Paty, perpétré ce vendredi 16 octobre à Conflans-Sainte-Honorine (Yvelines), indique que la polémique survenue après l’un de ses cours sur la liberté d’expression a été intentionnellement faussée, puis relayée sur les réseaux sociaux, devenus de véritables tribunaux virtuels. Un hommage national lui sera rendu ce mercredi 21 octobre.

Reste cette question : le régulateur a-t-il les moyens d’agir face aux réseaux sociaux ?

Un lynchage public

Abdouallakh Anzorov, auteur de l’attaque de Conflans abattu par les forces de l’ordre peu après le meurtre, n’était pas un élève du professeur Paty ; sur le réseau Twitter, il communiquait sous le profil @Tchétchène_270.

Son message de revendication publié sur ce réseau social, accompagné d’une photo de Samuel Paty décapité, a été supprimé puis son compte désactivé. Situation troublante, son profil Twitter avait fait l’objet de plusieurs signalements depuis l’été : un mois avant le crime sur la plate-forme Pharos pour « apologie de la violence, incitation à la haine, homophobie et racisme » ; le 27 juillet, par la Licra, pour un « tweet à caractère antisémite ».

Le compte Twitter @Tchetechene_270 appartenant au terroriste a été suspendu après avoir diffusé la photo de l’enseignant décapité.
Twitter

La veille du cours en question, le professeur indiquait à sa classe :

« Demain, je vais vous montrer un dessin susceptible de choquer certains d’entre vous, de confession musulmane. Si vous le souhaitez, vous pourrez sortir de la classe, fermer les yeux ou détourner le regard. »

Une élève, décrite comme régulièrement insolente, se serait emballée, criant qu’elle ne sortirait pas de classe. L’échange aurait été si houleux qu’elle a été finalement exclue du collège pour deux jours au motif d’« insolence répétée ».

Le lendemain, le professeur Paty a donné son cours sur la liberté d’expression comme il le faisait chaque année. Sur les réseaux sociaux, le père de l’élève renvoyée s’en est pris au professeur dans une vidéo largement relayée ; il y assurait que sa fille avait été exclue car elle avait refusé de sortir de la classe. Une situation impossible : ayant été exclue, la jeune fille n’était logiquement pas présente le jour du cours.

Dans cette vidéo, le père scandait que ceux qui ne sont « pas d’accord avec ça » doivent écrire à la direction de l’établissement « pour virer ce malade » ; il livrait publiquement le nom du professeur, son téléphone portable et l’adresse du collège.

On sait également que le prédicateur Abdelhakim Sefrioui – fondateur du collectif pro-palestinien Cheikh Yassine et membre du conseil des imams de France, connu des services de renseignement – a accompagné le père auteur de la vidéo lors d’un rendez-vous avec la principale du collège, le 8 octobre dernier. Il s’est ensuite lui-même exprimé dans une autre vidéo ; il y filme l’élève exclue affirmant avoir assisté à ce cours et accuse l’enseignant de s’en prendre à « sa » religion ; il exige « la suspension immédiate de ce voyou ».

Cette vidéo a été envoyée directement aux parents d’élèves et diffusée sur les réseaux sociaux.

Les excuses du professeur n’y auront rien fait : les insultes, menaces et commentaires haineux contre l’enseignant et la directrice du collège fusent sur Facebook, WhatsApp, Instagram, Twitter, Snapchat, YouTube, TikTok, Google…

Plus qu’une campagne du cyberharcèlement, c’est un véritable lynchage public qui a lieu. Ni la médiation scolaire, ni l’entretien avec le référent laïcité du rectorat n’auront pu calmer la colère de l’auteur de cette vidéo, qui a aussi porté plainte contre l’enseignant. À l’issue de son audition du 12 octobre, Samuel Paty avait à son tour déposé plainte pour diffamation publique.

Pourquoi cette inaction des réseaux sociaux ?

Sur Twitter, calomnies, rumeurs et « chasse en meute » sont malheureusement monnaie courante. Cécile Ribet-Retel, membre d’une des associations de parents d’élèves du collège de Conflans-Sainte-Honorine, aura vainement signalé aux différents opérateurs, et dès leur apparition, les vidéos incriminées.

Mais toute victime, une fois prise dans les filets du réseau social se retrouve piégée. La capacité de nuisance d’un post est destructrice. Entretenir la haine, être prisonnier de la peur et tenter de s’en libérer en jetant l’opprobre sur un individu isolé est devenu le meilleur moyen de se faire entendre. Plus les posts montrent de l’indignation, plus ils seront relayés par la plate-forme dont le fonctionnement repose sur la conflictualité, la polarisation et l’hystérisation des expressions. C’est le levier émotionnel qui déclenche les like et les retweet : ce qui pousse à la réflexion passe en revanche inaperçu.

Des chercheurs de l’université Beihang de Pékin ont analysé en 2014 plus de 70 millions de messages postés sur Weibo, l’équivalent chinois de Twitter, en se focalisant sur l’emploi des smileys (joie, colère, dégoût et tristesse). Leur verdict :

« Nos résultats montrent que la colère est plus influente que les autres émotions, ce qui indique que les tweets colériques peuvent se propager plus rapidement et plus largement dans le réseau. »

Pour provoquer une colère telle qu’elle générera un partage/retweet (engagements des utilisateurs) dans l’arène virtuelle, quoi de mieux qu’une opinion, une rumeur voire des allégations, souvent fausses ?

En mai 2020, le Wall Street Journal a révélé que les dirigeants de Facebook avaient mené des recherches en interne sur les effets générés par leur plate-forme. Le rapport concluait que les algorithmes de Facebook exploitent « l’attrait du cerveau humain pour la division » dans le but d’attirer l’attention des utilisateurs et d’augmenter le temps passé en ligne.

Quel qu’il soit, un réseau social repose sur des posts, empilés à l’infini sur des « murs » ; le contenu doit être compris en un clin d’œil. L’efficacité repose ici sur l’exploitation de nos capacités d’interaction et du temps limité dont nous disposons.

Qu’est-ce qui retient notre attention : un titre ? Sans aucun doute, surtout s’il y a une photo ou, encore mieux, une vidéo ; et surtout si le post arrive après la pause déjeuner ou après 18h… On s’interroge rarement sur la réaction que son auteur cherche à provoquer, ni sur la réalité qui se cache derrière ces 280 caractères soigneusement ponctués d’émojis incitant à cliquer sur partager/retweet avant même d’avoir regardé l’intégralité du contenu ; encore moins de l’avoir vérifié !

Au tribunal médiatique, personne ne semble être épargné par le phénomène de la haine en ligne. Sur les réseaux, chacun est un médium qui se combine à des millions d’autres et concourt à cette machine à broyer qu’est devenu Internet.

Chacun y est aussi potentiellement une victime. 62 % des citoyens français ont déjà fait l’objet de cyberharcèlement, soit une augmentation de 10 points par rapport à 2018.

Les limites de la régulation des contenus

À chaque tentative de régulation, les GAFAM s’engouffrent dans les failles – la taxe française sur le numérique en constitue un bon exemple.

S’abritant derrière un « droit à l’information du public », les géants du Web ne réparent aucun des dégâts qu’ils ont contribué à causer auprès de victimes de cyberharcèlement. Amandine Rollin, conspuée pour une chanson s’en rappelle très bien, tout comme Linda Kebbab (déléguée nationale du syndicat Unité SGP Police-FO), victime d’insultes et menaces de mort, elle qui utilise son éloquence pour relayer le mal-être de ses collègues, dénoncer les conditions de travail et les problèmes internes.




À lire aussi :
Le cyberharcèlement, ou l’agression par Internet


Longue est la liste des personnes contre lesquelles ce « droit à l’information » se retourne.

La loi Avia de juin 2020 sur la haine en ligne souhaitait notamment obliger les plates-formes et les moteurs de recherche à retirer sous vingt-quatre heures – et même dans l’heure pour les images pédopornographiques et les documents faisant l’apologie du terrorisme – les contenus « manifestement illicites » qui leur sont signalés, sous peine de fortes amendes.

Haine sur Internet : la loi Avia censurée par le Conseil constitutionnel. (CNews/Youtube, juin 2020).

Elle imposait des conditions strictes aux plates-formes et aurait pu être efficace dans le cas du professeur Paty : le compte Twitter @Tchétchène_270 aurait été supprimé. Mais elle a été retoquée par le Conseil constitutionnel au nom de la protection de la liberté d’expression, ce qui soulève la nécessité de clarifier les obligations de notification et de retrait de contenus illicites sur Internet au niveau européen des hébergeurs de contenus.

Inspecter les algorithmes

Les patrons des filiales françaises de Twitter, Facebook ou Google, mais aussi Instagram, Tiktok, Snapchat seront reçus ce mardi 20 octobre par Marlène Schiappa, ministre déléguée à la Citoyenneté.

L’exigence d’accentuer la lutte contre les discours haineux, les infox et les faux comptes, a pourtant montré ses limites, comme avec la diffusion en direct sur Facebook de l’attentat de Christchurch en Nouvelle-Zélande. Agir ex post sur le terrain des valeurs démocratiques n’est pas la bonne méthode avec les GAFAM : bien que condamné en 2018 par la Commission européenne à payer 4,34 milliards d’euros (une amende record) pour abus de position dominante, le cours de bourse de Google est resté intact. Ceux qui gèrent les réseaux sociaux n’ont aucune légitimité démocratique.

Pour venir à bout de cette haine en ligne, la réponse ne peut venir du seul terrain démocratique ; toucher le cœur des réseaux sociaux réclame de s’attaquer à leur fonctionnement technique et, disons-le franchement, à l’opacité des algorithmes et aux relations économiques spécifiques à cet écosystème.

Aujourd’hui, nous savons que les mots-clés placés dans un moteur de recherche seront utilisés à des fins de marketing ciblé. Sur un réseau social, l’algorithme souhaite vous « garder » sur la plate-forme et, surtout, générer de l’engagement. Pendant ce temps, la récolte des données personnelles ultérieurement exploitées s’opère…

Quoi de plus efficace qu’un contenu à haute portée émotionnelle (infox et propos haineux) pour attirer notre attention ? Vous l’avez compris, attendre des réseaux sociaux qu’ils régulent d’eux-mêmes ces contenus est tout simplement utopique, leurs modèles économiques reposant précisément dessus !

Nous n’achèterions pas de voiture sans airbag ; alors raisonnons enfin comme les afficionados des systèmes d’information et reprenons le credo : « code is law » (« le code est la loi, le code régule »). Exigeons son contrôle, qu’il respecte bien notre droit et nos valeurs.

Ce défi implique aussi de réfléchir à l’instauration de cours d’éducation sociale ou numérique, de moyens de sensibiliser au harcèlement dès le plus jeune âge à l’école mais aussi de favoriser l’Observatoire de la haine en ligne, annoncé en juillet 2020 par le CSA.

Il est surtout temps de dédier, dans chaque État et à l’échelon européen, une équipe d’experts capables d’auditer les algorithmes, comprendre comment ces contenus apparaissent, comment les algorithmes génèrent cette viralité pour ensuite la corriger et fixer une feuille de route politique. Le régulateur doit s’entourer de moyens techniques et humains capables d’en décrypter les méandres.



Cet article est republié à partir de The Conversation sous licence Creative Commons.

A lire aussi

Redécouvrir la maison pédagogique de Madame de Genlis

adrien

Washington-Pékin : une nouvelle guerre froide ?

adrien

Éducation culturelle : que sont les résidences d’artistes ?

adrien

Le/la Covid ? Réouvrir ou rouvrir ? Les leçons de grammaire du coronavirus

adrien

ce que change la décision du Conseil d’État

adrien

Débat : Faut-il enseigner l’écriture inclusive ?

adrien