Hate speech sur internet : benchmark international

Idpi a lancé une étude sous la forme d’un suivi barométrique consacré au « hate speech en ligne ».

Une telle initiative de suivi et d’analyse des discours haineux sur les réseaux sociaux est globalement inédite.

Si d’autres projets, notamment à l’étranger, se sont concentrés sur le signalement (No Hate Speech Watch), la cartographie (The Geography of Hate, et The Hate Map) ou le recensement (Report on Digital Terrorism and Hate), le monitoring à travers le temps, sous forme de baromètre, est un format innovant. Peu de projets proposent à la fois une approche quantitative de suivi, et une approche qualitative d’analyse sur des sujets précis.

L’étude Phenomenon of the cyber-hatred in the Ukrainian Internet space, menée par l’institut international de Kyiv en partenariat avec l’Institut des Droits de l’Homme et de la Prévention de l’Extrémisme et de la Xénophobie Ukrainien, est remarquable par son ambition scientifique. L’analyse éclairée des commentaires haineux publiés sur les articles de médias en ligne permet de dégager des schémas de compréhension de ces expressions.

Du projet Islamophobia on the Internet: the growth of online hate targeting Muslims, nous retiendrons à la fois l’approche originale (analyse sur Facebook) et les résultats par catégorisation des types de discours qui permet d’appréhender plus précisément les points de crispations.

En ce qui concerne la méthodologie d’extraction quantitative, plusieurs aspects du programme Hate Brain sont inspirants. Ce dernier s’attache à enregistrer tous les propos haineux sur Twitter (leur contenu, l’horaire, l’utilisateur et la localisation). Un tiers de l’analyse se fait par un logiciel dédié, le reste est qualifié manuellement.


No Hate Speech Watch

Organisation : No Hate Speech Movement

Description : Le “No Hate Speech Watch ” est une instance créé par le Département de la Jeunesse du Conseil de l’Europe. Il s’agit d’une base de données en ligne destinée à surveiller et partager des informations et des opinions sur les discours de haine circulant sur Internet.

Périmètre :

–          Discours de haine (racisme, homophobie, discrimination,…) exprimés en direction de la jeunesse en Europe.

–          Thèmes spécifiques traités : haine envers les réfugiés, les roms, l’antisémitisme, le fascisme, atteintes aux droits de l’Homme, discours de haine en ligne en Hongrie,…

Méthodologie :

–          Analyse d’un panel de blogs et de tweets exprimant la haine.

–          Remontée d’informations par des utilisateurs qui signalent spontanément et bénévolement

Résultats :

–          Liste de signalements qui recense les discours de haine en ligne et qui constitue une base de données des espaces à surveiller en ligne

–          Actualisation des catégories de données en fonction des tendances du moment.

 Visuels de cartographie / graphiques éventuellement :

Comités nationaux de campagne

 

The International Legal Research Group on Online Hate Speech

Organisation : TheEuropean Law Students’ Association

Description : L’ELSA a lancé le Groupe International de Recherche Juridique sur le Discours de Haine en Ligne pour contribuer à combattre les discours de haine sur Internet.

Périmètre : Discours de haine en ligne en Europe.

Méthodologie : 42 groupes nationaux divisés par pays ont réalisé des analyses comparées des discours de haine en ligne. Ces résultats ont été mis en perspective avec l’application du Protocole de la Convention de Budapest qui porte sur la Xénophobie et le Racisme.

Résultats : Un rapport de 471 pages en collaboration avec l’ELSA et le Conseil de l’Europe, regroupant les travaux des 42 Groupes de Recherche Juridique nationaux.

Conclusions scientifiques :

–          Approches juridiques comparées.

–          Analyses de l’efficacité des différentes méthodes et usages d’outils législatifs pour combattre les discours de haine en ligne.

–          Analyse technique des subtilités juridiques, de la faisabilité technique, de la qualification des faits et des termes des sanctions juridiques envers les discours de haine en ligne.

 

Inach : Antisemitism on the Internet

 Organisation : The International Network Against Cyberhate.

Description : Aperçu par pays des traces de l’antisémitisme sur Internet. Étude réalisée en 2004.

Périmètre : Sites internet enEurope (Belgique, France, Allemagne, Danemark, Pays-Bas, Suède, Royaume-Uni), ainsi qu’en Russie et aux États-Unis.

Méthodologie : chaque pays fait l’objet d’une étude par un membre de l’INACH selon une « structure » récurrente :

–          Présentation des plaintes, procès par pays

–          Recensement des sites/forums/ racistes et surtout antisémites

–          Parfois, évocation des « bonnes actions » entreprises suite aux plaintes

Résultats :

–          France :

o   De plus en plus de sites en français apparaissent (avant les expressions racistes étaient concentrées sur des sites anglophones).

o   De plus en plus de sites partent du conflit au Moyen-Orient pour justifier leur existence – affinités avec des groupes terroristes.

o   Augmentation des sites anti-arabes/islamiques (mise en parallèle avec la diffusion de l’Islam en France)

o   Les forums sont le lieu d’échanges rapprochés dans le temps de propos racistes entre habitués de ce type de conversations. Ils permettent également d’organiser des distributions de flyers (loi sur le voile) et d’appeler à la manifestation.

–          Pays-Bas :

o   Les plaintes recensées visent des sites internet ou des forums.

o   Les événements au Moyen-Orient servent de prétexte à l’expression de propos racistes ou antisémites. Les attentats du 11 septembre ont fait exploser le nombre de commentaires de ce type, notamment islamophobes.

o   Le nombre d’expressions antisémites recensées passe de 17 en 1997 à 477 en 2003.

o   A partir de 2002-2003, les expressions antisémites proviennent de musulmans et de forums de gauche.

 

The Geography of Hate

Organisation : Humbolt State University (HSU). Projet mené par Dr. Monica Stephens.

Description : Carte thermodynamique des Etats-Unis montrant la concentration de l’usage de mots haineux envers Barack Obama sur Twitter.

Périmètre : Tweets émis aux Etats-Unis autour de la période de réélection du Président Obama.

Méthodologie :

–          Récupération de tous les tweets émis de juin 2012 à avril 2013 contenant un « hate word »

–          Classification manuelle selon le propos tenu (négatifs/neutres/positifs) ; seuls les négatifs ont été utilisés dans l’analyse

–          Géolocalisation de chaque tweet (avec DOLLY selon le county d’origine) et calcul de la proportion par rapport au nombre total de tweets par zone

–          Création de la carte : plus la zone est rouge, plus la région a émis de « hate tweets »

Résultats : 150 000 tweets récupérés et analysés.

Conclusions scientifiques (source : floatingsheep.org) :

–          Lecture de la carte :

o   Les insultes visent principalement les Afro-américains (« niggers »).

o   Les régions du nord-ouest et de la côte ouest cumulent un nombre de tweets haineux assez faible.

o   Les tweets racistes ne sont pas exclusivement concentrés dans les Etats du sud (North Dakota, Utah, Missouri ont un nombre de tweets haineux élevé).

o   Aucun Etat n’est épargné par le phénomène.

–          Analyse :

o   Les expressions haineuses sont liées au contexte socio-spatial.

o   Hypothèse (pas encore testée, ni vérifiée) d’un lien entre les grappes de propos haineux et la composition démographique d’une zone.

o   Les propos haineux ne se concentrent pas forcément autour des frontières (USA-Mexique notamment) ; les Etats où la question de l’immigration est au cœur des débats politiques ne sont pas ceux qui regroupent le plus de tweets à caractère haineux.

Visuels :

 Geography of hate 1

Map of the Location Quotients for Post Election Racist Tweets

 

Geography of hate 2

Répartition des tweets racistes aux Etats-Unis

 

Hate Map

Organisation : Southern Poverty Law Center.

Description : Carte interactive permettant de visualiser les groupes haineux présents aux Etats-Unis. Pour chaque organisme listé sont présents le nom de l’organisation, le type d’organisation (white nationalist, anti-immigrant, racist skinhead, general hate…) ainsi que la ville du groupe.

Périmètre : Ne sont inclus que les organisations et groupes haineux reconnus comme étant actifs pendant l’année 2013.

Ils ont définis les activités des groupes selon les critères suivants : actes criminels, marches, rassemblements, conférences, déclarations, distribution de tracts, publications. Cependant, les groupes engagés dans des actes violents ou autres activités criminelles n’ont pas été sélectionnés pour figurer dans la liste.

Méthodologie : La liste des organisations recensées a été réalisée en fonction de plusieurs éléments : publications, sites internet, sources citoyennes provenant du terrain, rapports officiels, informations diffusées dans les médias…

Les sites internet qui sont l’œuvre d’une seule personne n’ont pas été inclus dans la liste.

Résultats : 939 organismes ont été recensés au total.

Visuel :

Hate map

The Umati Project

Nom de l’organisation qui l’a réalisée : IHub Research – Ushahidi.

Description : L’Umati Project a émergé en réaction aux violences qui ont suivies les élections au Kenya en 2007. Le projet explore l’emploi de propos haineux sur le web Kenyan.

Périmètre : Le projet se concentre sur les blogs, les forums, les actualités en ligne, ainsi que Facebook et Twitter. Sont définis comme étant des contenus en ligne : les tweets, les mises à jour de statuts, les commentaires, les publications et les entrées de blogs.

Méthodologie : Entre Septembre 2012 et Mai 2013, 6 chercheurs ont régulièrement cherché les expressions de haine en 7 langues (Kkuyu, Luhya, Kalenjin et Luo, qui représentent les plus grosses communautés au Kenya, Swahili, la langue nationale, Sheng, une langue non-officielle, Somali, parlée par la plus grosse communauté d’immigrants et Anglais).

Pendant 8 heures chaque jours, chaque surveillant analyse les différents espaces et enregistre les résultats dans une base de données.

L’ensemble des expressions ont par la suite été traduites en Anglais et catégorisées en 3 types : « offensive speech », « moderately dangerous speech » et « « dangerous speech ». Un formulaire pré-établi composé de 2 questions étant soumis à chacune des expressions afin qu’elles puissent être catégorisées.

Résultats : 5683 discours haineux ont été recensés (appel au meurtre, au rossage, etc.).

Visuels :

humati project

Islamophobia on the Internet: the growth of online hate targeting Muslims 

(Une étude similaire a été conduite pour la haine à l’encontre des aborigènes, des juifs et des vétérans de guerre)

Organisation : Online Hate Prevention Institute (Australia) in association with the Islamic Council of Victoria

Description : Analyse du discours anti-musulman à travers les memes (une image associée à un court texte) et leur dissémination sur les groupes Facebook.

Périmètre : Examen de 50 pages Facebook anti-musulmanes, de « la menace islamique » qui compte 113 000 likes et continue de progresser, à « Mohammed le Porc » qui a disparu après avoir atteint 2000 likes.

Méthodologie : Analyse des images récurrentes et des catégories auxquelles elles appartiennent afin de déterminer les haines associées avec l’islam, suivre les discussions qui peuvent s’ensuivre et étudier l’origine géographique de ces communautés.

Résultats :

191 images uniques (sur les 349 recensées) se classant dans les items suivants :

–          L’islam comme menace pour la sécurité publique

–          Les musulmans comme menace culturelle

–          Les musulmans comme menace économique

–          Les musulmans déshumanisés

–          Menaces de violence ou de génocide contre les musulmans

–          Haine ciblant les réfugiés ou demandeurs d’asile

–          Autres : tentatives de créer une acceptabilité de la stigmatisation religieuse de l’islam

Les pages sont majoritairement américaines, britanniques et australiennes.

Conclusions scientifiques : Pas de conclusions scientifiques mais des recommandations à destination de Facebook et des décideurs publics.

 Muslim Advocates propose également une analyse des comptes Facebook, Twitter et YouTube véhiculant un discours de haine à l’encontre de l’islam, en donnant aux lecteurs les outils pour dénoncer ces groupes auprès des différents réseaux sociaux. Cette méthode met donc en avant le « fire alarm » des pairs, la « police patrol surveillance » exercée par les réseaux sociaux eux-mêmes ne pouvant pas suffire vus le nombre de contenus publiés chaque jour.

 

Report on Digital Terrorism and Hate

 Organisation : Simon Wiesenthal Center, organisation juive des droits de l’homme basée à Los Angeles.

Description : Chaque année depuis 1997, le centre publie un rapport sur les discours haineux sur Internet.

Périmètre : Twitter

Méthodologie : Recension des hashtags et bios racistes

Résultats : 20 000 « hashtags et pseudos répandant la haine » sont apparus sur Twitter en 2012, soit 5000 de plus que l’année précédente.

Conclusions scientifiques : Une critique a été formulée contre cette analyse en montrant que le nombre d’utilisateurs de Twitter a augmenté proportionnellement plus vite que le nombre de tweets haineux.

 

Hate Brain

Organisation : The Sentinel Project for Genocide Prevention (Canada)

Description : Surveille les discours contre le genre, l’orientation sexuelle, le handicap, l’origine ethnique, nationale, religieuse ou sociale. Le projet a pour objectif d’identifier les signaux faibles pour prévenir l’apparition de génocides.

Périmètre : Le programme HateBrain enregistre tous les propos haineux sur Twitter avec contenu, horaire, utilisateur et localisation.

Méthodologie : Actuellement, 37% des tweets peuvent être classés automatiquement sans intervention humaine.

La technologie HateBot permet d’utiliser des informations contextuelles inclues dans le profil de l’usager pour déduire sa localisation : 42% des tweets peuvent ainsi être géolocalisés (contre seulement 5% directement sur Twitter).

Conclusions scientifiques : Hate Brain vise à créer une base de données permettant aux chercheurs, qui y ont accès à travers une API ouverte, de suivre la diffusion de ces discours

Visuels :

Hate brain

 

Phenomenon of the cyber-hatred in the Ukrainian Internet space

Organisation :The Institute of Human Rights and the Prevention of Xenophobia et the Kyiv International Institute of Sociology.

Description : Du 18 au 20 mai 2011, l’institut international de Kyiv, en partenariat avec l’Institut des Droits de l’Homme et de la Prévention de l’Extrémisme et de la Xénophobie, a réalisé une étude sur le phénomène de la haine sur le web ukrainien. La recherche incluait deux composantes : l’analyse du contenu des commentaires sur les principaux médias en ligne, et un sondage en ligne. L’objectif de l’analyse médiatique était ainsi de montrer quels médias en ligne sont le plus victimes de commentaires haineux, et quels sont les sujets principaux de ces commentaires. Le but du sondage était de mettre en lumière le rapport de la société à la haine sur Internet, ainsi que d’évaluer le danger perçu.

Périmètre :

–          Analyse médiatique des commentaires des 20 principales sources d’information en ligne du pays.

–          Analyse de l’audience Internet ukrainienne à travers un sondage.

Méthodologie :

–          L’analyse des commentaires et de leur sens était réalisée en fonction des autres commentaires des auteurs et du sens général de la discussion.

–          Le sondage Internet a été effectué en collaboration avec les sondages en ligne de la société InPoll.

–          L’échantillon de la recherche comprenait 623 participants correspondant au spectre sociologique de l’audience Internet ukrainienne en fonction du genre, de l’âge et de la localisation.

Résultats :

–          60% des usagers d’internet en Ukraine se sont intéressés aux questions politiques et sociales en ligne au cours des 30 derniers jours précédant l’enquête.

–          La grande majorité des visiteurs des sites politiques et sociaux (86%) lisent les commentaires des articles. Un tiers d’entre eux prennent part aux discussions.

–          71% des conversations Internet contiennent des propos de haine.

–          Environ un commentaire sur trois est haineux sur les médias en ligne sociaux et politiques.

–          90% des sondés ont déjà pu observer des phénomènes de discours haineux sur Internet.

–          80% de ceux qui se retrouvent confrontés à une expression de haine en ligne essaye de l’éviter, 15% d’entre eux entrent dans la discussion.

–          64% des sondés ont répondu que les discours de la haine en ligne mettaient en péril la société. Seulement 10% d’entre eux ne considèrent pas cela comme une menace potentielle.

–          Les plus fréquents commentaires haineux sur Internet concernent la politique. Il y a environ 35% de commentaires dirigés contre les hommes politiques, et 29% dirigés envers les personnes d’opinions politiques différentes.

–          Les quatre grandes catégories d’expressions de la haine sur Internet en Ukraine sont la politique, le racisme, la religion et la haine entre les résidents de différentes régions.

Conclusions scientifiques :

Les expressions de discours de haine varient en fonction de leur objet :

–          Les discours de haine basés sur les questions de nationalité tirent leur essence dans le conflit opposant les ukrainiens et les russes.

–          Sur les questions de religion, la question des « supporteurs du patriotisme moscovite contre les catholiques » apparaît le plus fréquemment.

–          Sur les questions de territorialité, les conflits entre résident de l’ouest du pays et résidents de l’est revient le plus fréquemment.

–          Enfin, sur les discussions d’ordre politique, le débat entre les pro-russes et les nationalistes ukrainiens est celui-ci qui prévaut.

Visuels :

Ukrainian internet

Top 20 des médias en ligne politiques et sociaux ukrainiens

— Ecrit par IDPI

Réagissez