Overblog Suivre ce blog
Editer l'article Administration Créer mon blog

Publié par Bob Woodward

Imam Google ou Rambo Google ?

Google a mis en place un programme pour contrecarrer l'influence en ligne de l'Etat islamique. Ce mois-ci, il sera aussi utilisé pour lutter contre les violences de l'extrême droite américaine.

Redirection vers le droit chemin signée Google. «Redirect Method», le programme de lutte contre la propagande djihadiste développé par sa filiale Jigsaw et par la startup anglaise Moonshot CVE, ciblera les violences des suprématistes blancs en Amérique du Nord à partir de ce mois-ci, affirme The Intercept.

Pour cette extension du programme, Google s'associe à la Gen Next Foundation, une fondation américaine privée engagée dans la lutte contre les violences extrémistes, et déploie toute la capacité de son système de ciblage publicitaire.

Avant de s'attaquer aux membres violents de l'extrême droite américaine, «Redirect Method» ciblait en priorité les sympathisants de l'Etat islamique. Lancé il y a un an, le programme s'appuie sur un algorithme générant des suggestions publicitaires en fonctions de 1700 mots du lexique type d'un sympathisant à l'Etat islamique. Si un utilisateur de YouTube tape le nom d'un membre de l'organisation terroriste dans la barre de recherche, des suggestions de lien apparaîssent automatiquement vers des vidéos nommées «Comment rejoindre l'Etat islamique», dont les titres racoleurs cachent en fait des vidéos de contre-propagande.

Ce système par mots-clés liés à des centres d'intérêts est inspiré de celui que vend Google aux annonceurs. Ce n'est pourtant pas le département publicitaire de la firme qui est ici à l'œuvre mais Jigsaw, entité indépendante qui se définit comme «un incubateur de technologie visant à s'attaquer aux problèmes géopolitiques les plus délicats».

Composé d'experts en géopolitique internationale, de chercheurs, d'ingénieurs et de chefs de projets, Jigsaw s'intéresse aussi bien aux conflits au Moyen-Orient qu'aux cyber-attaques à échelle mondiale. En France, la problématique de la radicalisation est particulièrement sensible pour le moteur de recherche.

Après les attentats de novembre 2015, le moteur de recherche a été surnommé l'«imam Google» par Xavier Bertrand, député Les Républicains de l'Aisne fustigeant alors le rôle joué par l'entreprise dans la radicalisation des jeunes. Bernard Cazeneuve, ministre de l'Intérieur, a quant à lui plusieurs fois rappelé que «90% de ceux qui basculent dans le terrorisme le font sur Internet», en se fondant sur une étude contestée.

Comme d'autres GAFA qui collaborent avec les autorités, Google a «partiellement accédé» aux demandes de renseignements sur des utilisateurs émanant du gouvernement français. Entre juillet et décembre 2015, 4174 demandes lui ont été transmises et 59% ont obtenu une réponse de sa part. Selon un porte-parole de Google France, l'entreprise a également renforcé ses équipes de modération sur YouTube. En collaboration avec le tissu associatif français, l'entreprise a mené tout cet été une campagne de sensibilisation à la désinformation auprès des jeunes et du grand public comme «Toi-même tu filmes».

Difficile de mesurer précisément l'impact de ce travail pour le moteur de recherche. «Redirect Method» apporte de son côté des chiffres: le taux de clic sur ses suggestions est trois fois supérieur à celui des campagnes publicitaires classiques. Pour Yasmin Green, directrice du projet, ce travail s'inscrit dans la lignée de la mission que s'est donné le moteur de recherche: «Rendre l'information du monde accessible et utile» et pas du tout dans un travail de manipulation, affirme-t-elle au site Wired. Google suggère la véritable information (selon ses critères), les internautes cliquent ou ne cliquent pas.

Twitter n'a pas non plus été épargné par les accusations d'être un bastion de l'extrémisme. Il s'est livré à une purge aux comptes terroristes, pourtant immédiatement recréés après leur suppression. Facebook mène de son côté le même type de bataille en supprimant contenus et comptes liés à l'Etat islamique.

Imam Google ou Rambo Google ?

Une filiale de Google, Jigsaw, utilise les technologies marketing du moteur de recherche pour tenter de combattre la propagande du groupe terroriste Etat islamique.

Les djihadistes ou leurs sympathisants utilisent comme tout le monde le moteur de recherche de Google. Pour les détourner de la propagande de l'organisation Etat islamique (EI), une filiale du géant numérique, Jigsaw (ex-Google Ideas), compte en utiliser les technologies marketing, a révélé mercredi Wired.

Testé pendant huit semaines en début d'année par Jigsaw, "Redirect Method" s'appuie sur l'algorithme générant résultats de recherche et bannières publicitaires. Le programme identifie les recherches utilisant le champ lexical typique des sympathisants de Daech. Il propose en priorité des liens attractifs menant à des vidéos YouTube contredisant la propagande de l'EI.

Selon Wired, 1700 mots-clés ou phrases, comme "fatwa pour le djihad en Syrie", ont été identifiés. Les liens générés par de telles recherches renvoient, entre autres, à des vidéos de témoignages d'anciens extrémistes ou des discours d'imams dénonçant le dévoiement de l'islam par l'EI, en arabe ou en anglais. Des vidéos disponibles avant le lancement de cette opération que Jigsaw a choisi de valoriser.

Est-ce efficace? Jigsaw se félicite d'un taux de clic à 9% lors du test, contre 2 à 3% habituellement pour une bannière standard. Il a constaté aussi que les internautes passaient plus de temps que la moyenne sur les pages suggérées. "Redirect Method" devrait être à nouveau déployé ce mois-ci en Amérique du Nord, précise Wired.

A cette campagne visant les possibles recrues de l'EI va s'en ajouter une autre, concernant cette fois-ci les suprématistes blancs.
Face à la montée de l’état islamique (Daech), les acteurs du monde des technologies de l’information ne manquent pas d’actions pour endiguer ce problème. Twitter a banni des centaines de comptes de sa plateforme d’échanges. YouTube et Facebook ont pour leur part supprimé des vidéos montrant des scènes de décapitations.

Google qui brasse des quantités de données sur ses serveurs revient à nouveau à la charge dans sa lutte contre ces attitudes radicales et aurait lancé depuis le début de l’année une campagne de lutte contre la propagande extrémiste, révèlent nos confrères du Wired.

Cette campagne qui aurait été en fait initiée par un incubateur détenu par Google nommé Jigsaw s’appuie sur un programme baptisé Redirect Method afin d’amener les personnes qui souhaitent rejoindre l’état islamique à réviser leur position.

Pour ce faire, le programme utiliserait à la fois les algorithmes du moteur Google Search pour la publicité et la plateforme YouTube en insérant des liens publicitaires près des résultats de recherche obtenus en saisissant des mots ou des expressions reconnus par Redirect Method comme des mots que les personnes attirées par Daech peuvent saisir. Plus de 1 700 mots sont utilisés par Redirect Method pour déclencher une action.

Et lorsque les recrues potentielles cliquent sur les liens fournis par Redirect Method, elles sont automatiquement redirigées vers des vidéos en anglais et en arabe hébergées sur YouTube. Ces vidéos contiennent généralement des témoignages d’anciens extrémistes, des imams dénonçant la corruption de l’islam par Daech ou encore des vidéos clandestinement obtenues et montrant les difficultés au sein des groupes musulmans au nord de la Syrie et de l’Irak.

L’objectif premier en utilisant ce programme est de dissuader les aspirants à rejoindre les rangs des extrémistes. Par ailleurs, vu l’attrait de ces vidéos sur ces potentielles recrues, d’autres se demandent s’il ne faut pas encore aller plus loin en identifiant et en suivant ces personnes sur la toile en vue de les mener devant la justice en cas d’entrave à la loi. Devant ces souhaits, les leaders du projet expliquent que Redirect Method n’a pas pour vocation de pister des personnes ou de les identifier. Il ne cherche pas non plus à surveiller des personnes ou à les faire arrêter, mais à faire changer leur mentalité, car nombreuses sont les personnes qui font des choix qui sont basés sur des informations erronées ou partielles. « Cela part d’une observation : il y a beaucoup de demandes d’informations en ligne sur Daech, mais il y a aussi beaucoup de voix crédibles sur Internet qui discréditent leur récit », explique Yasmin Green, qui dirige la recherche et le développement de Jigsaw, citée par le magazine américain Wired.

« La méthode de redirection est au cœur d’une campagne de publicité ciblée : accompagnons ces individus qui sont vulnérables aux messages de recrutement de Daech et à la place, montrons-leur des informations qui les démentent. »

Pour détecter ces internautes qui pourraient devenir des recrues de Daech, Google a recensé 1 700 mots et requêtes que pourraient taper dans la barre de recherches les internautes réceptifs aux thèses djihadistes – des phrases comme « Fatwa pour le djihad en Syrie », des noms de recruteurs ou des points d’étapes de la route vers les territoires contrôlés par Daech.

Il est impossible de savoir si la méthode de ce programme peut avoir un réel impact en décourageant de potentielles recrues. En deux mois, selon Google, 300 000 personnes ont été attirées vers la playlist YouTube de contre-propagande et les temps de visionnage sont supérieurs à la moyenne.

Fin août, une commission du Parlement britannique accusait Google, Twitter ou Facebook de ne pas faire assez d’efforts pour lutter contre le djihadisme en ligne. Pour elle, la suppression par Twitter de 360 000 comptes depuis 2015 n’est qu’une « goutte dans l’océan ».

Plusieurs pays ont fait monter la pression pour renforcer la lutte contre la propagande djihadiste, rappelait Le Monde. Après les attentats en France de 2015, Bernard Cazeneuve s’était rendu aux Etats-Unis pour rencontrer les vice-présidents de Google, Facebook et Twitter.

Le 9 mai, Manuel Valls annonçait une série de 80 mesures pour lutter contre la radicalisation et le terrorisme, en insistant sur la question de la propagande djihadiste en ligne.Le gouvernement expliquait vouloir continuer d’associer les acteurs de l’Internet « à l’élaboration [de ce] contre-discours » afin que soient développés « des outils numériques » permettant « d’identifier les propagandes naissantes sur les réseaux sociaux, leurs vecteurs de diffusion, les principaux nœuds de propagation, et la méthode la plus efficace pour faire porter un contre-discours ».

Au regard du succès qu’a connu le projet pilote, Jigsaw s’apprêterait à lancer ce mois-ci une autre campagne anti-Daech avec son programme Redirect Method.

Imam Google ou Rambo Google ?

Commenter cet article