Cerbère multi-têtes, Google navigue depuis fort longtemps dans les eaux troubles de la géopolitique et du renseignement militaire. Cette fois-ci Daesh est ouvertement dans sa ligne de mire.
La cause est entendue, difficilement condamnable. Si peu récusable que l'on s'est réjoui en chœur de ce qui apparait comme une évidence : Google, via sa filiale Jigsaw, participe à l'éradication du mal. Certes. Mais mais mais...
Jigsaw, émanation googlienne pour un monde meilleur
Jigsaw n'est rien de moins que le think tank/incubateur de Google. N'en déplaise à Assange, la dimension géopolitique de sa réflexion n'est pas assumée mais revendiquée. A ce propos, Eric Schmidt nous explique très ouvertement que "la mission de l'équipe est d'utiliser la technologie pour affronter les grands défis géopolitiques, riposter à l'extrémisme violent, faire reculer la censure". Jared Cohen, à la tête de Jigsaw et accessoirement ancien conseiller politique de Condolezza Rice puis d'Hillary Clinton, est plutôt familier de la chose. Cohen est un spécialiste du Jihad ; Daesh est naturellement sa priorité.
Concrètement, cette guerre virtuelle se matérialise sous la forme d'un programme nommé "The Redirect Method" qui n'a rien de révolutionnaire : une liste exhaustive de mots-clé en rapport avec l'Etat Islamique déclenche automatiquement un affichage de résultats qui pointent vers les chaines Youtube anti-Daesh, des articles de mise en garde, etc. La méthode aurait déjà redirigé 300 000 personnes vers le droit chemin, générant 3 ou 4 fois plus de clics qu'une campagne publicitaire classique. Nous pourrions douter du pouvoir subjugatoire et déradicalisateur d'un clic mais quoi qu'il en soit, pour Google le programme est un succès, un succès tel que l'entreprise compte le déployer contre l'extrême droite violente aux États-Unis.
Outre l'organisation de cette contre-propagande, Jigsaw a-t-il remis aux autorités américaines les noms des internautes ciblés ? La réponse, par le biais de Yasmin Green, responsable R&D, est évasive : "Google a l'obligation de coopérer avec le gouvernement américain selon des procédures clairement établies". Traduction ? Oui, mais la multinationale ne l'évoquera jamais explicitement pour ne pas entacher un peu plus son image. Qui sait, nous pourrions peut-être avoir des réminiscences de 2013, nous poser des questions sur des points aussi cosmétiques que la présomption d'innocence, la délation, l'intrusion, la protection de la vie privée ou l'exploitation de nos données personnelles.
L'officine Google
Celles-ci répondent déjà à des objectifs militaires opérationnels. L'infrastructure du géant américain appuie l'exécution d'opérations claires. Ses algorithmes repèrent des cibles, alimentent les listings des renseignements américains, fournissent des informations géospatiales pointues. Au nom de la lutte contre le terrorisme dont la seule évocation nous plonge dans un état d'agitation névrotique, la surveillance s'organise. Or celle-ci est affaire de contrôle, celui du désordre, des déviances, de la prochaine menace.
L'état de guerre, même invisible est pourtant permanent car idéologique. Sur le nouvel échiquier mondial, les réseaux informationnels constituent une arme de premier choix.
Dans un monde multipolaires déchiré par les guerres, dans un contexte d'inégalités qui inexorablement se creusent, dans un contexte de rareté des ressources naturelles qui se dédouble en un crucial enjeu de contrôle des territoires, dans un contexte où le contrôle des populations devient donc d'autant plus central pour maintenir l'ordre, sont-ce les algorithmes de Google qui décideront du bien et du mal, du gentil et du méchant ? Sur la base de quoi ? Nos recherches Internet ?
Les mots-clé que nous inscrivons dans la barre trahissent nos réflexions, intérêts, interrogations, suspicions. Google ne se contente plus d'enregistrer nos pensées fugaces ou permanentes mais s'octroie le droit d'agir contre elles au nom du Bien. L'accès à la connaissance bien que théoriquement libre est désormais criminalisé. Il y a là quelque chose de profondément dérangeant dans cette version robotisée de la glaciale vision du monde d'un certain Bush Junior qui avait entrepris de couper le monde en deux selon que l'on se trouvait à droite ou à gauche de son axe du mal. Est ou Ouest ? Pour ou contre ? Un monde sans nuances ni complexités. Binaire. 1.0.1.0.1.0.1.0.1.0.1, la seule langue que parlent les algorithmes.
A quelle doctrine les ambitions géopolitiques de l'hydre hybride nous aliènent-elles ? Depuis un moment, l'extraction de nos données pose un sérieux problème de souveraineté à des Etats atones. Des entreprises privées, Google et Facebook en tête, empiètent dangereusement sur un périmètre qui ne l'est pas. Et voilà que par l'inflation de discours sécuritaires, que par notre silence, notre ignorance, nos peurs nous venons de légitimer un outil de pouvoir à nos dépens. Aujourd'hui Daesh et l'extrême-droite américaine mais demain ?
Demain tous coupables?
L'initiative pose d'autant plus de questions éthiques qu'en ciblant non pas les terroristes mais plus exactement ceux que l'on suspecte de terrorisme, Google nous dit que la notion de crime stricto sensu tend à s'effacer: désormais c'est l'intention qui prévaut. Par principe de précaution, nous serions donc tous coupables car tous potentiellement dangereux. Or comment faire la preuve que l'on ne l'est pas, comment prouver l'innocuité parfaite? Impossible.
La présomption compterait donc autant que le crime lui-même. Nous venons de mettre le pied dans l'engrenage préventif d'une société sanctionnant sa population par des algorithmes justiciers qui appliquent des coefficients de dangerosité. Votre sort dépendra du passé d'autres que vous-même. Logiquement, les analyses prédictives et les profils comportementaux sont l'alpha et l'oméga de ce système judiciaire d'un nouveau genre. Grâce au Deep Learning l'intelligence artificielle se dote progressivement d'une structure qui s'apparente à s'y méprendre à un réseau neuronal. Ce simili-cerveau humain pourra comprendre l'environnement d'une situation donnée, travailler son intelligence de façon dynamique et autonome. Comme nous. Sur la base de l'analyse contextuelle de crimes passés, l'intelligence artificielle est en passe de devenir prédictive pour servir une justice nouvelle génération, déshumanisée.
A ce stade, la relecture du post-scriptum sur les sociétés de contrôle de Deleuze bien que déprimante est salutaire. Il y esquisse une tyrannie sans tyran, un monde où il ne sera plus nécessaire de tordre les corps, la norme intériorisée coulera de source, dans nos veines. Bienvenue dans la démocratie post-moderne, celle qui défend "nos valeurs" au nom du "Bien". Ouf, nous sommes sauvés.
La cause est entendue, difficilement condamnable. Si peu récusable que l'on s'est réjoui en chœur de ce qui apparait comme une évidence : Google, via sa filiale Jigsaw, participe à l'éradication du mal. Certes. Mais mais mais...
Jigsaw, émanation googlienne pour un monde meilleur
Jigsaw n'est rien de moins que le think tank/incubateur de Google. N'en déplaise à Assange, la dimension géopolitique de sa réflexion n'est pas assumée mais revendiquée. A ce propos, Eric Schmidt nous explique très ouvertement que "la mission de l'équipe est d'utiliser la technologie pour affronter les grands défis géopolitiques, riposter à l'extrémisme violent, faire reculer la censure". Jared Cohen, à la tête de Jigsaw et accessoirement ancien conseiller politique de Condolezza Rice puis d'Hillary Clinton, est plutôt familier de la chose. Cohen est un spécialiste du Jihad ; Daesh est naturellement sa priorité.
Concrètement, cette guerre virtuelle se matérialise sous la forme d'un programme nommé "The Redirect Method" qui n'a rien de révolutionnaire : une liste exhaustive de mots-clé en rapport avec l'Etat Islamique déclenche automatiquement un affichage de résultats qui pointent vers les chaines Youtube anti-Daesh, des articles de mise en garde, etc. La méthode aurait déjà redirigé 300 000 personnes vers le droit chemin, générant 3 ou 4 fois plus de clics qu'une campagne publicitaire classique. Nous pourrions douter du pouvoir subjugatoire et déradicalisateur d'un clic mais quoi qu'il en soit, pour Google le programme est un succès, un succès tel que l'entreprise compte le déployer contre l'extrême droite violente aux États-Unis.
Outre l'organisation de cette contre-propagande, Jigsaw a-t-il remis aux autorités américaines les noms des internautes ciblés ? La réponse, par le biais de Yasmin Green, responsable R&D, est évasive : "Google a l'obligation de coopérer avec le gouvernement américain selon des procédures clairement établies". Traduction ? Oui, mais la multinationale ne l'évoquera jamais explicitement pour ne pas entacher un peu plus son image. Qui sait, nous pourrions peut-être avoir des réminiscences de 2013, nous poser des questions sur des points aussi cosmétiques que la présomption d'innocence, la délation, l'intrusion, la protection de la vie privée ou l'exploitation de nos données personnelles.
L'officine Google
Celles-ci répondent déjà à des objectifs militaires opérationnels. L'infrastructure du géant américain appuie l'exécution d'opérations claires. Ses algorithmes repèrent des cibles, alimentent les listings des renseignements américains, fournissent des informations géospatiales pointues. Au nom de la lutte contre le terrorisme dont la seule évocation nous plonge dans un état d'agitation névrotique, la surveillance s'organise. Or celle-ci est affaire de contrôle, celui du désordre, des déviances, de la prochaine menace.
L'état de guerre, même invisible est pourtant permanent car idéologique. Sur le nouvel échiquier mondial, les réseaux informationnels constituent une arme de premier choix.
Dans un monde multipolaires déchiré par les guerres, dans un contexte d'inégalités qui inexorablement se creusent, dans un contexte de rareté des ressources naturelles qui se dédouble en un crucial enjeu de contrôle des territoires, dans un contexte où le contrôle des populations devient donc d'autant plus central pour maintenir l'ordre, sont-ce les algorithmes de Google qui décideront du bien et du mal, du gentil et du méchant ? Sur la base de quoi ? Nos recherches Internet ?
Les mots-clé que nous inscrivons dans la barre trahissent nos réflexions, intérêts, interrogations, suspicions. Google ne se contente plus d'enregistrer nos pensées fugaces ou permanentes mais s'octroie le droit d'agir contre elles au nom du Bien. L'accès à la connaissance bien que théoriquement libre est désormais criminalisé. Il y a là quelque chose de profondément dérangeant dans cette version robotisée de la glaciale vision du monde d'un certain Bush Junior qui avait entrepris de couper le monde en deux selon que l'on se trouvait à droite ou à gauche de son axe du mal. Est ou Ouest ? Pour ou contre ? Un monde sans nuances ni complexités. Binaire. 1.0.1.0.1.0.1.0.1.0.1, la seule langue que parlent les algorithmes.
A quelle doctrine les ambitions géopolitiques de l'hydre hybride nous aliènent-elles ? Depuis un moment, l'extraction de nos données pose un sérieux problème de souveraineté à des Etats atones. Des entreprises privées, Google et Facebook en tête, empiètent dangereusement sur un périmètre qui ne l'est pas. Et voilà que par l'inflation de discours sécuritaires, que par notre silence, notre ignorance, nos peurs nous venons de légitimer un outil de pouvoir à nos dépens. Aujourd'hui Daesh et l'extrême-droite américaine mais demain ?
Demain tous coupables?
L'initiative pose d'autant plus de questions éthiques qu'en ciblant non pas les terroristes mais plus exactement ceux que l'on suspecte de terrorisme, Google nous dit que la notion de crime stricto sensu tend à s'effacer: désormais c'est l'intention qui prévaut. Par principe de précaution, nous serions donc tous coupables car tous potentiellement dangereux. Or comment faire la preuve que l'on ne l'est pas, comment prouver l'innocuité parfaite? Impossible.
La présomption compterait donc autant que le crime lui-même. Nous venons de mettre le pied dans l'engrenage préventif d'une société sanctionnant sa population par des algorithmes justiciers qui appliquent des coefficients de dangerosité. Votre sort dépendra du passé d'autres que vous-même. Logiquement, les analyses prédictives et les profils comportementaux sont l'alpha et l'oméga de ce système judiciaire d'un nouveau genre. Grâce au Deep Learning l'intelligence artificielle se dote progressivement d'une structure qui s'apparente à s'y méprendre à un réseau neuronal. Ce simili-cerveau humain pourra comprendre l'environnement d'une situation donnée, travailler son intelligence de façon dynamique et autonome. Comme nous. Sur la base de l'analyse contextuelle de crimes passés, l'intelligence artificielle est en passe de devenir prédictive pour servir une justice nouvelle génération, déshumanisée.
A ce stade, la relecture du post-scriptum sur les sociétés de contrôle de Deleuze bien que déprimante est salutaire. Il y esquisse une tyrannie sans tyran, un monde où il ne sera plus nécessaire de tordre les corps, la norme intériorisée coulera de source, dans nos veines. Bienvenue dans la démocratie post-moderne, celle qui défend "nos valeurs" au nom du "Bien". Ouf, nous sommes sauvés.
Ce blog a été initialement publié sur le Huffington Post France
Retrouvez les articles du HuffPost Tunisie sur notre page Facebook.