L’IA, pour Intelligence Artificielle, est partout. Maintenant, il faut l’acter. Pas un jour sans qu’on n’en entende parler, et ça fait plus d’un an que tout le monde connait ChatGPT, DALL-E ou MidJourney.
Mais nous, nous sommes des debunkers avant tout, alors qu’est ce qu’on fait avec l’IA ? Comment allons-nous aborder les documents fabriqués avec une IA, et est-ce que le jeu en vaut la chandelle ?
Nous avons assisté ces dernières années à la montée des influences et des tentatives de déstabilisation ou de manipulation sur les réseaux sociaux, notamment durant des périodes électorales. Il faut désormais considérer que ces forces là disposent d’outils plus puissants avec l’IA. Comme cela a eu lieu pendant les législatives.
Mais au delà des discours et des documents qui nous sont soumis, l’IA a déjà modifié notre rapport à l’image, et ça risque encore de bouleverser beaucoup de choses. 
C’est quoi une IA ?
Concrètement, une intelligence artificielle, ce n’est pas un cerveau connecté à un gigantesque serveur informatique. Il s’agit ni plus ni moins que d’un programme, un logiciel, fait de scripts, de fonctions et de classes qui peuvent réaliser de grandes choses grâce des puissances de calcul régulièrement décuplées.
Pendant longtemps, on projetait l’avenir technologique par l’entremise de l’imaginaire d’un Philip K. Dick. Les androïdes rêvent-ils de moutons électriques ? (1966) laissait imaginer des humanoïdes capables d’apprendre, mais en quête de sens. La limite de l’IA n’est pas technologique, elle est éthique.
Mais en attendant d’en arriver à Terminator, les débuts de l’IA, ce sont des logiciels de correction orthographique entraînés à détecter, comprendre, corriger la syntaxe. Une fois tout ça maitrisé, il ne restait qu’à la générer : c’était les premiers « bots » qui répondaient à des questions de consommateurs sur des sites de vente en ligne.
« Comment puis-je vous aider ? »
D’un questionnaire à choix multiple, il n’a fallu que quelques années pour identifier les mots clés dans une phrase et proposer une réponse au client. ChatGPT est l’héritier de ce progrès là, il est capable de générer du texte sur à peu près n’importe quel sujet. Il suffit de le lui demander poliment (comprenez ici, formuler une requête qu’il peut comprendre et traiter). Le « Machine learning » est devenu « deep learning » avant de devenir ce que l’on connait aujourd’hui : génératif.
Générer du texte est une chose, mais dans le même temps, tout le monde s’y intéresse. Corriger la voix d’une chanteuse ? Pourquoi ne pas la générer ? On sait déjà le faire depuis des années (vous savez, ces voix robotiques horribles qui ne comprennent pas la ponctuation). Et pourquoi ne pas générer carrément un morceau entier en fonction des recettes qui marchent ? Un logiciel prend alors les commandes de votre logiciel de musique (Cubase, Ableton ou Fruity Loop) et génère un morceau entier, vous saisissez l’idée.
Au cinéma, depuis Le Seigneur des anneaux, les sociétés d’effets spéciaux utilisent des modules pour créer des milliers de combattants dans une bataille épique ou des passants dans une rue. On savait modéliser un personnage. Il suffit de proposer des déclinaisons à la machine qui va en générer des milliers, tous uniques. Avec les connaissances acquises en modélisation mathématique des foules, les logiciels sont alors capables de concevoir un environnement suffisamment réaliste pour tromper le spectateur.
Reste un aspect important !
L’IA offre des perspectives étonnantes. Mais elle permet aussi de réaliser la plupart des travaux à moindre coût. Un article de presse peut se passer d’une photo prise dans une banque de donnée et la remplacer par une image générée par IA. Les studios économisent des figurants. Les sociétés économisent du temps en générant du texte commercial que personne ne lit.
Derrière, ce sont des emplois qui changent. De fait, les besoins en photographes ou rédacteurs vont probablement se raréfier. Mais peut-être pas si l’on imagine que les besoins en productions intellectuelles ne cessent de grandir. Si les logiciels sont très abordables (tant en terme de coût que d’utilisation), c’est souvent un métier à part entière que de formuler des requêtes pour obtenir un résultat satisfaisant. Là encore, la question est éthique, dans la mesure où un outil si puissant peut aussi se révéler dévastateur.
Et justement, l’IA a aussi une utilisation en politique.
Quelques exemples
Et ça tombe bien, parce que le politique, c’est un peu notre truc. Il y a quelques mois avait été leaké l’E-book de Thaïs d’Escuffon, brochure que nous avions recensée. Toutes les images d’illustration étaient générées par IA et constituaient par leur usage l’inauguration du premier nanard de l’IA à usage politique. C’était à hurler de rire.
Mais dans le fond, ça n’a rien de désopilant. Le cas russe par exemple, avec l’opération Döppelganger, montre à quel point l’utilisation de ces logiciels permet de générer une masse d’information. Ou plutôt dans le cas précis, de désinformation.
Les législatives 2024 vont marquer l’apparition, ou en tous cas la généralisation, de l’utilisation de l’IA.
Je partira pas
Nous avons ici une utilisation particulière de l’IA. D’abord un fait, une phrase sortie par la fachosphère sur des réactions d’étrangers expulsés. Quelle franche rigolade de se moquer de personnes en panique qui maîtrisent mal le français. C’est là qu’une militante faf, sous le pseudo Grazy Girl, va diffuser sur tiktok une vidéo entièrement générée par IA .
Le compte, qui s’est spécialisé dans ce genre de vidéos racistes à bas coût, est rapidement supprimé. Trop tard, la vidéo est dupliquée à l’infini. L’effet Streisand est l’amorce de la viralité de la vidéo, alors reprise partout. Eric Zemmour se met en scène dansant dessus, Mila en fait une reprise.
https://www.youtube.com/watch?v=ZApro1gha9A
Voici une utilisation politique de l’IA. On en perçoit tout de suite le gain : une viralité à pas chère. Mais comme cela ne fonctionne qu’avec une vidéo sur 10 000 ou 100 000, il faut produire une grande quantité de contenu.
Patrick Sébastien rattrapé par sa finesse légendaire
Dans le même temps, une autre affaire fait parler d’elle. En réponse au clip « No Pasaran » de 20 rappeurs (et au contenu très problématique), Patrick Sébastien aurait pondu un clip bien senti sur une ritournelle dont lui seul a le secret : « Ma b*te sur ton front ». C’est le chanteur lui-même qui va désamorcer la situation, se retrouvant piégé par ses prises de positions passées.
Là encore, la musique a été généré par IA. Une blague potache qui tourne à la viralité politique, ou l’inverse, peu importe. On y retrouve les mêmes ingrédients que dans l’affaire précédente. Le contexte politique a rendu le contenu encore plus susceptible d’être massivement partagé.
Son auteur, un certain Rick Deckard (personnage principal de Blade Runner, adapté du roman de K. Dick dont nous parlions plus haut) en remet une couche, version chanteur triste. On vous laisse savourer ce bon moment bien graveleux :
L’affaire Roussel
Fabien Roussel qui négocie le pouvoir dans un train avant même l’élection alors que tout le monde a un téléphone ? Hahaha, vous n’allez pas nous la faire. C’est forcément une voix générée par IA, et vous l’aurez compris, si on peut doubler des acteurs ou créer des chansons par IA, générer la voix de Fabien Roussel, c’est du gâteau !
Ha bah oui… mais non.
Le dirigeant du PCF a littéralement raconté à haute voix son intention de trahir LFI le plus vite possible devant plein de témoins…
C’est le youtubeur @padustream qui a publié la vidéo pour le compte d’un autre twittos. D’abord retirée pour ne pas parasiter la campagne, elle est récupérée par d’autres comptes Twitter, dont le très facho et complètement conspi Zoé Sagan. Du pain béni pour taper sur le Nouveau Front Populaire.
Fabien Roussel va tenter de se justifier, mais encore une fois, le mal est fait. Sauf que le scoop n’en est pas vraiment un. Qui est dupe des négociations qui traversent la gauche… Allons, entre nous. C’est en revanche désastreux pour la perception qu’ont déjà beaucoup d’électeurs désabusés. Pas bravo Fabien.
Si nous parlons d’un cas où il n’y a pas d’IA, c’est que tout le monde a crié à l’intox par IA dès le début. Tout le monde? Pas vraiment. Soyons honnêtes, ceux qui ne voulaient pas y croire. Au sein même des DBK, le doute était de rigueur. Cette dernière séquence nous mène donc à notre conclusion.
Intelligence artificielle, limites bien réelles
Le fait est qu’aujourd’hui nous n’avons pas réellement d’outils pour détecter un contenu généré par IA. Tant que les humains auront 13 doigts sur les photos générées par IA, on pourra s’en sortir. Mais les progrès sont très rapides et très vite nous ne ferons plus la différence.
Il existe bien des scripts qui détectent ça, mais là encore, ces outils auront également des limites. Le progrès à la génération va plus vite que de le progrès dans la détection.
Néanmoins, ces trois exemples montrent que, malgré tout, savoir si c’est généré par IA ou non n’a pas toujours un grand intérêt : les chansons générées auraient pu être jouées par de vrais instruments. Le coût global de l’opération aurait été plus important mais c’était faisable, et le fond serait resté le même.
Le second problème qui se pose à nous, c’est la suspicion qui règne désormais pour tout document nous parvenant. Et nous ne sommes pas les seuls, comme l’a montré l’affaire Roussel.
Loin des fantasmes de la SF sur l’intelligence artificielle, on se retrouve finalement avec du contenu « throwaway » (jetable) lancé au hasard pour essayer d’hameçonner des utilisateurs et devenir viral. Plus pernicieux, ces nouveaux contenus nous font douter de tout ; l’IA a en quelque sorte empoisonné le puits.
Il est donc nécessaire de développer une autre approche des sources. La question qui se pose est celle de notre rôle en tant qu’utilisateurs des réseaux sociaux. Non, nous ne pouvions pas croire, même avant, tout ce qui était sur internet, mais imaginer qu’à partir de maintenant, nous ne pourrions plus rien croire du tout n’est pas plus rassurant. C’est la voie royale vers la misanthropie.
Pour nous, debunkers, le risque est de devoir se concentrer sur la nature de l’image seulement. IA ou pas IA ? Cette approche là montre déjà les limites de l’approche vrai/faux de fact-checking, qui ne se contenterait que de répondre par oui ou par non à une question. En outre, l’enjeu de détecter l’IA risque de rendre secondaire toutes les questions que nous avons soulevées ici : ce n’est pas forcément si important que ça. L’important c’est donc d’identifier quelle est la fonction, l’objectif, les discours, dans quel grand récit s’intègrent ces documents, qu’ils soient générés par IA ou non, que leur contenu soit vrai ou non.
Et bien.. on n’est pas rendu !