Qui sont ces jeunes influenceuses qui, le même jour, à la même heure, se sont postées en portant des uniformes qui ressemblaient à ceux des SS nazis ? Dans son podcast hebdomadaire, Expo part de ce mystère pour décrypter l’usage des contenus générés par intelligence artificielle pour promouvoir des idées nationalistes.
« L’IA peut être un outil utile, un divertissement amusant ou, pour certains, même un interlocuteur. Mais entre les mains de l’extrême droite, elle est également devenue un outil de propagande important », résume le magazine suédois spécialisé dans l’observation de ce champ politique.
L’IA pour « diffuser des discours trompeurs et amplifier les divisions sociales »
Le journal britannique The Guardian a également remarqué cette tendance, plutôt récente d’après lui : « Selon les experts, les élections parlementaires européennes de cette année ont servi de tremplin au lancement d’une campagne électorale générée par l’IA par l’extrême droite européenne, qui n’a cessé de se développer depuis. »
Cette « vague de contenus de droite générés par l’IA sur les réseaux sociaux » est spécifique à ce camp politique, qui ne s’embarrasse pas des considérations éthiques liées à l’usage de l’IA et ne dépeint pas la réalité. Pour les nationalistes en France, en Allemagne, au Royaume-Uni comme en Italie, l’IA sert à modeler une réalité fantasmée, à décrédibiliser des adversaires, ou simplement à créer du contenu facilement, sans avoir besoin de compétences préalables.
Après les élections européennes de 2024, « le rapport postélectoral de la Commission européenne a corroboré cette tendance, avertissant que les acteurs politiques avaient utilisé ce type de contenu pour “diffuser des discours trompeurs et amplifier les divisions sociales” », complète EUobserver. Et les conséquences sont toujours là, écrit le média européen : « 37 députés européens actuellement en fonction ont été élus sous la bannière de partis reconnus pour avoir utilisé des contenus générés ou manipulés par l’IA pendant la campagne : 29 issus du Rassemblement national, 8 de la Ligue [de Salvini, en Italie] et un de Reconquête. »
Grok antisémite et outil pédocriminel
La professeure d’histoire Michelle Lynn Kahn, de l’Université du Richmond (États-Unis), voit dans cet usage récent le résultat d’une longue histoire : « Des décennies avant l’intelligence artificielle, Telegram et les livestreams du nationaliste blanc Nick Fuentes, les extrémistes d’extrême droite ont adopté les débuts de l’informatique domestique et d’Internet. Ces nouvelles technologies leur ont offert un bastion de liberté d’expression et une plateforme mondiale. Ils pouvaient partager leur propagande, répandre la haine, inciter à la violence et gagner des adeptes internationaux comme jamais auparavant. »
Mais cela ne se limite pas aujourd’hui à la création de chatbots d’Hitler sur d’obscurs réseaux sociaux d’extrême droite, ou à des partages d’images racistes sur des comptes personnels. Certains modèles eux-mêmes sont teintés des idées d’extrême droite, note l’historienne : « Grok, le chatbot sur X d’Elon Musk, s’est récemment qualifié de “MechaHitler”, a tenu des propos antisémites haineux et a nié l’Holocauste. »
Ce même Grok a servi récemment à revictimiser des personnes, notamment des enfants, effacés des « Epstein files », remarque Bellingcat. Le média d’enquête en open source a dénombré au moins deux dizaines de tweets demandant explicitement à Grok de désanonymiser « notamment des photos montrant les corps visibles d’enfants ou de jeunes femmes, dont les visages étaient recouverts de cases noires ».
Ce n’est pas un phénomène isolé. À la fin de l’année dernière, « une analyse réalisée par le Center for Countering Digital Hate a révélé que Grok avait généré publiquement environ trois millions d’images à caractère sexuel, dont 23 000 représentant des enfants, en seulement 11 jours ». Que ce soit pour perpétrer des violences en ligne contre les femmes et les enfants ou pour partager au plus grand nombre une propagande raciste et mensongère, les modèles d’IA sont des outils de rêve pour l’extrême droite et les masculinistes.