Nous avons déjà publié de nombreuses images générées par Intelligence Artificielle, plus connue sur ses initiales IA. (ici, ici, ici, ici ou encore ici entre autres), cependant ces images étaient bien entendu trompeuses mais plus anecdotiques vu leur conception.

Enquête du média suisse rts.ch et du média belge rtbf.be :

Des vidéos, mises en scène par l’intelligence artificielle dont nous vous parlons ci-dessous, sont des véritables invitations à rallier l’extrême-droite française afin d’influencer les jeunes pour les élections présidentielles en 2017, ce qui est loin d’être anecdotique.

Créé en février 2024, le compte TikTok d’une prétendue nièce de Marine Le Pen compte déjà plus de 32.000 abonnés.

Selon rts.ch, le premier média francophone à dénoncer cette supercherie :

Avec ses plus de 30.000 abonnés, Amandine Le Pen (le nom a été modifié pour « Amandinette ») a construit une solide communauté sur TikTok. Elle se présente comme une « fière Française » qui adore « sa tata », Marine Le Pen, et parsème chacune de ses publications d’un drapeau français. Seul hic: elle n’est pas réelle. D’autres comptes du même type pullulent sur l’application chinoise.

• Vacances à la mer, week-end de luxe à la montagne ou encore séance de sport à la maison: comme n’importe quelle influenceuse, Amandine Le Pen, 24 ans, partage son quotidien de rêve avec ses abonnés. La plupart de ses publications sont accompagnées de hashtags « Lepen », « Famille », « RN » ou encore « 2027 » en référence à la prochaine élection présidentielle française.

La blonde aux yeux bleus, qui ne parle jamais face caméra, surfe sans équivoque sur sa ressemblance troublante avec Marine Le Pen et revendique son attachement aux valeurs du Rassemblement national (RN).

Elle ne cache pas non plus son admiration pour Jordan Bardella, président du parti, et invite ses abonnés à la rejoindre sur Telegram pour échanger sur le RN.

Ses vidéos, très commentées, sont repartagées plusieurs milliers de fois, certaines dépassant les 700.000 vues à ce jour.

Des incohérences visuelles

En y regardant de plus près, on observe toutefois des incohérences au niveau de l’expression faciale et des mouvements de bouche peu naturels. 

En outre, quelques recherches suffisent pour vérifier:

qu’il n’existe aucune Amandine dans la famille Le Pen.

Il s’agit en réalité d’un « deepfake » (hypertrucage en français). Une mention qui n’était inscrite nulle part sur le compte, avant la parution de l’article de rts.ch, mais qui a été modifiée après leur publication.

Sur le profil d’Amandine, un lien nous invite également à cliquer sur la page buymeacoffee.com, un site internet qui permet aux influenceurs et influenceuses de recevoir de l’argent de la part de leur communauté en offrant des « cafés » virtuels, au prix de 5 euros l’unité.

D’autres influenceuses fictives

Il ne s’agit pas là de l’unique compte qui utilise l’image de la famille Le Pen grâce à l’intelligence artificielle.

Créé fin mars 2024, le compte de Lena Maréchal Lepen cumule déjà quelque 30.000 abonnés.

• Certaines de ses vidéos, très similaires à celles d’Amandine, dépassent le million de vues.

Sur ses publications, la jeune femme invite ses abonnés à suivre ses « meilleures amies »:

• Rose qui se revendique 100% française, Lucia Meloni « droite pure souche » ou encore Chloé Le Pen.

Les nombreuses similitudes dans les décors en arrière-plan et les vêtements portés par ces fausses influenceuses suggèrent une origine commune derrière ces faux comptes.

A travers leurs poses suggestives, ces influenceuses fictives tendent à présenter une image glamour et rajeunie du parti.

Des légendes à double sens, souvent truffées de fautes d’orthographe, accompagnent certaines vidéos:

« J’espère que je ne vais pas trop bronzer »,

« Pas mieux que de se réveiller et de voir que tout est blanc de neige »

ou encore

« Mohamed c’est le mec qui insulte le RN, mais qui finit dans mes DM ».

A quelques semaines des élections européennes, ce phénomène ravive le débat sur la diffusion de contenus mensongers et trompeurs sur TikTok et l’absence de régulation de la part de l’application.

• Selon une étude de la société NewsGuard, spécialisée sur la lutte contre les fake news, 20% des vidéos traitant de sujets d’actualité sur TikTok contiendraient de fausses informations.

Selon la rtbf.be,

• Dans les dernières publications de ces faux profils, un message lié aux élections européennes est ajouté par TikTok pour les utilisateurs belges (parfois en flamand pour le public francophone d’ailleurs), preuve que la plateforme a identifié qu’il s’agissait bien de contenus à caractère politique.
• Mais à aucun moment, le réseau social n’indique aux utilisateurs que ces profils ont été générés à l’aide de l’intelligence artificielle et que les personnes n’existent donc pas réellement.

Des techniques d’instrumentalisation politique redoutées

Cette incohérence pourrait laisser penser que les partis d’extrême droite eux-mêmes pourraient ne pas être directement impliqués dans ces techniques de manipulation.

• Ces dernières semaines, différents services liés à la sécurité de la Belgique ont mis en évidence le risque d’ingérence étrangère lors des élections du 9 juin prochain. Parmi les moyens mis en évidence pour potentiellement manipuler l’opinion publique et tenter d’influencer les résultats du scrutin, les techniques de désinformation en lien avec l’intelligence artificielle générative font partie des éléments clairement identifiés comme des dangers potentiels.

De par sa position et son poids dans l’Union européenne, la France est plus exposée que d’autres pays comme la Belgique à ces risques d’ingérences étrangères.

La rtbf.be conclut son article par :
L’émergence des deepfakes est suivie de près par les acteurs dans le domaine de la désinformation, comme les communautés de fact checking.

Ce qui était redouté il y a quelques mois encore prend rapidement forme.

Quand à rts.ch, il vous donne en fin d’article quelques conseils pour identifier un « deepfake » :

rts.ch – newsguardtech.com – rtbf.be –