Utiliser l'intelligence artificielle pour "retoucher" ou "améliorer" une image peut la rendre plus nette. Mais cela peut aussi être dangereux : plusieurs fausses informations ont récemment circulé sur la base d’images ainsi augmentées.
Pour afficher ce contenu YouTube, il est nécessaire d'autoriser les cookies de mesure d'audience et de publicité.
Une extension de votre navigateur semble bloquer le chargement du lecteur vidéo. Pour pouvoir regarder ce contenu, vous devez la désactiver ou la désinstaller.
Dans le cadre de la Semaine de la presse et des médias à l’école, la rédaction des Observateurs de France 24 propose quatre vidéos pédagogiques pour mieux appréhender les images générées par intelligence artificielle et les fausses informations qu'elles peuvent véhiculer.
Un faux agent de l’ICE…
En janvier, une habitante de Minneapolis, Renée Good, est abattue par un agent de l'ICE (Immigration and Customs Enforcement), la police américaine de l’immigration.
Des vidéos tournées sur les lieux montrent un agent portant un masque facial. Dans la foulée, des internautes demandent à Grok, le chatbot IA du réseau social X, de "démasquer" l'agent de l'ICE. Et Grok génère des images nettes et détaillées montrant ce qui est présenté comme le visage complet de l'homme. Si ce n’est que ce visage a été inventé par le logiciel.
Et pourtant, Grok a même donné un nom à cet agent, et ce nom a été partagé sur les réseaux sociaux. Résultat ? Des homonymes ou des personnes ressemblant à la photo ont été faussement accusés d’avoir tué Renée Good.
… et une victime faussement accusée d’être armée
Une autre image de Minneapolis montre Alex Pretti, un infirmier en soins intensifs qui a été tué par des agents de la police des frontières américaine.
Les autorités fédérales ont déclaré qu’il tenait une arme à feu. Et les internautes ont partagé une image censément "améliorée" par l'IA, sur laquelle on peut croire que la victime porte effectivement une arme.
Mais l'analyse de plusieurs vidéos de l'incident, filmées sous différents angles, montre qu’Alex Pretti tenait à la main un téléphone, et non une arme à feu. En "améliorant" la qualité de l’image, les outils d'IA ont donc fini par transformer la réalité.
Image "améliorée" par IA : vigilance
Lorsque vous voyez une image qui a été "améliorée" par l'IA, soyez prudent. Voici quelques conseils :
- Vérifiez l'image originale.
- Comparez-la avec la version "améliorée".
- Vérifiez-la auprès d'autres sources.
Et ne partagez une image que lorsque vous êtes sûr qu'elle est authentique.
Facts Only
Renée Good was killed by an ICE agent in Minneapolis, USA.
Agent's face was fabricated by an AI chatbot named Grok.
The fabricated image was shared on social media, leading to false accusations.
Alex Pretti, an intensive care nurse in Minneapolis, was killed by US border agents.
Authorities claimed he was armed, but an AI-amended image showed what appeared to be a gun.
Analysis of multiple videos revealed that Pretti was holding a phone, not a gun.
Executive Summary
Full Take
The misuse of AI to manipulate images can have severe consequences, as demonstrated by the instances in Minneapolis. These incidents show that AI can create false realities, leading to misinformation and false accusations. The tendency to trust AI-generated content over original sources is concerning, as it undermines the need for critical thinking and verification. The article serves as a reminder to be vigilant when encountering AI-altered images, emphasizing the importance of cross-verification and skepticism.
Patterns detected: ARC-0024 Ambiguity, ARC-0043 Motte-and-Bailey
In a coordinated influence campaign, bad actors might create and spread AI-altered images to mislead and manipulate public opinion. However, in this particular article, the content does not align structurally with such a playbook.