Reconnaître des images générées par IA : les indices qui les trahissent

Macron en éboueur, Trump arrêté : ces images générées via l’intelligence artificielle ont fait le tour d’internet. S’il n’existe pas d’outil capable de les détecter avec certitude, recontextualiser le cliché et repérer des incohérences visuelles peut permettre de les repérer.

Midjourney, DALL-E, Stable Diffusion… : ces logiciels sont capables, à partir d’une immense base de données, sans cesse alimentée par les demandes d’utilisateurs, de générer une infinité de clichés. Certains, ultra-réalistes et reliés à l’actualité, ont semé la confusion. Des logiciels existent pour tenter de les déceler mais leurs résultats sont encore très mitigés, selon des tests réalisés.

« Quand une IA génère intégralement une image, elle ne prélève généralement pas des parties d’une seule et même photo. Des milliers voire des millions de photos sont utilisées pour prendre en compte des milliards de paramètres », explique David Fischinger, ingénieur à l’institut technologique autrichien et spécialiste de l’IA.

« L’IA (…) les déconstruit puis reconstruit une photo pixel par pixel », d’où l’impuissance des logiciels de détection habituels, complète Vincent Terrasi, cofondateur de Draft & Goal, startup qui a lancé un détecteur de contenus générés par IA.

Mais, il existe quand même des astuces, expliquent les experts.

Retrouver la source

Grâce à une recherche d’image inversée, les clichés de la fausse arrestation de Trump permettent ainsi de remonter à la source : un tweet d’Eliot Higgins, fondateur du site d’investigation Bellingcat, qui explique les avoir créés via Midjourney.

Certains logiciels laissent aussi une signature visuelle : une barre multicolore dans le coin droit pour DALL-E.

On peut aussi comparer l’image à des photos du même événement provenant de sources fiables. Ainsi, le faux cliché d’un Poutine agenouillé devant Xi Jinping a un décor très différent de celui des photos de la visite du dirigeant chinois au Kremlin.

D’autres détails peuvent trahir l’IA, comme « le grain de l’image, qui sera très différent », selon Tina Nikoukhah, docteure en traitement d’images (Paris-Saclay).

Sur les versions gratuites des IA testées, certaines images générées avaient un style similaire au genre pictural hyperréaliste, avec des contrastes appuyés.

Les mains, les yeux, les cheveux

« Certaines caractéristiques, souvent les mêmes, posent problème aux IA, ce sont ces incohérences (visuelles) qu’il faut scruter », note Vincent Terrasi. Par exemple, les mains sont souvent déformées. Sur une photo prétendument prise lors d’une manifestation contre la réforme des retraites montrant un CRS enlacer une manifestante, on peut remarquer que le policier a… six doigts.

« Cependant, les IA s’améliorent de jour en jour et présentent de moins en moins d’anomalies, donc il ne faudra pas se fier aux indices visuels à long terme », met en garde Annalisa Verdoliva, professeure à l’université Frédéric-II de Naples.

« Actuellement, les IA ont aussi énormément de mal à générer des reflets. Un bon moyen (…) est donc de chercher, des ombres, des miroirs, de l’eau, mais aussi de zoomer sur les yeux », souligne Vincent Terrasi, comme sur cette photo d’Emmanuel Macron devant une manifestation et partagée sur Instagram : ses yeux sont marron et non pas bleus (les deux yeux ne sont de plus pas tout à fait de la même nuance de brun).

Les générateurs créent également souvent des asymétries : visage disproportionné, oreilles à des hauteurs différentes… Les dents et les cheveux sont également difficiles à imiter.

Enfin, le mélange de plusieurs images peut créer des problèmes de lumière, pointent les experts.

Les défauts se cachent souvent à l’arrière-plan. Sur des images à première vue très réalistes de Barack Obama et Angela Merkel à la plage qui ont fait le tour des réseaux sociaux, l’un des personnages en fond a les jambes coupées. « Plus un élément va être lointain, plus un objet va être flou, déformé, et avoir des perspectives incorrectes », confirme Vincent Terrasi.

Sur la fausse photo Poutine/ Xi, la ligne verticale d’une colonne est brisée, plusieurs chaises sont déformées, en plus du fait que la tête de Vladimir Poutine a une taille démesurée. Sur certaines fausses photos d’une arrestation musclée de Trump, le visage de plusieurs agents est flou, des bras et des jambes de policiers apparaissent ça et là sans cohérence.

Si certains éléments ne sont pas nécessairement déformés, ils peuvent néanmoins trahir une erreur : sur une photo générée sur Midjourney et censée montrer une rue de Paris, on distingue par exemple un panneau sens interdit … bleu.