Dans un test de 287 000 images, les humains ont fait les choses en raison seulement 63% du temps
À travers le verre à la recherche: Lorsque les générateurs d’images IA ont émergé pour la première fois, la désinformation est immédiatement devenue une préoccupation majeure. Bien que l’exposition répétée à l’imagerie générée par l’IA puisse créer une certaine résistance, une récente étude Microsoft suggère que certains types d’images réelles et fausses peuvent encore tromper presque n’importe qui.
L’étude a révélé que les humains peuvent distinguer avec précision les vraies photos des photos générées par l’AI environ 63% du temps. En revanche, l’outil de détection d’IA en développement de Microsoft aurait atteint un taux de réussite de 95%.
Pour explorer cela plus loin, Microsoft a créé un quiz en ligne (Realornotquiz.com) avec 15 images sélectionnées au hasard dans des bibliothèques photo et divers modèles d’IA. L’étude a analysé 287 000 images vues par 12 500 participants du monde entier.
Les participants ont le plus réussi à identifier les images générées par l’AI, avec un taux de précision de 65%. Cependant, les fausses images les plus convaincantes étaient GaN Deepfakes qui ne montraient que des profils faciaux ou utilisaient une intervention pour insérer des éléments générés par l’IA dans de vraies photos.
En dépit d’être l’une des plus anciennes formes d’images générées par l’AI, Gan Deepfakes (réseaux adversaires génératifs) a toujours duré environ 55% des téléspectateurs. Cela est dû en partie au fait qu’ils contiennent moins de détails que les générateurs d’images ont généralement du mal à reproduire. Ironiquement, leur ressemblance avec des photographies de faible qualité les rend souvent plus crédibles.
Les chercheurs croient que la popularité croissante des générateurs d’images a rendu les téléspectateurs plus familiers avec l’esthétique trop douce que ces outils produisent souvent. Inviter l’IA à imiter la photographie authentique peut aider à réduire cet effet.
Certains utilisateurs ont constaté que l’inclusion de noms de fichiers d’image génériques dans des invites a produit des résultats plus réalistes. Même ainsi, la plupart de ces images ressemblent encore à des photos polies de qualité studio, qui peuvent sembler hors de propos dans des contextes occasionnels ou francs. En revanche, quelques exemples de l’étude de Microsoft montrent que Flux Pro peut reproduire la photographie amateur, produisant des images qui semblent avoir été prises avec une caméra pour smartphone typique.
Les participants ont légèrement réussi à identifier les images générées par l’AI de paysages naturels ou urbains qui n’incluaient pas les personnes. Par exemple, les deux fausses images avec les taux d’identification les plus bas (21% et 23%) ont été générées en utilisant des invites qui ont incorporé des photographies réelles pour guider la composition. Les images d’IA les plus convaincantes ont également maintenu des niveaux de bruit, de luminosité et d’entropie similaires à ceux trouvés sur de vraies photos.
Étonnamment, les trois images avec les taux d’identification les plus bas dans l’ensemble: 12%, 14% et 18% étaient en fait de véritables photographies que les participants ont identifiées à tort comme fausses. Les trois ont montré l’armée américaine dans des environnements inhabituels avec un éclairage, des couleurs et des vitesses d’obturation rares.
Microsoft note que la compréhension des invites est le plus susceptible de tromper les téléspectateurs pourrait rendre la désinformation future encore plus convaincante. La société met en évidence l’étude comme un rappel de l’importance d’un étiquetage clair pour les images générées par l’IA.
