Thread by @arikouts

Ces photos tirées d’archives de familles de années 80… n’existent pas. Pour changer xD
Mais bien entendu je vous montre ça pour parler de quelque chose de très intéressant :)

Voici des photos de vacances scannés, mais toutes fausses…

Encore quelques-unes pour la route et je vous explique

Allez une dernière série

En fait, il y a quelques temps des utilisateurs ont trouvés que si on mettait un prompt type IMG_042.JPG, DSC_0042.JPG, IMG_0042.CR2 etc on créait des photos bien plus réalistes… et ça pose pleins de questions

https://x.com/tarekayed00/status/1846525105905578075

Ici par exemple des filles et femmes prenant le train, ultra réaliste

Des hommes finissant un trek

Bref des photos, qui ressemblent à ce qu’on prend vraiment en photo, ultra réalistes par leurs imperfections parfaites

Le premier problème c’est que les détecteurs d’images IA (mais aussi les humains) ont vraiment du mal à discerner dans ce cas le vrai du faux

Donc imaginons demain vous me sortez un photo personnelle de votre voyage à New York dans les années 90, avec les twin towers, impossible de vous dire si c’est vrai ou faux sans regarder vraiment en détail.

Vous y étiez même pile pendant le 11 septembre (oups l’une est une vraie photo)

Celle-ci sont toutes fausses

Il semblerait que lors de l’entrainement, les noms des fichiers soient restés, et donc tagués avec le nom, ce qui donne cet effet « vrai » quand on rajoute les noms de fichiers.

Ca veut aussi dire que beaucoup d’images « personnelles » ont été utilisées, et c’est ce qu’on trouve sur le site Have I Been Trained?

Pour la plupart, des photos mises volontairement sur le net, mais pas toujours. En tout cas chaque photo générée est bien unique, ce n’est pas juste une « copie » d’une des photos sur internet

Les images de ce type sont bien plus intéressantes que créer une énième mannequin, images qui de toute manière dans le « vrai » monde sont déjà ultra retouchées. Rajouter un peu d’imperfection rend le tout bien plus parfait

https://x.com/mickeyxfriedman/status/1849515923893518532

Ou d’images hyper léchées (j’en profite, vu que Mystic v2.5 vient de sortir)

https://x.com/javilopen/status/1850977606461714727

Et ce n’est pas que pour des anciennes images, on veut des selfies snapchat ? On rajoute le nom du fichier et c’est bien mieux (enfin plus réaliste)

Ne croyez pas vos amis s’ils vont montrent des photos de Paris

Ni leurs autres photos de vacances d’hier et d’aujourd’hui

Vous vous souvenez de vos soirées jeux de plateaux ? (bon ok une est une vrai photo trouvée sur internet)

Alors laquelle est une vraie photo d’un vrai canard ?

Bien sûr on retrouve encore les artefacts d’IA (mains, bras, choses qui n’ont pas de sens), mais qui sont simples à corriger si besoin

Quelques photos d’archives de Will Smith

Bref je trouve que ce type de photos sont bien plus « belles » mais aussi plus compliquées à « debunker »

Plus étonnant ça semble même enlever un peu l’effet IA, sur d’autres types de requêtes qui ne sont pas des images à la base (sur le modèle Flux 1.1 Pro)

http://x.com/fofrAI/status/1850832147856191563

J'ai laissé un petit test de Turing ici avec ça

https://x.com/arikouts/status/1853083135740682379