Depuis l’explosion de l’IA, on assiste également à une augmentation considérable des images « deepfake », où la ressemblance d’une personne est échangée ou manipulée à l’aide d’algorithmes d’apprentissage automatique. Les deepfakes sont comme les caméléons du monde numérique, mêlant la réalité à la fiction dans une démonstration sans faille des prouesses de l’IA. Toutefois, vous serez heureux d’apprendre que la bataille contre ces contrefaçons très convaincantes est loin d’être perdue. L’intelligence artificielle (IA) qui facilite la création de deepfakes redouble d’efforts dans la détection des deepfakes pour les démasquer, notamment grâce à l’utilisation de systèmes de détection d’images par l’IA.
Avec le récent déploiement de la nouvelle technologie de vision ChatGPT-4 d’OpenAI, qui est désormais intégrée au chatbot et lui permet d’analyser les images téléchargées. A-t-elle le pouvoir de détecter les défauts et de vous aider à faire le tri entre ce qui est réel et ce qui est généré par l’IA ?
La technologie Deepfake utilise des algorithmes d’apprentissage automatique, en particulier des techniques d’apprentissage profond, pour manipuler ou produire des images, du contenu audio et vidéo. Le résultat est souvent si étrangement réel qu’il est difficile de faire la différence entre l’original et le modifié. Les enjeux sont importants : imaginez des personnalités publiques montrées en train de faire ou de dire des choses qu’elles n’ont jamais faites, ou des personnes que vous connaissez insérées numériquement dans des situations compromettantes.
ChatGPT peut-il détecter les « deepfakes » ?
Si vous souhaitez en savoir plus sur les capacités de reconnaissance des deepfakes de ChatGPT, vous serez heureux d’apprendre que All About AI a créé une démonstration rapide testant sa capacité à détecter correctement les deepfakes créés à l’aide d’outils d’intelligence artificielle.
Si vous vous demandez comment l’IA peut à la fois créer et détecter des « deepfakes », plongeons dans les mécanismes. La recherche en IA dans ce domaine est multiforme et couvre la vision artificielle, une branche de l’informatique qui se concentre sur l’entraînement des machines à interpréter des informations visuelles, et les sciences humaines, qui examinent les implications sociales et éthiques de ces technologies.
Détection des « deepfakes
Pour comprendre comment les systèmes d’IA détectent les deepfakes, il est essentiel de comprendre les obstacles à la création de deepfakes :
- La généralisation : Les deepfakes de qualité nécessitent des heures d’images cibles pour l’entraînement. L’objectif est de minimiser le temps d’entraînement et les données tout en conservant une qualité de sortie élevée.
- Entraînement par paires : Les modèles supervisés traditionnels exigent des données appariées, c’est-à-dire un exemple d’entrée avec sa sortie souhaitée. Cela rend le processus de formation complexe et gourmand en ressources.
- Fuite d’identité : Souvent, l’identité de l’acteur qui contrôle la reconstitution peut « fuir » dans le visage généré, ce qui entraîne des incongruités.
- Occlusions : Lorsque certaines parties d’un visage, par exemple la bouche ou les yeux, sont obstruées, des artefacts peuvent déformer le résultat final.
- Cohérence temporelle : Dans les vidéos, le maintien d’un flux cohérent d’images sans scintillement ou tremblement est essentiel pour le réalisme.
Les chercheurs en IA s’attaquent actuellement à ces défis au moyen de diverses techniques, allant de la segmentation des images à l’ajustement de la cohérence temporelle.
La contre-mécanique pour démasquer les « deepfakes
Comment l’intelligence artificielle est-elle utilisée pour démasquer ces images et vidéos numériques sophistiquées de type « deepfake » ? Vous trouverez ci-dessous quelques domaines que les chercheurs explorent actuellement pour aider à endiguer la vague. Toutefois, à mesure que la technologie de l’intelligence artificielle s’améliore, les processus de création d’images truquées s’améliorent également.
- Analyse de la texture : Les « deepfakes » peinent souvent à reproduire avec précision les minuscules textures de la peau humaine et d’autres caractéristiques. Les systèmes avancés de détection de l’IA peuvent repérer ces incohérences.
- Cohérence d’une image à l’autre : Les Deepfakes peuvent exceller dans des images individuelles mais échouer lorsqu’il s’agit d’assurer une transition fluide des expressions sur une séquence d’images. Les algorithmes de détection de l’IA peuvent identifier ces imperfections.
- Signaux physiologiques : Croyez-le ou non, l’IA peut détecter les nuances naturelles du comportement humain, comme le rythme des clignements d’yeux ou les schémas respiratoires subtils, que les deepfakes ne parviennent souvent pas à reproduire de manière convaincante.
- Divergences audiovisuelles : Il arrive que le son ne soit pas parfaitement synchronisé avec la vidéo dans les deepfakes. Les outils de détection de l’IA permettent de repérer ces discordances.
- Analyse des métadonnées : Bien qu’il ne s’agisse pas d’une approche directement basée sur l’IA, l’examen des métadonnées d’une image ou d’une vidéo peut parfois révéler si le fichier a fait l’objet d’une manipulation importante, ce qui constitue une technique de détection complémentaire.
Considérations éthiques et sociales
La conversation sur les deepfakes ne s’arrête pas à la détection de l’IA, car la communauté technologique se concentre également sur des considérations éthiques, notamment le consentement des personnes dont l’image est utilisée et l’utilisation abusive potentielle à des fins de désinformation. Ainsi, à mesure que l’IA continue d’évoluer, sa capacité à créer et à démasquer les « deepfakes » évolue également, ce qui nous maintient dans un état perpétuel de chat et de souris numérique. Mais pour l’instant, il est réconfortant de savoir que les mêmes outils utilisés pour créer des « deepfakes » sont utilisés pour les révéler, ce qui met en lumière la frontière ténue entre le potentiel et les pièges de l’IA.
Crédit photo : All About AI
Lire plus Guide:
- Analyse et création d’images dans ChatGPT DallE 3
- Comment ajouter la vision de l’IA à vos applications, SaaS, sites et projets ?
- Comment utiliser la diffusion stable et ControlNet pour personnaliser les images d’IA
- Comment utiliser la fonction de style cohérent de Midjourney 6 pour créer des thèmes d’images ?
- Comment ajouter votre visage dans des images AI pour un photoréalisme, des illustrations et bien plus encore ?
- Filigrane invisible pour les images générées par l’IA intégré dans Stable FineTuning
