Google dévoile un nouvel outil pour détecter les images générées par l'IA

Alors que les systèmes d'intelligence artificielle (IA) créent des images synthétiques de plus en plus réalistes, Google a développé un nouvel outil appelé SynthID pour aider à identifier les photos et les œuvres d'art générées par ordinateur.

Bien qu'elle soit initialement disponible pour certains clients Google Cloud, cette technologie représente une étape vers l'identification de l'IA. -contenu généré.

SynthID intègre des filigranes numériques imperceptibles dans les images générées par l'IA, leur permettant d'être détectées même après des modifications telles que le recadrage ou les changements de couleur.

À l'aide d'Imagen, un nouveau modèle de conversion texte-image, Google teste SynthID avec certains clients Google Cloud.

SynthID : comment ça marche

Contrairement aux filigranes visibles couramment utilisés aujourd'hui, le filigrane numérique de SynthID est directement intégré aux données de pixels.

L'outil utilise deux modèles d'IA entraînés ensemble : un pour ajouter le des filigranes imperceptibles et un autre pour les identifier.

Google a optimisé ces modèles pour intégrer des filigranes qui s'alignent sur le contenu de l'image d'origine, conservant ainsi la qualité visuelle tout en permettant la détection.

Lors de tests internes, SynthID a identifié avec précision identifié des images générées par l’IA après un montage intensif. Il fournit trois niveaux de confiance pour indiquer la probabilité qu'une image contienne le filigrane SynthID.

Bien que Google ne promette pas l'infaillibilité contre les manipulations extrêmes d'images, SynthID propose une approche technique pour utiliser de manière responsable le contenu généré par l'IA.

L'outil devrait évoluer parallèlement à d'autres modèles d'IA, étendant ses capacités au-delà de l'identification d'images. en audio, vidéo et texte.

Implications pour les entreprises et les entreprises. Spécialistes du marketing numérique

Bien que cet outil n'en soit qu'à ses balbutiements, les progrès de la détection d'images générées par l'IA ont plusieurs implications pour les entreprises et les spécialistes du marketing.

• Davantage de responsabilité : L'intégration de filigranes imperceptibles dans les images générées par l'IA permet d'identifier le système d'IA utilisé pour les créer.
• Nouvelles considérations : les spécialistes du marketing doivent se demander si et comment identifier l'IA. -images générées qu'ils utilisent pour les campagnes. Une attribution appropriée peut renforcer la confiance des consommateurs.
• Nouvelles opportunités : la technologie de filigrane ouvre des possibilités créatives pour générer des images d'IA à grande échelle tout en conservant l'attribution. Les spécialistes du marketing avisés peuvent trouver de nouvelles applications.

En bref, SynthID pourrait remodeler la conversation autour de l’utilisation responsable de l’IA. Ce sera une technologie intrigante à suivre alors que la course à l'IA s'intensifie.

Image en vedette : IB Photography/Shutterstock