DeepMind dévoile SynthID, un outil permettant d’identifier les images générées par Google Imagen
Google, par le biais de ses équipes de recherche en intelligence artificielle, a collaboré avec sa division cloud pour lancer un nouvel outil nommé SynthID. Cet outil, actuellement en version bêta sur Vertex AI, offre la possibilité d’ajouter un « tatouage numérique » aux images produites par Google Imagen, facilitant ainsi leur traçabilité.
Avec l’essor des technologies d’IA génératives, il est devenu crucial de différencier les œuvres humaines des créations automatisées. Google a donc introduit SynthID le 29 août, capable d’ajouter un filigrane invisible aux images de son modèle Imagen. Ce filigrane reste détectable même après diverses modifications de l’image, garantissant ainsi son authenticité.
L’objectif principal de cet outil est de combattre les risques de désinformation et de manipulation liés aux générateurs d’images. Toutefois, SynthID a ses limites. Il ne peut actuellement marquer que les images produites par Imagen, disponible uniquement sur la plateforme payante Vertex AI. Bien que DeepMind envisage d’étendre SynthID à d’autres modèles d’IA, les outils concurrents tels que DALL-E et Midjourney ne sont pas encore concernés.
Google reconnaît que SynthID n’est pas parfait. Lors de la détection d’un filigrane sur une image, trois réponses sont possibles : détecté, non détecté ou potentiellement détecté. Malgré ces défis, Google prévoit d’améliorer SynthID et d’explorer son application à d’autres types de contenus, comme l’audio, la vidéo et le texte.
Proudly powered by WordPress