Dans cet article, nous allons plonger dans le monde fascinant d’OpenAI et découvrir comment cette entreprise traque les chefs-d’œuvre de l’Intelligence Artificielle. Êtes-vous prêt à être surpris par ce que vous allez découvrir ?

OpenAI déploie des outils pour traquer les créations de l’IA

La start-up à l’origine des célèbres outils d’intelligence artificielle générative ChatGPT et Dall-E, OpenAI, a récemment annoncé le déploiement d’un nouvel outil. Celui-ci est conçu pour détecter si des images numériques ont été créées par des programmes d’IA. Cette initiative s’inscrit dans un contexte où l’authentification des contenus en ligne est devenue une préoccupation majeure avec l’explosion de l’IA générative.

Un outil de détection performant mais perfectible

Selon des tests internes réalisés sur une version antérieure de l’outil, celui-ci “identifie correctement environ 98% des images de Dall-E 3“. De plus, “moins de 0,5% des images non générées par de l’IA ont été incorrectement attribuées à Dall-E 3”, a précisé l’entreprise californienne. Cependant, la start-up, largement financée par Microsoft, a admis que son programme était moins performant quand des images créées avec Dall-E 3 ont ensuite été retouchées ou quand elles ont été générées par d’autres modèles.

Des marques en filigrane pour respecter les normes de l’industrie technologique

En plus de l’outil de détection, OpenAI a annoncé qu’elle ajouterait désormais des marques en filigrane aux images d’IA. Cette initiative vise à respecter les normes de la Coalition for Content Provenance and Authenticity (C2PA). Cette dernière est une initiative de l’industrie technologique qui établit des normes techniques pour déterminer la provenance et l’authenticité des contenus numériques.
Il convient de noter que le groupe Meta (Facebook, Instagram) a déclaré le mois dernier qu’il commencerait à étiqueter les contenus générés par l’IA à partir du mois de mai. Cela sera fait en utilisant la norme C2PA. De même, son voisin Google a également rejoint l’initiative.

L’authentification des contenus en ligne, un enjeu majeur

L’authentification des contenus en ligne est devenue une préoccupation majeure avec l’explosion de l’IA générative. Cette dernière permet de produire toutes sortes de contenus sur simple requête. Cela inclut de fausses photographies de personnes ou de faux enregistrements audio à des fins de fraude. Ainsi, les initiatives d’OpenAI et des autres géants de la tech sont un premier pas vers une plus grande transparence et sécurité en ligne.