Récemment, Meta a été critiquée pour avoir étiqueté par erreur de vraies photos comme « réalisées avec l'IA » sur ses plateformes de médias sociaux. Les photographes ont porté plainte à ce sujet, soulignant que leurs images avaient été étiquetées à tort avec le label IA.
Tollé des utilisateurs et des photographes
Les utilisateurs et les photographes ont exprimé leurs inquiétudes et leur déception face aux pratiques d'étiquetage de Meta. Ils affirment que l'étiquette « Réalisé avec l'IA » est apposée sur des photos qui n'ont pas été créées à l'aide d'outils d'IA, ce qui crée une confusion parmi les spectateurs.
Les photographes soutiennent que de simples retouches ou l'utilisation d'outils non basés sur l'IA ne devraient pas être soumis au label « Fabriqué avec l'IA ». Noah Kalina, un photographe, a exprimé ses inquiétudes sur Threads, déclarant que si même les photos « retouchées » sont considérées comme « réalisées avec l'IA », alors le terme perd son sens .
Un tel exemple est une photo prise par l’ancien photographe de la Maison Blanche Pete Souza, qui a été marquée à tort comme générée par l’IA.
Un autre cas concernait une photo des Kolkata Knight Riders remportant le tournoi de cricket de la Premier League indienne, où Meta avait ajouté à tort l'étiquette « Fabriqué avec l'IA ». Fait intéressant, ces étiquettes n'apparaissent que lors de la visualisation des images sur mobile, pas sur le Web.
Souza a découvert qu'il n'était pas possible de décocher l'étiquette pour supprimer l'étiquette. Il soupçonne que l'algorithme de Meta peut être déclenché lors de l'utilisation de l'outil de recadrage d'Adobe et de l'enregistrement d'images au format JPEG.
De plus, Meta a également étiqueté par erreur de vraies photos comme générées par l'IA lorsque les photographes utilisent des outils d'IA pour la génération, tels que Generative Fill d'Adobe.
Réponse de Meta
Kate McLaughlin, porte-parole de Meta, a reconnu que la société réfléchissait à la réponse et qu'elle évaluait son approche pour garantir que les étiquettes puissent refléter la quantité d'IA utilisée dans une image en fonction des faits.
Meta travaille activement avec d'autres entreprises pour améliorer le processus d'étiquetage et aligner ses intentions sur les normes de l'industrie.
L'approche de Meta pour identifier et étiqueter le contenu généré par l'IA
Premièrement, les utilisateurs sont tenus de divulguer eux-mêmes les vidéos photoréalistes ou les fichiers audio réalistes créés ou modifiés à l’aide de l’IA. Le fait de ne pas étiqueter un tel contenu peut entraîner des sanctions.
Toutefois, cette exigence ne s’applique pas aux contenus non photoréalistes générés par l’IA, tels que les vidéos créées dans un style dessin animé.
En plus de la divulgation personnelle, l'algorithme de Meta détecte indépendamment l'utilisation de l'IA. Le contenu qui contient des signaux conformes aux normes de l'industrie indiquant la génération ou la modification de l'IA est étiqueté comme « Réalisé avec l'IA ».
Cela inclut le contenu créé ou modifié à l’aide d’outils d’IA tiers. Les outils de détection de Meta lisent les métadonnées des photos pour identifier les images générées par l'IA, même si elles ont été modifiées à l'aide de l'IA mais n'ont pas été entièrement générées.
Malgré cette double approche adoptée par Meta, les utilisateurs peuvent rejeter complètement le label « Made with AI », même lorsqu'il est appliqué correctement.
De plus, il n'y a aucune option sur la plate-forme pour supprimer ou décocher l'étiquette, ce qui amène les utilisateurs à rechercher des solutions de contournement telles que copier et coller l'image dans un document Photoshop vierge ou télécharger une capture d'écran au lieu de l'image originale.