Lors de la WWDC 2024, Apple a fait plusieurs annonces intéressantes concernant ses prochaines fonctionnalités d’IA, dont l’une est le générateur d’art Image Playground AI dans iOS 18.
Ce nouvel outil vise à permettre aux utilisateurs de créer facilement des images uniques générées par l'IA dans diverses applications Apple. Avec Image Playground, Apple cherche à fournir un débouché innovant et créatif tout en garantissant une utilisation responsable de l’IA.
Étiquetage des images générées par l'IA via des métadonnées
Pour répondre aux préoccupations concernant l'identification des images générées par l'IA, Apple prévoit de marquer ces images à l'aide de métadonnées.
Lors d'un briefing avec Apple, il a été révélé que la société avait l'intention d'étiqueter les images générées par l'IA via des métadonnées d'image, également connues sous le nom de données EXIF. Ces métadonnées afficheront « Apple Image Playground » comme source d'image, indiquant clairement que l'image a été créée à l'aide de l'IA.
L’un des objectifs clés d’Image Playground est d’empêcher la propagation de fausses informations via les images générées par l’IA. Pour y parvenir, Image Playground générera uniquement des images dans des styles non réalistes tels que Animation, Illustration et Croquis.
Le développement de l'outil impliquait une collaboration avec des artistes numériques pour créer des images dans des styles spécifiques, qui ont ensuite été utilisées pour former le logiciel d'IA générative d'Apple. Ce faisant, Apple a rendu difficile aux utilisateurs de générer des images photoréalistes pouvant être confondues avec des objets ou des lieux réels.
Plusieurs vérifications seront impliquées pour empêcher toute création inappropriée
De plus, Apple a introduit plusieurs contrôles pour empêcher la création de matériel protégé par le droit d'auteur et réservé aux adultes. Image Playground comprend des garanties qui analysent le contenu généré et restreignent la création de ce contenu inapproprié.
De plus, les utilisateurs auront la possibilité de fournir des commentaires, leur permettant de signaler toute création involontaire de contenu protégé par le droit d'auteur ou réservé aux adultes.
Lors de récentes discussions avec des personnes proches du dossier, il a été révélé qu'Apple avait ajouté ces contrôles de droits d'auteur et de contenu pour adultes tard dans le processus de développement d'Image Playground. Les premières versions de l'outil ne disposaient pas de ces mesures de sécurité, car elles n'étaient pas destinées à un usage externe.