Alla WWDC 2024, Apple ha fatto diversi annunci interessanti riguardanti le sue imminenti funzionalità IA, una delle quali è il generatore artistico AI Image Playground in iOS 18.
Questo nuovo strumento mira a consentire agli utenti di creare immagini uniche generate dall’intelligenza artificiale senza problemi all’interno di varie applicazioni Apple. Con Image Playground, Apple cerca di fornire uno sbocco innovativo e creativo garantendo al tempo stesso un utilizzo responsabile dell’intelligenza artificiale.
Etichettatura delle immagini generate dall'intelligenza artificiale tramite metadati
Per rispondere alle preoccupazioni sull’identificazione delle immagini generate dall’intelligenza artificiale, Apple prevede di contrassegnare queste immagini utilizzando i metadati.
Durante un briefing con Apple, è stato rivelato che la società intende etichettare le immagini generate dall’intelligenza artificiale attraverso metadati di immagine, noti anche come dati EXIF. Questi metadati mostreranno "Apple Image Playground" come origine dell'immagine, indicando chiaramente che l'immagine è stata creata utilizzando l'intelligenza artificiale.
Uno degli obiettivi chiave di Image Playground è prevenire la diffusione della disinformazione attraverso le immagini generate dall'intelligenza artificiale. Per raggiungere questo obiettivo, Image Playground genererà solo immagini in stili non realistici come Animazione, Illustrazione e Schizzo.
Lo sviluppo dello strumento ha comportato la collaborazione con artisti digitali per creare immagini in stili specifici, che sono state poi utilizzate per addestrare il software di intelligenza artificiale generativa di Apple. In questo modo, Apple ha reso difficile per gli utenti generare immagini fotorealistiche che possano essere scambiate per oggetti o luoghi della vita reale.
Verranno effettuati controlli multipli per impedire la creazione inappropriata
Inoltre, Apple ha introdotto molteplici controlli per impedire la creazione di materiale protetto da copyright e per adulti. Image Playground include misure di sicurezza che analizzano il contenuto generato e limitano la creazione di tale contenuto inappropriato.
Inoltre, gli utenti avranno la possibilità di fornire feedback, consentendo loro di segnalare qualsiasi creazione involontaria di contenuti protetti da copyright o per adulti.
Nelle recenti discussioni con persone che hanno familiarità con la questione, è emerso che Apple ha aggiunto questi controlli sul copyright e sui contenuti per adulti in una fase avanzata del processo di sviluppo di Image Playground. Le prime versioni dello strumento non prevedevano queste misure di sicurezza, poiché non erano destinate all'uso esterno.