Op WWDC 2024 heeft Apple verschillende opwindende aankondigingen gedaan over de komende AI-functies, waaronder de Image Playground AI-kunstgenerator in iOS 18.
Deze nieuwe tool is bedoeld om gebruikers in staat te stellen soepel unieke, door AI gegenereerde afbeeldingen te maken binnen verschillende Apple-applicaties. Met Image Playground wil Apple een innovatieve en creatieve uitlaatklep bieden en tegelijkertijd een verantwoord gebruik van AI garanderen.
Door AI gegenereerde afbeeldingen labelen via metadata
Om de zorgen over de identificatie van door AI gegenereerde afbeeldingen weg te nemen, is Apple van plan deze afbeeldingen te markeren met behulp van metagegevens.
Tijdens een briefing met Apple werd onthuld dat het bedrijf van plan is om door AI gegenereerde beelden te labelen via metagegevens van afbeeldingen, ook wel bekend als EXIF-gegevens. In deze metagegevens wordt "Apple Image Playground" weergegeven als de afbeeldingsbron, wat duidelijk aangeeft dat de afbeelding is gemaakt met behulp van AI.
Een van de belangrijkste doelstellingen van Image Playground is het voorkomen van de verspreiding van verkeerde informatie via door AI gegenereerde beelden. Om dit te bereiken genereert Image Playground alleen afbeeldingen in niet-realistische stijlen zoals animatie, illustratie en schets.
Bij de ontwikkeling van de tool werd samengewerkt met digitale kunstenaars om afbeeldingen in specifieke stijlen te creëren, die vervolgens werden gebruikt om de generatieve AI-software van Apple te trainen. Door dit te doen heeft Apple het voor gebruikers moeilijk gemaakt om fotorealistische beelden te genereren die kunnen worden aangezien voor objecten of plaatsen uit het echte leven.
Er zullen meerdere controles plaatsvinden om ongepaste creatie te voorkomen
Bovendien heeft Apple meerdere controles ingevoerd om de creatie van auteursrechtelijk beschermd materiaal en materiaal voor volwassenen te voorkomen. Image Playground bevat waarborgen die de gegenereerde inhoud analyseren en de creatie van dergelijke ongepaste inhoud beperken.
Bovendien hebben gebruikers de mogelijkheid om feedback te geven, zodat ze elke onbedoelde creatie van auteursrechtelijk beschermde inhoud of inhoud voor volwassenen kunnen melden.
Uit recente discussies met mensen die bekend zijn met de zaak is gebleken dat Apple deze controles op auteursrechten en inhoud voor volwassenen laat in het ontwikkelingsproces van Image Playground heeft toegevoegd. Vroege versies van de tool beschikten niet over deze beveiligingsmaatregelen, omdat ze niet bedoeld waren voor extern gebruik.