På WWDC 2024 kom Apple med flere spennende kunngjøringer angående de kommende AI-funksjonene, en av dem er Image Playground AI-kunstgeneratoren i iOS 18.
Dette nye verktøyet har som mål å gjøre det mulig for brukere å lage unike AI-genererte bilder jevnt i forskjellige Apple-applikasjoner. Med Image Playground søker Apple å gi et innovativt og kreativt utløp samtidig som det sikrer ansvarlig AI-bruk.
Merking av AI-genererte bilder gjennom metadata
For å løse bekymringer om identifisering av AI-genererte bilder, planlegger Apple å merke disse bildene ved hjelp av metadata.
Under en briefing med Apple ble det avslørt at selskapet har til hensikt å merke AI-genererte bilder gjennom bildemetadata, også kjent som EXIF-data. Disse metadataene vil vise "Apple Image Playground" som bildekilde, noe som tydelig indikerer at bildet ble opprettet ved bruk av AI.
Et av hovedmålene til Image Playground er å forhindre spredning av feilinformasjon gjennom AI-genererte bilder. For å oppnå dette vil Image Playground kun generere bilder i ikke-realistiske stiler som animasjon, illustrasjon og skisse.
Utviklingen av verktøyet innebar samarbeid med digitale kunstnere for å lage bilder i spesifikke stiler, som deretter ble brukt til å trene opp Apples generative AI-programvare. Ved å gjøre det har Apple gjort det vanskelig for brukere å generere fotorealistiske bilder som kan forveksles med virkelige objekter eller steder.
Flere kontroller vil bli involvert for å forhindre upassende oppretting
I tillegg har Apple innført flere kontroller for å forhindre oppretting av opphavsrettsbeskyttet materiale og voksent materiale. Image Playground inkluderer sikkerhetstiltak som analyserer det genererte innholdet og begrenser opprettelsen av slikt upassende innhold.
I tillegg vil brukere ha muligheten til å gi tilbakemelding, slik at de kan rapportere utilsiktet oppretting av opphavsrettsbeskyttet eller voksent innhold.
I nylige diskusjoner med folk som er kjent med saken, ble det avslørt at Apple la til disse kontrollene for opphavsrett og voksent innhold sent i utviklingsprosessen til Image Playground. Tidlige versjoner av verktøyet hadde ikke disse sikkerhetstiltakene på plass, da de ikke var ment for ekstern bruk.