På WWDC 2024 kom Apple med flere spændende meddelelser om dets kommende AI-funktioner, hvoraf en er Image Playground AI-kunstgeneratoren i iOS 18.
Dette nye værktøj har til formål at gøre det muligt for brugere at skabe unikke AI-genererede billeder uden problemer i forskellige Apple-applikationer. Med Image Playground søger Apple at give en innovativ og kreativ afsætningsmulighed og samtidig sikre ansvarlig AI-brug.
Mærkning af AI-genererede billeder via metadata
For at imødekomme bekymringer om identifikation af AI-genererede billeder planlægger Apple at markere disse billeder ved hjælp af metadata.
Under en briefing med Apple blev det afsløret, at virksomheden har til hensigt at mærke AI-genererede billeder gennem billedmetadata, også kendt som EXIF-data. Disse metadata vil vise "Apple Image Playground" som billedkilde, hvilket tydeligt indikerer, at billedet blev oprettet ved hjælp af AI.
Et af hovedformålene med Image Playground er at forhindre spredning af misinformation gennem AI-genererede billeder. For at opnå dette vil Image Playground kun generere billeder i ikke-realistiske stilarter såsom Animation, Illustration og Sketch.
Udviklingen af værktøjet involverede samarbejde med digitale kunstnere for at skabe billeder i bestemte stilarter, som derefter blev brugt til at træne Apples generative AI-software. Ved at gøre det har Apple gjort det svært for brugere at generere fotorealistiske billeder, der kan forveksles med virkelige objekter eller steder.
Flere kontroller vil blive involveret for at forhindre upassende oprettelse
Desuden har Apple indført flere kontroller for at forhindre oprettelsen af ophavsretligt beskyttet og voksent materiale. Image Playground indeholder sikkerhedsforanstaltninger, der analyserer det genererede indhold og begrænser oprettelsen af sådant upassende indhold.
Derudover vil brugere have mulighed for at give feedback, hvilket giver dem mulighed for at rapportere enhver utilsigtet oprettelse af ophavsretsbeskyttet eller voksent indhold.
I de seneste diskussioner med folk, der er bekendt med sagen, blev det afsløret, at Apple tilføjede disse kontroller af ophavsret og voksenindhold sent i udviklingsprocessen af Image Playground. Tidlige versioner af værktøjet havde ikke disse sikkerhedsforanstaltninger på plads, da de ikke var beregnet til ekstern brug.