Nylig har Meta blitt utsatt for kritikk for feilaktig å merke ekte bilder som 'Laget med AI' på sosiale medieplattformer. Fotografer har fremmet klager på dette problemet, og påpekt at bildene deres er feilaktig merket med AI-etiketten.
Bruker- og fotograf-rask
Brukere og fotografer har uttrykt bekymring og skuffelse over Metas merkingspraksis. De argumenterer for at "Made with AI"-etiketten blir festet til bilder som ikke er laget med AI-verktøy, noe som skaper forvirring blant seerne.
Fotografer hevder at enkle redigeringer eller bruk av ikke-AI-verktøy ikke bør være underlagt "Made with AI"-etiketten. Noah Kalina, en fotograf, ga uttrykk for bekymringene sine på Threads, og uttalte at hvis selv 'retusjerte' bilder anses som 'laget med kunstig intelligens', så mister begrepet sin betydning .
Et slikt eksempel er et bilde tatt av tidligere Det hvite hus-fotograf Pete Souza, som feilaktig ble merket som AI-generert.
En annen sak involverte et bilde av Kolkata Knight Riders som vant den indiske Premier League Cricket-turneringen, der Meta feilaktig la til "Made with AI"-etiketten. Interessant nok vises disse etikettene bare når du ser på bildene på mobil, ikke på nettet.
Souza oppdaget at det ikke var mulig å fjerne merket for å fjerne etiketten. Han mistenker at Metas algoritme kan utløses når du bruker Adobes beskjæringsverktøy og lagrer bilder som JPEG-filer.
Dessuten har Meta også feilaktig merket ekte bilder som AI-genererte når fotografer bruker AI-verktøy for generering, for eksempel Adobes Generative Fill.
Metas svar
Kate McLaughlin, en talsperson for Meta, erkjente at selskapet vurderte responsen, og de evaluerer tilnærmingen deres for å sikre at etikettene kan gjenspeile mengden AI som brukes i et bilde i henhold til faktum.
Meta jobber aktivt med andre selskaper for å forbedre merkeprosessen og tilpasse intensjonene til industristandarder.
Metas tilnærming til å identifisere og merke AI-generert innhold
For det første kreves det at brukere selv avslører fotorealistiske videoer eller realistisk klingende lyd opprettet eller modifisert ved hjelp av AI. Unnlatelse av å merke slikt innhold kan føre til straffer.
Dette kravet gjelder imidlertid ikke for ikke-fotorealistisk AI-generert innhold, for eksempel videoer laget i tegneseriestil.
I tillegg til selvavsløring, oppdager Metas algoritme AI-bruk uavhengig. Innhold som inneholder industristandardsignaler som indikerer AI-generering eller -redigering, er merket som «Laget med AI».
Dette inkluderer innhold opprettet eller redigert ved hjelp av tredjeparts AI-verktøy. Metas deteksjonsverktøy leser metadataene til bilder for å identifisere AI-genererte bilder, selv om de ble endret ved hjelp av AI, men ikke fullt generert.
Til tross for denne todelte tilnærmingen brukt av Meta, kan brukere avvise "Made with AI"-etiketten helt, selv når den brukes riktig.
Dessuten er det ikke noe alternativ på plattformen for å fjerne eller fjerne merket for etiketten, noe som fører til at brukere søker løsninger som å kopiere og lime inn bildet i et tomt Photoshop-dokument eller laste opp et skjermbilde i stedet for det originale bildet.