Auf der WWDC 2024 machte Apple mehrere spannende Ankündigungen zu seinen kommenden KI-Funktionen, eine davon ist der KI-Kunstgenerator Image Playground in iOS 18.
Dieses neue Tool soll es Benutzern ermöglichen, einzigartige KI-generierte Bilder problemlos in verschiedenen Apple-Anwendungen zu erstellen. Mit Image Playground möchte Apple eine innovative und kreative Möglichkeit bieten und gleichzeitig einen verantwortungsvollen Einsatz von KI sicherstellen.
Beschriftung von KI-generierten Bildern durch Metadaten
Um Bedenken hinsichtlich der Identifizierung KI-generierter Bilder auszuräumen, plant Apple, diese Bilder mithilfe von Metadaten zu kennzeichnen.
Während eines Briefings mit Apple wurde bekannt, dass das Unternehmen beabsichtigt, KI-generierte Bilder durch Bildmetadaten, auch EXIF-Daten genannt, zu kennzeichnen. Diese Metadaten zeigen „Apple Image Playground“ als Bildquelle an, was deutlich darauf hinweist, dass das Bild mithilfe von KI erstellt wurde.
Eines der Hauptziele von Image Playground besteht darin, die Verbreitung von Fehlinformationen durch KI-generierte Bilder zu verhindern. Um dies zu erreichen, generiert Image Playground nur Bilder in nicht-realistischen Stilen wie Animation, Illustration und Skizze.
Bei der Entwicklung des Tools arbeitete Apple mit Digitalkünstlern zusammen, um Bilder in bestimmten Stilen zu erstellen, die dann zum Trainieren der generativen KI-Software von Apple verwendet wurden. Auf diese Weise hat Apple es den Benutzern erschwert, fotorealistische Bilder zu erstellen, die mit realen Objekten oder Orten verwechselt werden können.
Es werden mehrere Prüfungen durchgeführt, um eine unangemessene Erstellung zu verhindern
Darüber hinaus hat Apple mehrere Kontrollen eingeführt, um die Erstellung von urheberrechtlich geschütztem Material und Material für Erwachsene zu verhindern. Image Playground enthält Sicherheitsvorkehrungen, die den generierten Inhalt analysieren und die Erstellung solcher unangemessenen Inhalte einschränken.
Darüber hinaus haben Benutzer die Möglichkeit, Feedback zu geben und so die unbeabsichtigte Erstellung von urheberrechtlich geschütztem oder nicht jugendfreiem Inhalt zu melden.
In jüngsten Gesprächen mit mit der Angelegenheit vertrauten Personen wurde bekannt, dass Apple diese Prüfungen auf Urheberrechte und Inhalte für Erwachsene erst spät im Entwicklungsprozess von Image Playground hinzugefügt hat. Frühere Versionen des Tools verfügten nicht über diese Sicherheitsmaßnahmen, da sie nicht für die externe Verwendung gedacht waren.