En la WWDC 2024, Apple hizo varios anuncios interesantes sobre sus próximas funciones de IA, una de las cuales es el generador de arte Image Playground AI en iOS 18.
Esta nueva herramienta tiene como objetivo permitir a los usuarios crear imágenes únicas generadas por IA sin problemas dentro de varias aplicaciones de Apple. Con Image Playground, Apple busca brindar una salida innovadora y creativa al tiempo que garantiza el uso responsable de la IA.
Etiquetado de imágenes generadas por IA a través de metadatos
Para abordar las preocupaciones sobre la identificación de imágenes generadas por IA, Apple planea marcar estas imágenes mediante metadatos.
Durante una sesión informativa con Apple, se reveló que la compañía tiene la intención de etiquetar las imágenes generadas por IA a través de metadatos de imágenes, también conocidos como datos EXIF. Estos metadatos mostrarán "Apple Image Playground" como fuente de la imagen, lo que indica claramente que la imagen se creó utilizando IA.
Uno de los objetivos clave de Image Playground es evitar la difusión de información errónea a través de imágenes generadas por IA. Para lograr esto, Image Playground solo generará imágenes en estilos no realistas como Animación, Ilustración y Boceto.
El desarrollo de la herramienta implicó la colaboración con artistas digitales para crear imágenes en estilos específicos, que luego se utilizaron para entrenar el software de inteligencia artificial generativa de Apple. Al hacerlo, Apple ha dificultado a los usuarios la generación de imágenes fotorrealistas que pueden confundirse con objetos o lugares de la vida real.
Se realizarán múltiples controles para evitar la creación inapropiada
Además, Apple ha introducido múltiples controles para evitar la creación de material para adultos y con derechos de autor. Image Playground incluye salvaguardas que analizan el contenido generado y restringen la creación de dicho contenido inapropiado.
Además, los usuarios tendrán la opción de proporcionar comentarios, lo que les permitirá informar cualquier creación involuntaria de contenido para adultos o con derechos de autor.
En discusiones recientes con personas familiarizadas con el asunto, se reveló que Apple agregó estas comprobaciones de derechos de autor y contenido para adultos en una etapa avanzada del proceso de desarrollo de Image Playground. Las primeras versiones de la herramienta no incluían estas medidas de seguridad, ya que no estaban destinadas a uso externo.