Na WWDC 2024, a Apple fez vários anúncios interessantes sobre seus próximos recursos de IA, um dos quais é o gerador de arte Image Playground AI no iOS 18.
Esta nova ferramenta visa permitir que os usuários criem imagens exclusivas geradas por IA sem problemas em vários aplicativos da Apple. Com o Image Playground, a Apple busca fornecer uma saída inovadora e criativa, garantindo ao mesmo tempo o uso responsável da IA.
Rotulagem de imagens geradas por IA por meio de metadados
Para responder às preocupações sobre a identificação de imagens geradas por IA, a Apple planeja marcar essas imagens usando metadados.
Durante um briefing com a Apple, foi revelado que a empresa pretende rotular imagens geradas por IA por meio de metadados de imagem, também conhecidos como dados EXIF. Esses metadados exibirão "Apple Image Playground" como fonte da imagem, indicando claramente que a imagem foi criada usando IA.
Um dos principais objetivos do Image Playground é evitar a propagação de desinformação através de imagens geradas por IA. Para conseguir isso, o Image Playground gerará apenas imagens em estilos não realistas, como Animação, Ilustração e Esboço.
O desenvolvimento da ferramenta envolveu a colaboração com artistas digitais para criar imagens em estilos específicos, que foram então usadas para treinar o software generativo de IA da Apple. Ao fazer isso, a Apple tornou difícil para os usuários gerar imagens fotorrealistas que podem ser confundidas com objetos ou lugares da vida real.
Múltiplas verificações serão envolvidas para evitar criação inadequada
Além disso, a Apple introduziu várias verificações para impedir a criação de material adulto e protegido por direitos autorais. O Image Playground inclui salvaguardas que analisam o conteúdo gerado e restringem a criação de tal conteúdo impróprio.
Além disso, os usuários terão a opção de fornecer feedback, permitindo-lhes denunciar qualquer criação não intencional de conteúdo adulto ou protegido por direitos autorais.
Em discussões recentes com pessoas familiarizadas com o assunto, foi revelado que a Apple adicionou essas verificações de direitos autorais e conteúdo adulto no final do processo de desenvolvimento do Image Playground. As primeiras versões da ferramenta não tinham essas medidas de segurança em vigor, pois não se destinavam ao uso externo.