На WWDC 2024 компания Apple сделала несколько интересных объявлений о своих будущих функциях искусственного интеллекта, одной из которых является генератор искусств AI Image Playground в iOS 18.
Этот новый инструмент призван дать пользователям возможность беспрепятственно создавать уникальные изображения, сгенерированные искусственным интеллектом, в различных приложениях Apple. Создавая Image Playground, Apple стремится предоставить инновационный и творческий выход, обеспечивая при этом ответственное использование ИИ.
Маркировка изображений, созданных ИИ, с помощью метаданных
Чтобы решить проблемы, связанные с идентификацией изображений, созданных искусственным интеллектом, Apple планирует помечать эти изображения с помощью метаданных.
Во время брифинга с Apple выяснилось, что компания намерена маркировать изображения, созданные искусственным интеллектом, с помощью метаданных изображения, также известных как данные EXIF. В этих метаданных в качестве источника изображения будет отображаться «Apple Image Playground», что четко указывает на то, что изображение было создано с использованием искусственного интеллекта.
Одна из ключевых задач Image Playground — предотвратить распространение дезинформации через изображения, созданные ИИ. Для этого Image Playground будет генерировать изображения только в нереалистичных стилях, таких как анимация, иллюстрация и эскиз.
Разработка инструмента включала сотрудничество с цифровыми художниками для создания изображений в определенных стилях, которые затем использовались для обучения генеративному программному обеспечению искусственного интеллекта Apple. Таким образом, Apple затруднила пользователям создание фотореалистичных изображений, которые можно принять за реальные объекты или места.
Для предотвращения несанкционированного создания будут задействованы множественные проверки.
Кроме того, Apple ввела многочисленные проверки для предотвращения создания материалов для взрослых и защищенных авторским правом. Image Playground включает средства защиты, которые анализируют сгенерированный контент и ограничивают создание такого нежелательного контента.
Кроме того, пользователи будут иметь возможность оставлять отзывы, что позволит им сообщать о любом непреднамеренном создании контента, защищенного авторским правом или контента для взрослых.
В недавних обсуждениях с людьми, знакомыми с этим вопросом, выяснилось, что Apple добавила эти проверки авторских прав и контента для взрослых на поздних стадиях разработки Image Playground. Ранние версии инструмента не содержали этих мер безопасности, поскольку они не предназначались для внешнего использования.