Недавно Meta подверглась критике за то, что на своих платформах в социальных сетях по ошибке пометила настоящие фотографии как «Сделано с помощью ИИ». Фотографы жаловались на эту проблему, указывая на то, что их изображениям ошибочно присвоен ярлык AI.
Протест пользователей и фотографов
Пользователи и фотографы выразили обеспокоенность и разочарование по поводу практики маркировки Meta. Они утверждают, что ярлык «Сделано с помощью ИИ» прикрепляется к фотографиям, которые были созданы не с использованием инструментов ИИ, что вызывает путаницу среди зрителей.
Фотографы утверждают, что простое редактирование или использование инструментов, не связанных с искусственным интеллектом, не должны подпадать под ярлык «Сделано с использованием искусственного интеллекта». Ной Калина, фотограф, выразил свою обеспокоенность на Threads, заявив, что если даже «отретушированные» фотографии будут считаться «Сделанными с помощью ИИ», то этот термин теряет свое значение .
Одним из таких примеров является фотография, сделанная бывшим фотографом Белого дома Питом Соузой, которая была ошибочно отмечена как созданная искусственным интеллектом.
Другой случай связан с фотографией команды Kolkata Knight Riders, выигравшей турнир Индийской Премьер-лиги по крикету, где Мета неправильно добавила надпись «Сделано с помощью искусственного интеллекта». Интересно, что эти ярлыки появляются только при просмотре изображений на мобильных устройствах, а не в Интернете.
Соуза обнаружил, что снять флажок с метки и удалить ее невозможно. Он подозревает, что алгоритм Meta может сработать при использовании инструмента обрезки Adobe и сохранении изображений в формате JPEG.
Более того, Meta также ошибочно называет настоящие фотографии созданными искусственным интеллектом, когда фотографы используют для создания инструменты искусственного интеллекта, такие как Generative Fill от Adobe.
Ответ Меты
Кейт Маклафлин, представитель Meta, признала, что компания рассматривает ответ и оценивает ее подход, чтобы гарантировать, что этикетки могут отражать количество ИИ, используемого в изображении, в зависимости от факта.
Meta активно работает с другими компаниями над улучшением процесса маркировки и приведением своих намерений в соответствие с отраслевыми стандартами.
Подход Meta к идентификации и маркировке контента, созданного искусственным интеллектом
Во-первых, пользователи должны самостоятельно раскрывать фотореалистичные видео или реалистично звучащие аудио, созданные или измененные с помощью ИИ. Отсутствие маркировки такого контента может повлечь за собой штрафные санкции.
Однако это требование не распространяется на нефотореалистичный контент, созданный ИИ, например видеоролики, созданные в мультяшном стиле.
Помимо самораскрытия, алгоритм Meta самостоятельно обнаруживает использование ИИ. Контент, содержащий стандартные сигналы, указывающие на создание или редактирование ИИ, помечен как «Сделано с использованием ИИ».
Сюда входит контент, созданный или отредактированный с использованием сторонних инструментов искусственного интеллекта. Инструменты обнаружения Meta считывают метаданные фотографий для идентификации изображений, созданных ИИ, даже если они были изменены с помощью ИИ, но не созданы полностью.
Несмотря на этот двусторонний подход, принятый Meta, пользователи могут вообще отказаться от ярлыка «Сделано с помощью ИИ», даже если он применен правильно.
Более того, на платформе нет возможности удалить или снять флажок с метки, что заставляет пользователей искать обходные пути, такие как копирование и вставка изображения в пустой документ Photoshop или загрузка снимка экрана вместо исходного изображения.