WWDC 2024에서 Apple은 곧 출시될 AI 기능에 관해 몇 가지 흥미로운 발표를 했습니다. 그 중 하나는 iOS 18의 Image Playground AI 아트 생성기입니다.
이 새로운 도구는 사용자가 다양한 Apple 애플리케이션 내에서 고유한 AI 생성 이미지를 원활하게 만들 수 있도록 하는 것을 목표로 합니다. Image Playground를 통해 Apple은 책임감 있는 AI 사용을 보장하는 동시에 혁신적이고 창의적인 수단을 제공하고자 합니다.
메타데이터를 통해 AI 생성 이미지에 라벨링
AI 생성 이미지 식별에 대한 우려를 해결하기 위해 Apple은 메타데이터를 사용하여 이러한 이미지를 표시할 계획입니다.
Apple과의 브리핑에서 회사는 EXIF 데이터라고도 알려진 이미지 메타데이터를 통해 AI 생성 이미지에 라벨을 붙일 계획이라는 것이 밝혀졌습니다. 이 메타데이터는 "Apple Image Playground"를 이미지 소스로 표시하여 해당 이미지가 AI를 사용하여 생성되었음을 명확하게 나타냅니다.
Image Playground의 주요 목표 중 하나는 AI 생성 이미지를 통한 잘못된 정보의 확산을 방지하는 것입니다. 이를 달성하기 위해 Image Playground는 애니메이션, 일러스트레이션, 스케치와 같은 비현실적인 스타일의 이미지만 생성합니다.
도구 개발에는 디지털 아티스트와의 협력을 통해 특정 스타일의 이미지를 생성한 후 Apple의 생성 AI 소프트웨어를 훈련하는 데 사용했습니다. 이를 통해 Apple은 사용자가 실제 물체나 장소로 착각할 수 있는 사실적인 이미지를 생성하는 것을 어렵게 만들었습니다.
부적절한 생성을 방지하기 위해 여러 검사가 필요합니다.
또한 Apple은 저작권이 있는 자료 및 성인용 자료의 생성을 방지하기 위해 여러 가지 검사를 도입했습니다. Image Playground에는 생성된 콘텐츠를 분석하고 그러한 부적절한 콘텐츠의 생성을 제한하는 보호 장치가 포함되어 있습니다.
또한 사용자는 피드백을 제공하여 의도하지 않은 저작권 보호 콘텐츠 또는 성인 콘텐츠 생성을 신고할 수 있습니다.
최근 이 문제에 정통한 사람들과의 논의에서 Apple이 Image Playground 개발 과정 후반에 이러한 저작권 및 성인용 콘텐츠 검사를 추가한 것으로 밝혀졌습니다. 도구의 초기 버전에는 외부 사용을 위한 것이 아니기 때문에 이러한 보안 조치가 적용되지 않았습니다.