WWDC 2024で、Appleは今後のAI機能に関していくつかのエキサイティングな発表を行いました。その1つが、iOS 18のImage Playground AIアートジェネレーターです。
この新しいツールは、ユーザーがさまざまな Apple アプリケーション内で AI 生成のユニークな画像をスムーズに作成できるようにすることを目的としています。Apple は Image Playground によって、責任ある AI の使用を確保しながら、革新的で創造的な表現方法を提供することを目指しています。
メタデータによる AI 生成画像のラベル付け
AI 生成画像の識別に関する懸念に対処するため、Apple はメタデータを使用してこれらの画像をマークする予定です。
Appleとのブリーフィングで、同社がAI生成画像に画像メタデータ（別名EXIFデータ）を通じてラベルを付ける予定であることが明らかになった。このメタデータには画像ソースとして「Apple Image Playground」と表示され、画像がAIを使用して作成されたことが明確に示される。
Image Playground の主な目的の 1 つは、AI によって生成された画像を通じて誤った情報が広まるのを防ぐことです。これを実現するために、Image Playground では、アニメーション、イラスト、スケッチなどの非現実的なスタイルの画像のみを生成します。
このツールの開発には、デジタルアーティストとのコラボレーションが含まれ、特定のスタイルの画像が作成され、それがAppleの生成AIソフトウェアのトレーニングに使用されました。これにより、Appleはユーザーが現実の物体や場所と間違えられるような写実的な画像を生成することを困難にしました。
不適切な作成を防ぐために複数のチェックが行われます
さらに、Apple は著作権で保護されたコンテンツやアダルトコンテンツの作成を防ぐための複数のチェックを導入しました。Image Playground には、生成されたコンテンツを分析し、そのような不適切なコンテンツの作成を制限する安全対策が含まれています。
さらに、ユーザーにはフィードバックを提供するオプションがあり、著作権で保護されたコンテンツやアダルトコンテンツを意図せずに作成したことを報告することができます。
この問題に詳しい人々との最近の話し合いで、Apple が Image Playground の開発プロセスの終盤でこれらの著作権およびアダルト コンテンツのチェックを追加したことが明らかになりました。このツールの初期バージョンには、外部での使用を想定していなかったため、これらのセキュリティ対策は導入されていませんでした。