Di WWDC 2024, Apple memberikan beberapa pengumuman menarik terkait fitur AI mendatang, salah satunya adalah generator seni AI Image Playground di iOS 18.
Alat baru ini bertujuan untuk memungkinkan pengguna membuat gambar unik yang dihasilkan AI dengan lancar dalam berbagai aplikasi Apple. Dengan Image Playground, Apple berupaya menyediakan outlet yang inovatif dan kreatif sekaligus memastikan penggunaan AI yang bertanggung jawab.
Memberi Label pada Gambar yang Dihasilkan AI melalui Metadata
Untuk mengatasi kekhawatiran tentang identifikasi gambar yang dihasilkan AI, Apple berencana menandai gambar tersebut menggunakan metadata.
Selama pengarahan dengan Apple, terungkap bahwa perusahaan bermaksud memberi label pada citra yang dihasilkan AI melalui metadata gambar, yang juga dikenal sebagai data EXIF. Metadata ini akan menampilkan "Apple Image Playground" sebagai sumber gambar, yang secara jelas menunjukkan bahwa gambar tersebut dibuat menggunakan AI.
Salah satu tujuan utama Image Playground adalah mencegah penyebaran misinformasi melalui gambar yang dihasilkan AI. Untuk mencapai hal ini, Image Playground hanya akan menghasilkan gambar dalam gaya non-realistis seperti Animasi, Ilustrasi, dan Sketsa.
Pengembangan alat ini melibatkan kolaborasi dengan seniman digital untuk membuat gambar dengan gaya tertentu, yang kemudian digunakan untuk melatih perangkat lunak AI generatif Apple. Dengan melakukan hal ini, Apple mempersulit pengguna untuk menghasilkan gambar fotorealistik yang dapat disalahartikan sebagai objek atau tempat di kehidupan nyata.
Beberapa Pemeriksaan Akan Dilibatkan untuk Mencegah Pembuatan yang Tidak Pantas
Selain itu, Apple telah menerapkan beberapa pemeriksaan untuk mencegah pembuatan materi berhak cipta dan dewasa. Image Playground mencakup perlindungan yang menganalisis konten yang dihasilkan dan membatasi pembuatan konten yang tidak pantas tersebut.
Selain itu, pengguna akan memiliki opsi untuk memberikan umpan balik, sehingga mereka dapat melaporkan setiap pembuatan konten berhak cipta atau konten dewasa yang tidak disengaja.
Dalam diskusi baru-baru ini dengan orang-orang yang mengetahui masalah ini, terungkap bahwa Apple menambahkan pemeriksaan hak cipta dan konten dewasa di akhir proses pengembangan Image Playground. Versi awal alat ini tidak menerapkan langkah-langkah keamanan ini, karena tidak dimaksudkan untuk penggunaan eksternal.