ที่งาน WWDC 2024 Apple ได้ประกาศที่น่าตื่นเต้นหลายประการเกี่ยวกับคุณสมบัติ AI ที่กำลังจะมาถึง ซึ่งหนึ่งในนั้นคือโปรแกรมสร้างงานศิลปะ Image Playground AI ใน iOS 18
เครื่องมือใหม่นี้มีจุดมุ่งหมายเพื่อให้ผู้ใช้สามารถสร้างรูปภาพที่สร้างโดย AI ที่เป็นเอกลักษณ์ได้อย่างราบรื่นภายในแอปพลิเคชันต่างๆ ของ Apple ด้วย Image Playground นั้น Apple พยายามที่จะจัดหาช่องทางที่สร้างสรรค์และสร้างสรรค์ ในขณะเดียวกันก็รับประกันการใช้งาน AI อย่างมีความรับผิดชอบ
การติดป้ายกำกับรูปภาพที่สร้างโดย AI ผ่านเมตาดาต้า
เพื่อจัดการกับข้อกังวลเกี่ยวกับการระบุรูปภาพที่สร้างโดย AI Apple วางแผนที่จะทำเครื่องหมายรูปภาพเหล่านี้โดยใช้ข้อมูลเมตา
ในระหว่างการบรรยายสรุปกับ Apple มีการเปิดเผยว่าบริษัทตั้งใจที่จะติดป้ายกำกับภาพที่สร้างโดย AI ผ่านข้อมูลเมตาของภาพหรือที่เรียกว่าข้อมูล EXIF ข้อมูลเมตานี้จะแสดง "Apple Image Playground" เป็นแหล่งที่มาของรูปภาพ ซึ่งระบุได้อย่างชัดเจนว่ารูปภาพนั้นสร้างขึ้นโดยใช้ AI
วัตถุประสงค์หลักประการหนึ่งของ Image Playground คือการป้องกันการแพร่กระจายข้อมูลที่ไม่ถูกต้องผ่านรูปภาพที่สร้างโดย AI เพื่อให้บรรลุเป้าหมายนี้ Image Playground จะสร้างเฉพาะรูปภาพในรูปแบบที่ไม่สมจริง เช่น แอนิเมชัน ภาพประกอบ และภาพร่าง
การพัฒนาเครื่องมือนี้เกี่ยวข้องกับความร่วมมือกับศิลปินดิจิทัลเพื่อสร้างภาพในสไตล์เฉพาะ ซึ่งจากนั้นจะนำไปใช้ในการฝึกซอฟต์แวร์ generative AI ของ Apple ด้วยการทำเช่นนี้ Apple ทำให้ผู้ใช้สร้างภาพเสมือนจริงที่อาจถูกเข้าใจผิดว่าเป็นวัตถุหรือสถานที่ในชีวิตจริงได้ยาก
การตรวจสอบหลายครั้งจะเกี่ยวข้องเพื่อป้องกันการสร้างที่ไม่เหมาะสม
นอกจากนี้ Apple ยังได้แนะนำการตรวจสอบหลายครั้งเพื่อป้องกันการสร้างเนื้อหาที่มีลิขสิทธิ์และเนื้อหาสำหรับผู้ใหญ่ Image Playground มีการป้องกันที่วิเคราะห์เนื้อหาที่สร้างขึ้นและจำกัดการสร้างเนื้อหาที่ไม่เหมาะสมดังกล่าว
นอกจากนี้ ผู้ใช้จะมีตัวเลือกในการแสดงความคิดเห็น โดยอนุญาตให้พวกเขารายงานการสร้างเนื้อหาที่มีลิขสิทธิ์หรือเนื้อหาสำหรับผู้ใหญ่โดยไม่ได้ตั้งใจ
ในการพูดคุยล่าสุดกับผู้ที่คุ้นเคยกับเรื่องนี้ พบว่า Apple ได้เพิ่มการตรวจสอบลิขสิทธิ์และเนื้อหาสำหรับผู้ใหญ่เหล่านี้ในกระบวนการพัฒนา Image Playground ล่าช้า เครื่องมือเวอร์ชันก่อนหน้าไม่มีมาตรการรักษาความปลอดภัยเหล่านี้ เนื่องจากไม่ได้มีไว้สำหรับการใช้งานภายนอก