최근 메타(Meta)는 자사 소셜미디어 플랫폼에서 실제 사진을 'Made with AI'로 잘못 표시해 비난을 받기도 했다. 사진작가들은 자신의 이미지에 AI 라벨이 잘못 태그되었다고 지적하면서 이 문제에 대한 불만을 제기해 왔습니다.
사용자와 사진작가의 항의
사용자와 사진가들은 Meta의 라벨링 관행에 대한 우려와 실망감을 표명했습니다. AI 도구를 활용해 제작하지 않은 사진에 'Made with AI' 라벨이 붙어 시청자들에게 혼란을 주고 있다는 주장이다.
사진작가들은 단순한 편집이나 AI가 아닌 도구의 사용에는 'Made with AI' 라벨이 적용되어서는 안 된다고 주장합니다. 사진작가 노아 칼리나(Noah Kalina)는 Threads에 대해 우려를 표하며 '수정된' 사진이라도 'AI로 만든' 사진으로 간주된다면 이 용어는 그 의미를 잃게 된다고 말했습니다.
그러한 예 중 하나는 전직 백악관 사진가인 Pete Souza가 찍은 사진인데, 이 사진은 AI가 생성한 것으로 잘못 표시되었습니다.
또 다른 사례는 인도 프리미어 리그 크리켓 토너먼트에서 우승한 Kolkata Knight Riders의 사진과 관련이 있는데, Meta는 'Made with AI' 라벨을 잘못 추가했습니다. 흥미롭게도 이러한 라벨은 웹이 아닌 모바일에서 이미지를 볼 때만 나타납니다.
Souza는 라벨을 제거하기 위해 라벨을 선택 취소하는 것이 불가능하다는 것을 발견했습니다. 그는 Adobe의 자르기 도구를 사용하고 이미지를 JPEG 파일로 저장할 때 Meta의 알고리즘이 실행될 수 있다고 의심합니다.
더욱이 Meta는 사진 작가가 Adobe의 Generative Fill과 같은 생성을 위해 AI 도구를 사용할 때 실제 사진을 AI 생성으로 잘못 분류했습니다.
메타의 반응
Meta의 대변인인 Kate McLaughlin은 회사가 대응을 고려하고 있으며 사실에 따라 라벨이 이미지에 사용된 AI의 양을 반영할 수 있는지 확인하기 위한 접근 방식을 평가하고 있음을 인정했습니다.
Meta는 라벨링 프로세스를 개선하고 자사의 의도를 업계 표준에 맞추기 위해 다른 회사와 적극적으로 협력하고 있습니다.
AI 생성 콘텐츠를 식별하고 라벨을 지정하는 Meta의 접근 방식
첫째, 사용자는 AI를 사용하여 생성되거나 수정된 사실적인 비디오 또는 사실적인 사운드의 오디오를 자체 공개해야 합니다. 그러한 콘텐츠에 라벨을 붙이지 않으면 처벌을 받을 수 있습니다.
그러나 이 요구 사항은 만화 스타일로 제작된 비디오와 같이 사실적이지 않은 AI 생성 콘텐츠에는 적용되지 않습니다.
자체 공개 외에도 Meta의 알고리즘은 AI 사용을 독립적으로 감지합니다. AI 생성 또는 편집을 나타내는 업계 표준 신호가 포함된 콘텐츠에는 'Made with AI'라는 라벨이 지정됩니다.
여기에는 타사 AI 도구를 사용하여 생성되거나 편집된 콘텐츠가 포함됩니다. Meta의 탐지 도구는 AI를 사용하여 변경되었지만 완전히 생성되지 않은 경우에도 사진의 메타데이터를 읽어 AI 생성 이미지를 식별합니다.
Meta가 채택한 이러한 두 가지 접근 방식에도 불구하고 사용자는 'Made with AI' 라벨이 올바르게 적용된 경우에도 이를 완전히 무시할 수 있습니다.
더욱이 플랫폼에는 라벨을 제거하거나 선택을 취소할 수 있는 옵션이 없으므로 사용자는 이미지를 복사하여 빈 Photoshop 문서에 붙여넣거나 원본 이미지 대신 스크린샷을 업로드하는 등의 해결 방법을 찾게 됩니다.