[pixiv] AI 생성과 관련된 문제와 대응에 대한 보고

*재밌게 보셨다면, 좋아요, 댓글 하나에 큰 격려와 힘이 됩니다.

*질문은 언제나 환영

 

 

 

pixiv 사무국입니다.

현재 AI 생성과 관련된 문제에 대해 많은 문의를 받고 있습니다.
본건에 대해 여러분께 심려를 끼쳐드린 점 깊이 사과드립니다.

현재 많이 문의를 받고 있는 것은 다음 세 가지입니다.

문제 ① 특정 창작자가 불이익을 받는 것
문제 ② 프로그램 등으로 창작자의 작품이 부당하게 수집되는 것
문제 ③ AI 생성 작품을 보고 싶지 않은 사용자에게도 AI 생성 작품이 많이 표시되는 것

이것들에 대해서, pixiv는 이하와 같은 대응을 실시해 가겠습니다.
또, 관련 서비스인 pixiv FANBOX에 대해서는, 추가 대응 · 대책을 검토하고 있습니다.이것에 대해서는 조만간 안내해 드리겠습니다.

문제 ① 특정 창작자가 불이익을 받는 것

 

현재 생성 AI 기술로는 특정 창작자의 이미지를 학습하여 화풍을 모방한 작품을 생성할 수 있습니다. 이 기술로 인해 이미지를 학습당한 창작자들이,  사칭 피해를 당하거나, 멋대로 이름을 사용당함으로써 인격에 손상을 입는 등 불이익을 받고 있습니다.

대응①

 

■서비스 공통이용규약·가이드라인을 개정합니다.

새로운 서비스 공통 이용약관·가이드라인에서는 특정 창작자의 화풍을 모방한 작품을 반복 투고하는 행위 등을 금지항목으로 추가하고, 이와 함께 단속을 강화해 나갈 것입니다. 서비스 공통 이용약관은 pixiv 및 pixiv 주변 서비스 모두에 적용됩니다.
저번에 알려드린 대로 5월 중으로 개정할 예정입니다.

· 서비스 공통 이용 규약 · 가이드 라인류 개정 사전 공지
https://www.pixiv.net/info.php?id=9522

■새로운 감시시스템을 추가 도입합니다

 

현재 pixiv는 새로운 감시 시스템의 추가 도입을 준비하고 있습니다. 이로 인해 생성 AI 기술 악용을 비롯하여 타인의 활동을 위협하는 행위, 아동 포르노, 표절 등 픽시브 이용상의 문제를 보다 쉽게 발견할 수 있습니다.

 

문제 ② 프로그램 등으로 창작자의 작품이 부당하게 수집되는 것

 

생성 AI 기술로 화풍을 모방하려면 '학습 소스'라고 불리는 일러스트가 여러 작품 필요합니다. 크리에이터에게 불이익이 되는 부당한 목적 때문에 SNS에서 특정 크리에이터의 일러스트를 많이 수집하는 경우가 있습니다.

대응②

■pixiv에서는 부당한 목적을 위한 작품수집을 이전부터 금지하고 있습니다

 

pixiv에서는 이미 서비스 공통 이용 규약 제14조와 가이드라인에서 부당한 목적을 위한 프로그램 등을 이용한 작품 수집 행위를 금지하고 있으며, 발견 즉시 대처하고 있습니다.

■기술적 대책으로 악의적인 접근 방지에 힘쓰고 있습니다.

 

현재 실시하고 있는 다양한 대책에 대해서는, 이쪽을 확인해 주세요.이러한 대책은 앞으로도 강화해 나갈 것입니다.

· 픽시브에서의 부당한 목적의 작품 취득 행위에 대한 대책 기술에 대하여
https://inside.pixiv.blog/2023/05/09/183635


문제 ③ AI 생성 작품을 보고 싶지 않은 사용자에게도 AI 생성 작품이 표시되는 것

 

pixiv에서는 제작 과정의 전부 혹은 대부분을 AI에 의해 생성된 작품을 'AI 생성 작품'으로 올릴 수 있습니다. 「AI 생성 작품」의 투고 수가 많고 필터링 기능의 인지도 문제도 있어, 보고 싶지 않은 사람에게도 표시되는 경우가 있습니다.

대응③

 

■같은 사용자의 작품이 검색 결과 등을 점거하지 않도록 합니다.

 

같은 사람이 단시간에 여러 번 AI 생성 작품을 올리면 검색 결과 등으로 다른 사람이 작품을 찾기 어려워질 수 있습니다. 이러한 대량 투고에 대한 대책을 강화할 예정입니다.

■ AI 생성 작품의 필터링 기능을, 보다 이용하기 쉽게 합니다.

 

이미 제공하고 있는 「AI 생성 작품 플래그」와, 그것을 이용한 필터링 기능을 보다 알기 쉬운 곳에 표시합니다.
현재 표시되는 부분은 여기 도움말 페이지를 확인해 주십시오.
https://www.pixiv.help/hc/ja/articles/11866167926809

 

픽시브 주식회사의 이념은 '창작 활동이 더 즐거워지는 장소를 만든다'입니다.

저희는 창작자를 비롯하여 창작을 즐기는 사람들이 안심하고 활동할 수 있는 환경을 제공하고자 합니다.
새로운 기술의 물결 속에서 새로운 공격 수단이나 타인의 권리를 위협하는 행위, 스팸 행위가 다수 발생하고 있습니다. 이러한 창작 활동의 즐거움을 해치는 행위에 대해서는 AI 기술, 화상 생성 기술, 또 물론 인간의 손으로 행해진 것도 포함해 그 수단에 관계없이 계속 엄연히 대처해 나갈 것입니다.
현재로서는 불확실한 점이 많아 시간을 내 불편을 끼쳐 드려 대단히 죄송합니다만, 여러분이 안심하고 창작 활동을 할 수 있는 장소가 되도록 노력하겠습니다.

앞으로도 pixiv를 잘 부탁드립니다.