지난 6월 2일 교황 레오 14세 관련 AI 생성 딥페이크 콘텐트가 스마트폰과 컴퓨터 화면에 표시돼 있다. 유튜브·틱톡 등 플랫폼이 이를 단속하기 위해 조처했지만, 조회수가 급증했다. AFP=연합뉴스

빅테크 플랫폼을 필두로 저품질 인공지능(AI) 콘텐트 제재 움직임이 본격화하고 있다. 저질의 AI 콘텐트가 늘면서 사용자 경험(UX)이 악화돼 플랫폼 이탈로 이어지는 악순환을 막고, 고품질 콘텐트를 생산하는 창작자들을 독려한다는 취지다.

유튜브는 지난 15일부터 정책을 업데이트해 저품질 콘텐트를 수익 창출 대상에서 제외하겠다고 밝혔다. 회사 측은 정책 사이트에서 “대량 생산되고 반복되는 콘텐트를 더 잘 식별하기 위해 가이드라인을 업데이트하고 있다”고 밝혔다. 대상 콘텐트에 대해선 “내용은 거의 비슷하고 겉모습만 조금씩 다른 내레이션 영상을 반복적으로 업로드하는 채널, 모든 슬라이드에 동일한 내레이션을 붙여 업로드하는 채널”이라고 설명했다. 페이스북 등을 운영하는 메타도 지난 14일(현지시간) 원 게시자의 허가가 없거나 유의미한 수정이 없는 포스팅은 일정 기간 수익 창출을 금지할 예정이라고 밝혔다. 이 정책에는 영상, 이미지, 텍스트 게시물이 모두 해당한다.

유튜브 본사. AFP=연합뉴스

국내 플랫폼들도 저품질 콘텐트 관리에 나서고 있다. 네이버는 “AI가 작성한 품질이 낮은 글을 막기 위해 AI가 생성한 글의 패턴을 학습해서 동일하거나 유사한 콘텐트를 다량으로 만들어내는 등 행위를 모니터링 및 제재하고 있다”고 밝혔다. 도배나 스팸을 막는 기존 운영 정책에 근거해 모니터링하고, 정책에 위반될 경우 애드 포스트(네이버 블로그의 광고 수익 플랫폼) 등 수익화도 제한한다는 취지다.

네이버·다음은 AI를 활용한 뉴스 댓글 도배도 막으려 한다. 네이버는 뉴스 댓글을 아이디당 24시간 동안 20개, 글자수 300자로 제한해 AI로 인한 도배를 방지하고 있고, 다음 뉴스는 댓글이 작성된 후 48시간이 지나면 댓글이 사라지게 하고 있다. 다음 블로그 티스토리의 경우에도 짧은 시간에 유사한 내용을 반복 다량 작성하면 자동으로 댓글을 삭제한다.

다음은 48시간이 지나면 댓글이 사라지는 타임톡 기능을 운영하고 있다. 사진 카카오

플랫폼들이 너나 할거 없이 AI산(産) 저품질 콘텐트를 규제하는 이유는 다른 사람의 콘텐트를 AI로 짜깁기해 재업로드하거나 AI 음성만 입혀 업로드하는 콘텐트가 많아지면서, 플랫폼 전체 이용 경험이 악화된다는 지적이 계속되고 있어서다. 저품질 콘텐트, 이른바 ‘AI 슬롭(slop, 쓰레기)’이 많아지고 있는 것이다.

메타는 공식 블로그에서 “같은 밈이나 동영상이 너무 자주 반복적으로 나타난다. 이는 모두의 경험을 지루하게 만들고 새로운 목소리가 전달되기 어렵게 만든다”며 “우리가 싸우고자 하는 건 다른 창작자들의 콘텐트를 허가 없이 또는 의미 있는 개선 없이 반복적으로 게시하는 것”이라고 제재 배경을 밝혔다. 이재성 중앙대 AI학과 교수는 “최근엔 한 가지 영상이 유행하면 AI를 사용해 이와 유사한 분위기로 만든 영상이 범람하는 상황인데, 이는 UX를 떨어트린다”며 “구글 등 빅테크가 이런 AI 콘텐트를 규제하기 시작하면 다른 플랫폼들도 경향을 따라가게 될 것”이라고 전망했다.

다만 이 같은 흐름은 플랫폼들이 콘텐트 생산에 AI 기술 활용을 적극 장려하는 측면과는 역행한다. 각 플랫폼들은 콘텐트 제작 과정에 쓰이는 여러 AI도구들을 최근 몇년 사이 잇달아 출시한 상황이다. 창작자들도 이로 인해 혼란을 느끼고 있다. 정책 업데이트 이후 ‘AI 영상을 업로드하면 안 되는 것이냐’는 창작자들의 항의성 문의가 줄을 잇자, 유튜브는 다시 공지를 올려 “AI 도구를 사용해 스토리텔링을 강화하는 창작자를 환영하며, 콘텐트에 AI를 사용하는 채널은 여전히 수익을 창출할 수 있다”고 공지하기도 했다. AI 도구 활용을 막는게 아니라, 반복적 저품질 콘텐트를 규제한다는 입장을 분명히 한 것이다.

실제 플랫폼들은 AI를 적절하게 사용하는 창작자에게는 장려 정책을 펼치고 있다. 르네 리치 유튜브 콘텐트 부문 총괄은 자신의 소셜미디어에서 “리액션 영상, 해설, 분석 등은 유튜브에서 오히려 환영받는 종류”라고 강조했다. 다른 사람의 저작권을 해하지 않는 선에서 새로운 AI 기술을 도입하기도 한다. 네이버는 블로그 등 텍스트 콘텐트를 네이버의 숏폼 ‘클립’ 영상으로 만들어주는 ‘오토클립Ai’를 연내 발표할 예정이다.