생성형 인공지능으로 키즈 콘텐츠를 만들어 큰 돈을 벌 수 있다?

작가이자 과학자인 에릭 호엘은 지난 28일(현지시간) ‘디 인트린직 퍼스텍티브(The Intrinsic Perspective’에 쓴 ‘여기 생성형 AI에 의해 살해 당한 인터넷이 있다’는 글을 통해 생성형 AI를 기반으로 학습용 키즈 콘텐츠를 제작해 돈을 버는 실태를 조명했다.

그는 인터넷 곳곳에서 생성형 AI가 작성한 콘텐츠가 쏟아지는 문제를 지적한 뒤 “안타깝게도 생성형 AI로 인해 가장 큰 영향을 받는 사람들은 자신을 방어할 수 없는 사람들이다. 그들은 AI가 무엇인지도 모른다”며 생성형 AI를 통해 만든 키즈 콘텐츠 문제를 언급했다. 

그가 거론한 대표적인 문제 채널은 ‘Kids Songs and Nursery Rhymes - RV AppStudios’이다. 이 채널에 접속하면 여느 키즈 유튜브 채널과 마찬가지로 귀여운 동물 캐릭터들이 보인다. 커다란 알파벳과 캐릭터가 나온 섬네일을 클릭하면 캐릭터가 조금씩 움직이는 학습 영상이 등장한다. 그러나 사람이 아닌 AI가 만든 콘텐츠라는 점에서 차이가 있다.

유튜브 수익창출 전략을 소개하는 한 유튜브 채널은 이 채널의 성장 배경으로 “AI의 힘을 빌려 아주 간단하게 만들 수 있다. 그리고 엄청난 조회수를 얻을 수 있다”고 설명했다. 그러면서 이 채널이 120만 달러(16억 원)의 수익을 냈다고 강조한다. 이 채널의 최근 6개 영상의 조회수는 각각 25만 회, 73만 회, 408만 회, 375만 회, 595만 회, 1548만 회에 달했다. 에릭 호엘은 “유아를 대상으로 한 말도 안 되는 AI 제작 동영상 중 일부는 수천만 조회수를 기록했다”고 했다.

제작 예시 영상을 보면 챗GPT를 활용해 유아에게 알파벳 또는 숫자를 가르칠 수 있는 스크립트를 요청한 다음 간단한 애니메이션을 제작할 수 있는 프로그램인 어도비익스프레스(Adobe Express)를 통해 영상으로 구현한다. 제작 과정에서 어린이의 학습 효과에 대한 고민은 일절 찾아볼 수 없었다. 내용이 엉성하거나 문제가 있더라도 걸러지기 힘든 구조였다.

다른 문제적 채널인 ‘Super Crazy Kids’에는 사람과 동물 캐릭터가 등장하는데 제대로 된 이야기 흐름은 없고 등장인물들이 간단한 대화를 주고 받다가 춤을 추는 식이다. 자동으로 생성된 구성대로 콘텐츠가 제작돼 별다른 의미를 찾기 힘들다.

에릭 호엘은 현 상황을 가리켜 “AI가 만들어낸 키즈 유튜브 콘텐츠의 지옥”이라 명명했다. 그는 “키즈 유튜브는 빠르게 합성 콘텐츠의 흐름이 되고 있다. 대부분의 콘텐츠는 연속성을 가지지 않거나 목적 없이 무의미한 짧은 클립에서 상호작용하는 디지털 캐릭터로 구성돼 있다”며 “유아들은 앉아서 지켜볼 수밖에 없다. 유아들은 캐릭터가 사라지고 말이 안 되는 줄거리가 나오고, 일관성이 없다는 걸 스스로 분별해낼 수 없다”고 했다.

그는 또 “전국적으로 아이패드 앞에서는 합성 콘텐츠의 흐름이 이어지고 있다”며 “디스토피아라는 단어 외에는 다른 단어가 적용되기 어렵다”고 했다.