A씨는 최근 타 지역으로 이사를 앞두고 자신이 입주를 희망하는 아파트 관련 포털 블로그를 찾아보다가 황당한 글들을 읽게 됐다. 아파트 단지 소개처럼 보이는 글을 클릭하니 “꿈꾸는 사람들을 위한 다목적 문화공간입니다” “이 공간은 다양한 예술 분야의 관심사를 가진 이들에게 편안하고 창의적인 활동 공간을 제공합니다”라는 문구가 떴다. 주거용 아파트 단지인데 이와 무관한 장황한 설명들이 반복적으로 나왔고 문맥이 어색한 곳도 있었다. 다른 글들도 대부분 비슷한 내용이었다. 기존에도 홍보성 글이 많아 눈살을 찌푸렸지만 전과는 비교할 수 없을 정도였다.

B씨는 유튜브 등에서 숏폼 영상을 보면서 요즘 부쩍 AI가 만든 영상이 많아지는 걸 느꼈다. 무서운 이야기나 역사 소재의 이야기를 전하면서 AI가 만들어낸 음성에 AI가 만들어낸 이미지를 띄워 만드는 식이다. AI가 만든 이미지에 거부감은 크지 않지만 실사 영상을 보려고 켠 서비스에서 AI가 만든 음성과 이미지가 쏟아져 당황했다. 

2022년 챗GPT 돌풍으로 대표되는 AI 서비스 붐이 일면서 편의성이 커졌지만 그만큼 그늘도 짙어지고 있다. 지금 이 순간에도 온라인 공간에는 전에는 찾아볼 수 없는 AI가 만든 정보가 쏟아지고 있다. 정치권에선 주로 가짜뉴스로 불리는 허위정보에 문제를 제기하고 있지만 정작 일상을 파고든 AI 콘텐츠들은 사실 여부와 무관하게 질을 떨어진다는 문제가 있다. 특히 과거 블로그 마케팅 등 수익화를 노리고 콘텐츠를 도구화하는 행태가 AI 서비스들이 보편화되면서 더욱 심각해지고 있다.

한때 광고 글이 넘쳐나던 블로그 서비스에는 이제 AI가 쓴 글이 넘쳐나고 있다. GPT를 활용해 만든 ‘자동 글쓰기 프로그램’으로 불리는 다양한 프로그램들이 자동으로 블로그 글을 쓸 수 있도록 했다. 50만~70만 원 안팎의 비용을 지불하면 이 프로그램을 사용할 수 있다. 업체 간 경쟁이 붙으면서 가격이 떨어지는 경향도 나타나고 있다. 

한 업체는 광고를 통해 여행, 건강, 경제, 라이프스타일 등 카테고리 설정에 따라서 자동으로 블로그 포스트를 만들고 조회수가 올라갈수록 돈을 벌 수 있다고 홍보한다. 이 업체는 “구글 포털 등 검색엔진 최적화된 고품질의 글을 자동으로 작성하는 프롬프트”라며 “블로그를 운영하는데 매우 편리하게 사용할 수 있다”고 소개했다. 여행을 가지 않아도, 의학지식이 없어도 GPT를 활용해 글을 쓰고 검색에 잘 걸려 수익을 낼 수 있게 한 것이다. 다른 업체의 제품은 원고를 입력하면 유사한 글을 양산하는 방식으로 원고 1개만 입력하면 100개의 글을 만들어준다. 조금씩 다른 내용을 담은 글을 자동으로 업로드한다. 

이렇게 만든 블로그 글은 공통적으로 수준이 떨어졌다. 아파트인데 ‘상업’ ‘문화’ 키워드가 강조되거나 장황한 설명이나 반복적인 구절이 나오는 식이다. 일부 글에선 존댓말과 반말이 뒤섞이기도 했다. 

또 다른 업체는 GPT를 활용한 기사 작성 서비스를 운영하고 있다. 이 업체는 “AI로 기사를 써드리고 포털에 기사 검색이 되도록 책임지고 도와드린다”며 기사는 당일 송출이 가능하고 네이버와 구글에 검색이 안 될 경우엔 환불해준다고 명시하고 있다. 홍보대행사가 일부 언론과 제휴를 맺고 돈을 받은 대가로 기사를 쓰는 기사형광고 산업이 AI에 접목된 것이다.

AI 서비스들을 통해 시청각 정보도 제작할 수 있게 되면서 유튜브에 활용하는 사례도 늘고 있다. 

한 업체는 AI를 통해 유튜브로 수익창출 조건을 달성하는 방법을 소개한다. AI 음악 생성 프로그램을 통해 장르를 ‘클래식’으로 설정해 지브리 스튜디오풍의 음악을 만들고, 애니메이션에 특화된 이미지 생성 프로그램을 통해 지브리풍의 섬네일 이미지로 만든 다음, 영상 편집 프로그램을 활용해 분량을 1시간으로 늘려서 영상을 올리는 식이다. 그러면 ‘지브리 음악’을 찾는 이용자들의 검색에 걸려 영상 조회수를 올려 유튜브 수익창출 조건을 달성해 돈을 벌 수 있다. 

다른 업체의 홍보 영상을 보면 챗GPT에 ‘흥미로운 역사 쇼츠용 대본을 만들어달라’고 요청해 나온 답변으로 대본을 짜고 AI 이미지 생성 프로그램 등을 활용해 수익화해 최대 월 1000만 원도 벌 수 있다고 홍보한다. AI 생성 이미지를 활용해 여성의 선정적 이미지를 만드는 ‘AI 룩북’을 통한 수익 노하우도 공개적으로 공유되고 있다. 

해외에서는 보다 큰 규모의 수익을 낸 채널도 있다. 챗GPT를 활용해 콘텐츠를 만드는 한 키즈 유튜브 채널의 추정 수익은 120만 달러(16억 원)에 달한다. 이 채널의 수익화 비결을 소개하는 제작 예시 영상을 보면 챗GPT를 활용해 유아에게 알파벳 또는 숫자를 가르칠 수 있는 대본을 요청한 다음 간단한 애니메이션을 제작할 수 있는 프로그램인 어도비익스프레스(Adobe Express)를 통해 영상으로 구현한다. 제작 과정에서 어린이의 학습 효과에 대한 고민은 일절 찾아볼 수 없었다. 

작가이자 과학자인 에릭 호엘은 지난 28일(현지시간) ‘디 인트린직 퍼스텍티브’(The Intrinsic Perspective)에 쓴 글을 통해 이 채널의 문제점을 지적하며 “유아들은 앉아서 지켜볼 수밖에 없다. 유아들은 캐릭터가 사라지고 말이 안 되는 줄거리가 나오고, 일관성이 없다는 걸 스스로 분별해낼 수 없다”고 했다.

해외에선 AI로 뉴스를 만드는 사이트도 급증하고 있다. 미국의 뉴스 모니터 단체인 뉴스가드의 지난해 12월 보고서에 따르면 AI를 통해 뉴스를 만드는 웹사이트가 614곳에 달했다고 밝혔다. 지난해 4월에만 해도 49곳으로 집계됐는데 8개월 만에 10배 이상 급증한 것이다. 뉴스가드는 “최근 몇 달 동안 수많은 강력한 AI 도구가 공개되면서 뉴스 조직에 전적으로 사용될 수 있다는 학자들의 우려가 현실이 됐다”고 지적했다.

이들 사이트는 광고 수익을 위해 클릭을 유도하는 기사를 생산하는 과정에서 인공지능을 적극 활용했다. <바이든 사망... 해리스 대통령 권한대행 오전 9시 연설> 기사가 대표적이다. 노아 지안시라큐사 벤틀리대학교 부교수는 블룸버그와 인터뷰에서 “예전에는 저임금이었지만 적어도 공짜는 아니었다”며 현재는 무임금으로 콘텐츠 농장을 자동화할 수 있다고 우려했다.

디지털 콘텐츠 제작 업체의 한 관계자는 “기존에도 유튜브 채널 운영을 일종의 부업 수익화 방안처럼 여기면서 불펌 영상, 표절 영상을 양산하는 문제가 있었지만 이제는 AI를 통해 전과 비교하기 어렵게 다양한 콘텐츠를 쉽게, 많은 양을 만들 수 있게 됐다”며 “요즘은 자막도 AI를 통해 자동 추출하는 게 일반적이라 맞춤법이 틀린 경우가 많다. 이런 콘텐츠가 많아질 때 미치는 영향을 고려할 필요가 있다”고 했다.

유튜브는 지난해 커뮤니티 가이드라인을 개정해 “AI 도구 사용 등을 통한 콘텐츠의 변형 및 합성 여부를 지속적으로 공개하지 않는 크리에이터는 콘텐츠 삭제, 유튜브 파트너 프로그램 정지 등과 같은 불이익을 받을 수 있다”고 고지하고 있다. 네이버는 매크로 관련 규정을 나날이 강화하고 있다. 그러나 업체들은 ‘네이버 매크로 제재 피하는 방법’ ‘유튜브 가이드라인에 안 걸리고 수익화하기’ 등 제재를 피하는 노하우를 홍보하고 있다.