페이스북에 손석희 전 JTBC 보도담당 사장을 사칭한 딥페이크 영상 광고가 올라왔다.

해당 광고는 손석희 전 사장이 소숙희라는 이름으로 등장해 “저는 한국인을 위한 혁신적 플랫폼을 개발해 AI기반 투자를 통해 재정적 자유를 위한 길을 열었습니다”라며 “500원만 투자하면 매월 최대 15천원(1만5000원)의 수익을 올릴 수 있습니다. AI의 실시간 시장분석으로 93%에 달하는 놀라운 성공률을 자랑합니다”라고 말한다.

이어 “인생을 바꿀 수 있는 기회를 놓치지 마세요”라며 “아래 링크를 클릭해 신청하시면 전담팀이 즉시 연락을 드릴 것입니다”라고 말한다. 

영상을 보면 손석희 전 사장의 입 모양이 부자연스럽다. 인공지능이 학습한 목소리 역시 어색하다.

이 광고는 특정 인물의 사진이나 영상 정보를 학습해 해당 인물을 영상으로 구현하는 딥페이크 영상으로 보인다. 음성의 경우 특정 인물의 음성을 학습하면 유사한 목소리를 구현하는 기술을 활용한 것으로 보인다.

손석희 전 사장 사칭 광고는 전에도 논란이 된 적 있다. 인터넷 배너 광고를 통해 조선일보 기사처럼 위장해 손석희 전 사장의 인터뷰를 담는 식이다. 광고에서 손석희 전 사장은 암호화폐거래 봇을 통해 큰 돈을 벌게 됐다며 이 봇의 이용을 권유한다. 페이스북에선 이재용 삼성전자 회장, 개그맨 황현희씨, 주진형 전 한화투자증권 대표 등을 사칭한 광고가 논란이 됐다. 

이들 광고는 전문가나 유명인의 권위를 이용해 주식투자 정보를 제공하겠다며 리딩방 가입이나 특정 프로그램 사용을 유도한다. 사람들을 모은 다음 가짜 시스템을 만들어 높은 수익이 나온 것처럼 속인 다음 투자금을 편취하는 등 사기로 이어질 가능성이 크다.

특히 딥페이크 기술이 고도화되면 허위임을 식별하기 어려운 사칭 광고 등 영상이 만들어질 수 있다는 점에서 우려가 나온다. 

최근 일본에선 ‘니혼테레비’ 방송 로고와 함께 기시다 후미오 총리가 등장해 성적인 발언을 하는 딥페이크 영상이 논란이 됐다. 미국에선 지난 4월 힐러리 클린턴 전 미 국무장관이 론 디샌티스 플로디사 주지사를 좋아한다고 발언하는 딥페이크 영상이 확산됐다. 지난달 31일(현지시간) 조 바이든 미국 대통령이 인공지능 규제안을 담은 행정명령에 서명에 앞선 연설에서 “나도 나에 대한 딥페이크를 본 적 있다”며 “‘내가 도대체 언제 저렇게 말했지라고 생각했다”고 했다.

<로봇의 지배>를 쓴 미래학자 마틴 포드는 지난 1일 미디어오늘과 인터뷰에서 “인공지능을 사용해 사람들을 속여 민주주의를 공격하고 선거 등을 위협하는 데 사용될 수 있다는 점에서 우려가 든다”며 “선거에서 정치인을 공격하기 위해 (정치인이) 미친 소리를 하거나 아주 나쁜 말을 하는 거짓 오디오트랙을 만드는 데 사용된다고 상상할 수 있다”고 했다.

해외에선 주로 인공지능 기술이 적용된 딥페이크 영상을 표기하는 방식의 규제를 논의하고 있다. 지난달 조 바이든 대통령이 내린 행정명령에는 인공지능 허위정보를 막기 위해 인공지능이 만든 콘텐츠라는 사실을 알 수 있도록 ‘식별표시’(워터마크)를 하는 내용이 있다. 인공지능 생성 콘텐츠에 필수적으로 붙이는 ‘식별표시’ 표준을 마련할 예정이다.

한국에선 지난 14일 서울경찰청이 김종인 전 미래통합당 비상대책위원장, 주진형 전 한화투자증권 대표 등을 사칭해 이용자들에게 주식 투자를 유도하는 광고를 사기 혐의로 수사를 진행하고 있다. 한국의 경우 선거 후보자에 대한 딥페이크 영상은 공직선거법상 허위사실공표·비방 혐의를 적용할 수 있다.

페이스북을 운영하는 메타의 한국지사인 메타코리아는 지난달 16일 사칭광고 문제와 관련 “사칭 계정 단속을 위해 추가 모니터링을 진행 중이다. 안전한 플랫폼 조성을 위해 최선을 다하겠다”고 밝혔다. 그러나 이후에도 유사 광고가 이어지고 있다. 지난 20일 이 문제에 대한 추가적인 조치가 있는지 물었지만 답을 듣지 못했다.