미디어오늘

딥페이크 피해자를 딥페이크로 보호한 SBS ‘그알’
딥페이크 피해자를 딥페이크로 보호한 SBS ‘그알’
딥페이크 문제 조명한 SBS ‘그것이 알고 싶다’, 딥페이크로 피해자 신상 알 수 없게 연출…“이 기술 좋은 곳에 쓰이길”

지난 27일 밤 방영된 SBS ‘그것이 알고 싶다’ 1251회는 딥페이크(Deepfake) 문제를 다시 한번 조명했다. 딥페이크란 인공지능의 한 분야인 딥러닝(Deep learning)을 활용해, 사람의 얼굴이나 특정 부위를 합성한 가짜 동영상을 만들어내는 기술이다. 

‘그알’ 1251회는 딥페이크 범죄로 피해를 당한 두 여성의 피해 호소로 시작된다. 평범하게 SNS를 통해 일상을 공유해왔던 두 여성은 어느 날 자신의 얼굴이 음란물에 합성된 영상을 받는다. 범죄자는 합성한 음란물을 유포하겠다고 협박한다. 이로 인해 피해자들은 괴로움을 느끼게 된다. 

이렇듯 ‘딥페이크’ 영상은 성착취 동영상을 만드는 범죄에 굉장히 많이 쓰여왔다. 조지오 파트리니 네덜란드 사이버 보안업체 CEO는 ‘그알’과 인터뷰에서 “이 기술은 2017년에 인터넷상에 올라왔는데, 가장 많이 사용된 분야가 ‘가짜 포르노’(성 착취물)”라고 말한다. 실제로 온라인 딥페이크 사용 목적 및 비율 가운데 96%가 포르노그래피를 만드는 데 쓰였다는 통계도 나온다. 피해자는 “과학발전의 너무 안 좋은 예”라고 지적한다. 

▲2월27일 '그것이 알고싶다' 딥페이크 편에 나온 딥페이크 범죄 피해자. 이 피해자의 얼굴은 딥페이크로 만든 존재하지 않는 얼굴로, 모자이크보다 신변 보호가 용이해 피해자의 동의를 얻고 만든 형식이다.
▲2월27일 '그것이 알고싶다' 딥페이크 편에 나온 딥페이크 범죄 피해자. 이 피해자의 얼굴은 딥페이크로 만든 존재하지 않는 얼굴로, 모자이크보다 신변 보호가 용이해 피해자의 동의를 얻고 만든 형식이다.

굉장히 놀라운 점은 ‘그알’에서 피해를 호소하는 2명의 피해자의 얼굴은 딥페이크로 만들었다는 것이다. 이를 보는 시청자는 이 얼굴이 딥페이크로 만든 것임을 한참 후에나 알 수 있도록 연출했다. ‘그알’에서는 피해자를 보호하는 형식으로 딥페이크를 선택했다. 모자이크보다 신변 보호가 뛰어나다는 이유다. 두 명의 피해자의 얼굴은 딥페이크로 만든, 존재하지 않는 얼굴이었다. ‘그알’은 피해자의 동의를 받고 딥페이크로 얼굴을 만들어 피해를 호소하는 방식을 선택했다. 

이렇게 신변 보호가 필요한 이들을 위해 딥페이크를 활용한 것은 ‘그알’이 처음은 아니다. 이번 ‘그알’ 에피소드에서도 언급됐듯 영화 ‘웰컴 투 체첸’은 성소수자 차별에 관한 영화인데 성소수자들을 딥페이크로 만들어 신변을 보호했다. 데이비드 프랑스 영화감독은 “딥페이크를 활용하면 얼굴 움직임과 미세한 표정을 그대로 보여주면서 성소수자를 보호할 수 있고 아무도 그가 누군지 알 수 없게 할 수 있다”고 장점을 설명했다. 

▲2월27일 방영된 SBS '그것이 알고싶다'.
▲2월27일 방영된 SBS '그것이 알고싶다'.

SBS ‘그알’ 역시 딥페이크 피해를 딥페이크를 이용해 알리자는 제안을 피해자들에게 던졌다. 자칫하면 논란이 되고 비판을 받을 수도 있었지만 SBS ‘그알’은 이를 투명하게 공개하고 피해자의 동의를 얻었다는 것도 강조했다. ‘그알’은 “딥페이크 기술을 한눈에 보여드릴 수 있고 공익적 활용할 수 있다는 점을 알리기 위해 피해자의 동의를 얻어 이러한 방식을 사용하기로 했다”며 “이 기술이 좀 더 좋은 곳에 쓰이길 바란다”고 전한다. 

이번 ‘그알’ 에피소드의 연출 가운데 김상중 MC의 얼굴을 딥페이크로 만들어서 두 명의 MC를 세운 장면도 있다. ‘그알’은 여기서 멈추지 않았다. 

▲딥페이크 기술을 통해 2명의 김상중씨를 만든 SBS '그것이 알고싶다'의 연출.
▲딥페이크 기술을 통해 2명의 김상중씨를 만든 SBS '그것이 알고싶다'의 연출.

만약 딥페이크 기술이 더 발전한다면 최근 극성인 ‘보이스 피싱’ 범죄가 더 발달해, ‘딥페이크 영상 피싱’으로 발전할 수 있다고 봤다. ‘그알’은 실험자들을 섭외해 실험자의 얼굴을 병상에 있는 누군가의 얼굴에 합성해 마치 실험자들이 병원에 입원한 것 같은 영상을 만들었다. 그리고 실험자의 부모님들에게 이를 보내는 실험을 했다. 3명 가운데 2명의 부모님이 그들의 카드 사진을 찍어 보냈다. 

‘그알’은 이번 실험을 하면서 이 실험이 모방 범죄에 활용될 것이라는 논란도 인식했다. 그러면서 ‘그알’은 “실험으로 인한 모방 범죄가 아직은 나오지 않은 상황에서 많은 사람이 딥페이크 범죄 가능성을 시인하고 예방하는 차원에서 이 실험을 했다”며 “범죄가 시작되기 전 알리고 싶었다”고 전한다. 
 

▲'그것이 알고싶다' 딥페이크 편에서 실험에 참가한 실험자의 말.
▲'그것이 알고싶다' 딥페이크 편에서 실험에 참가한 실험자의 말.

이번 ‘그알’ 편에서는 실제 딥페이크를 사용한 범죄를 저지르는 가해자를 검거하는 데 도움을 주기도 한다. 딥페이크 영상을 감지하는 기술을 만든 이화여대 학생들을 소개하고 한국이 K-POP으로 인해 인기를 얻은 만큼 K-POP 가수들을 이용한 딥페이크 범죄에 아주 큰 피해를 입고 있다고 지적하기도 한다. 또한 딥페이크 범죄를 저지른 가해자를 직접 취재해 검거에 도움을 주기도 했다. 이어 ‘그알’은 수많은 가해자들이 딥페이크를 이용한 성범죄를 가볍게 여기기도 하는데 이러한 인식 변화가 일어나야 한다고 강조한다. 

▲
▲한국의 음악가들이 딥페이크 범죄에 크게 노출돼있다는 통계를 담은 SBS '그것이 알고싶다'의 장면. 

김상중 MC는 마지막 멘트를 통해 “‘그알’이 신고해 검거한 가해자는 며칠 전 송치됐다”며 “이번 방송을 통해 온라인으로 딥페이크를 이용해 저지르는 성폭력이, 직접 저지르는 성폭력과 마찬가지로 굉장히 심각한 범죄라는 것을 인식해야 한다”고 전한다. 

그동안 딥페이크 범죄는 정보통신망법이나 명예훼손으로 처벌돼 피해자가 처벌을 원해야 처벌할 수 있었지만, 최근 성폭력 특별법에 적용되도록 바뀌어 피해자가 직접 고소를 하지 않아도 수사와 처벌을 할 수 있다. 

‘그알’은 MC멘트를 통해 “딥페이크 성범죄는 이제 성폭력 특별법으로 처벌이 가능해 신상 고지와 전자 발찌, 취업 제한도 가능하다”며 “결코 호기심이라는 변명으로 통할 것이 아닌, 성범죄임을 잊지 말아달라”고 호소했다. 

이 기사를 후원합니다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 1
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
나그네 2021-03-02 14:06:59
ㅇㅅㅇ? 딥페이크로 만든 얼굴과 닮은 사람은?
괜한 오해를 사는 피해가 발생하는거 아닌가? ㅎㅎ

원래대로 모자이크 처리 하던가
딥페이크로 만든 얼굴 + 모자이크 처리 ㄱㄱㄱ