2024년 한국 총선과 미국 대선 등 인공지능(AI) 시대의 선거를 앞두고 생성형 인공지능 서비스와 각국의 당국이 대응을 강화하고 있다.

중앙선거관리위원회는 선거일 90일 전인 오는 11일부터 인공지능 기반 딥페이크 영상 등을 이용한 선거운동을 금지한다고 밝혔다. 선관위는 “선제적으로 대응하기 위해 허위사실공표·비방특별대응팀을 확대 편성·운영한다”며 “AI감별반을 11일부터 조기 편성·운영하고, 시·도선관위는 AI모니터링 전담요원을 2~3명씩 확대해 운영한다”고 했다. AI감별반은 딥페이크 선거운동을 집중적으로 모니터할 계획이다.

지난 대선 기간 후보자들이 인공지능 기술을 활용한 딥페이크 영상을 선보였다. 윤석열 후보측이 ‘AI 윤석열’을 공개했고 이어 이재명 후보측이 ‘AI 이재명’을 공개했다. 대선 이후 남해군수 선거 때 후보가 ‘AI 윤석열’이 자신을 지지하는 영상을 제작해 정치적 논란이 돼 규제가 마련됐다.

딥페이크는 특정 인물에 대한 여러 각도의 영상과 사진을 인공지능이 학습해 실제 사람과 같은 모습을 구현하는 기술을 말한다. 여기에 특정 인물의 음성을 학습해 똑같이 구현해내는 인공지능 기술과 결합해 그럴 듯한 딥페이크 영상을 만들 수 있다. 미드저니와 같은 이미지 생성 인공지능 프로그램을 통해 특정 인물에 대한 사진을 그려낼 수도 있다.

미국의 경우 텍사스, 미시간 등 일부 주에서만 딥페이크 관련 규제가 있다. 지난해 10월 조 바이든 미 대통령이 서명한 미국의 인공지능 규제 행정명령에도 ‘딥페이크 대응’이 포함됐다. 행정명령은 대통령 시행령과 같은 역할을 한다. 조 바이든 대통령은 “모든 사람들은 특정 음성이나 영상이 인공지능으로 만들었다는 것을 알 권리가 있다”고 했다. 

메타와 구글은 AI로 만든 선거 광고의 경우 ‘AI가 제작했다’는 사실을 표기하는 정책을 도입하겠다고 밝혔다.

채팅 방식의 생성형 인공지능 서비스들은 선거나 정치 관련 답변을 제한하고 있다.

지난달 19일 구글이 자사의 생성형 인공지능 챗봇 서비스 ‘바드’와 구글 AI 검색 SGE에  선거 관련 질문을 제한하기로 했다. 구글은 공식 블로그를 통해 유해 콘텐츠를 차단하고 허위 정보 확산을 막기 위해 결정을 내렸다고 했다.

네이버의 생성형 인공지능 챗봇 서비스인 클로바X와 AI 검색 큐는 베타테스트 초기부터 정치 관련 질문에 답변을 하지 않았다. 9일 네이버 큐 검색 서비스에 총선 전망을 물으면 “저는 인공지능 언어모델로서 정치적인 입장이나 의견을 가지고 있지 않으며, 선거 결과를 예측할 수 없다”고 답한다.

네이버 관계자는 “클로바X와 큐는 선거 관련 예측 질의에 입장을 표현하지 않도록 기술적 조치를 취해왔다”며 “향후에도 계속 모델 학습, 운영상 조치 등을 통해 개선을 계속할 예정”이라고 했다. 네이버 관계자는 “현재 제한적인 베타서비스 형태로 운영하고 있는 이유도 이용자 피드백을 바탕으로 개선 과정을 거쳐야 하기 때문”이라고 했다.

이들 서비스가 정치 관련 질문이나 답변에 제한을 두는 이유는 특정 성향의 정보를 다수 학습해 편향적인 답을 내거나 ‘환각현상’으로 잘못된 정보를 제공할 가능성이 있기 때문이다. ‘환각현상’은 인공지능이 사실이 아닌 것을 사실처럼 밝히는 것을 말한다. 챗GPT가 ‘세종대왕의 맥북 던짐 사건’이 조선왕조실록에 기록돼 있다고 답변하거나, 구글 바드가 세계문화유산이 아닌 경북궁이 세계문화유산으로 지정됐다고 밝히는 식이다.

유럽의 알고리즘 조사 기관인 AI 포렌식과 알고리즘워치는 지난달 15일 보고서를 통해 마이크로소프트(MS)의 빙 챗봇을 대상으로 선거 관련 정보의 신뢰성을 조사한 결과 답변 3개 중 1개가 오류를 포함했다고 밝혔다.