미디어오늘

인공지능 이용한 포털뉴스 편집에도 ‘구멍’ 있다
인공지능 이용한 포털뉴스 편집에도 ‘구멍’ 있다
AI가 포털뉴스 편집해도 ‘검수 과정’서 사람 개입… AI가 학습 후 편향 증가했을 가능성도 

AI(인공지능)가 포털 뉴스를 편집했대도 ‘검수 과정’에 사람이 개입할 수 있으며 학습 이후 AI의 편향성이 가속화할 수도 있다는 지적이 나왔다. 

18일 오전 CBS 라디오 ‘김현정의 뉴스쇼’는 포털 사이트 뉴스 편집 방식을 분석했다. 포털 사이트는 하루 평균 3만여 개의 기사가 송고되는데 이 가운데 인공지능을 갖춘 알고리즘이 부적절한 기사를 걸러 3000여 개를 선정한다. 

‘김현정의 뉴스쇼’가 전한 한 네이버 관계자에 따르면 “‘알고리즘도 사람이 만드는 거 아니야?’라고 하지만 중간에 개발자 한 명이 ‘이런 성향의 이런 걸 넣자’라고 할 수 있는 상황은 아니다”라고 전했다.  

반면 포털 내부 관계자들이 인정하는 ‘AI 구멍’도 있었다. 김승모 CBS 기자는 “AI 추천으로 기사나 인기 검색어가 선별돼도, 예상치 못하게 부적절한 단어들이 노출됐을 때 이를 감수하는 ‘검수 과정’이 있는데 그 틈을 악용하면 어떤 목적을 가진 개입이 완전히 불가능하진 않다고 한다”고 전했다. 

윤종영 국민대 소프트웨어융합대학원 교수는 “특수한 권한이 있는 사람이면 결국 누군가 조절할 수 있게 만들어 놓을 것”이라고 설명했다. 

▲8일 국회 본회의장에서 주호영 국민의힘 원내대표가 교섭단체 대표연설을 했다. 윤영찬 의원이 연설 도중 주호영 원내대표 연설과 관련해 핸드폰을 하고있다.(사진=국회사진취재단) 사진 출처= 노컷뉴스.
▲8일 국회 본회의장에서 주호영 국민의힘 원내대표가 교섭단체 대표연설을 했다. 윤영찬 의원이 연설 도중 주호영 원내대표 연설과 관련해 핸드폰을 하고있다.(사진=국회사진취재단) 사진 출처= 노컷뉴스.

김 기자는 “일단 검수 과정처럼 분명한 명분이 있는 개입이 아니라면, 다른 조작과 외부의 개입은 차단하고, 기록과 흔적을 검증할 수 있도록 공개하는 것도 한 방법”이라며 “현재의 AI 알고리즘 자체가 편향돼 있진 않은지 점검해볼 필요도 있다”고 전했다. 

이어 “지난 1년간 뉴스 서비스 내용을 공개해 그 결과를 바탕으로 알고리즘이 어떻게 뉴스를 추천하고 배치하는지 추정이라도 할 수 있게 하라는 것”이라며 “인공지능은 스스로 반복 학습을 하면서 진화하는데 처음 설계했을 때보다 편향성이 커졌을 수도 있다”고 말했다. 

다만 김 기자는 “전문가들은 이번 사안이 정치적 논쟁에 매몰돼선 안 된다고 주문한다”며 “포털은 정치권보다 이용자 선택에 더 예민한 만큼, 이용자가 포털에 원칙을 언제든 묻고 상세한 설명을 들을 수 있는 환경이 만들어져야 한다”고 지적했다.

앞서 윤영찬 더불어민주당 의원이 보좌진과의 메신저 대화에서 주호영 국민의힘 원내대표의 국회 교섭단체 대표 연설 기사가 포털 메인에 배치되자 ‘포털 관계자를 불러 달라’는 말을 해 논란이 일었다.

이 기사를 후원합니다.



이 기사는 논쟁 중
댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 1
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
바람 2020-09-18 14:36:59
일본 야후 포털은 왜 혐오와 혐한으로 가득 차 있을까. 자극적인 기사와 자극적인 댓글이 많을수록 상위권을 차지하고 국민은 싸운다. 여기서 핵심은 자극적인 것으로 네티즌 체류시간(=쇼핑/금융/웹툰/음악/문화를 한 플랫폼 안에서 소비)이 늘어나 포털이 가장 이득(시가총액)을 보고, 언론은 민심(남녀 싸움/지역 차별/자극적인 기사<언론사 홍보>만 중점적/선택적 보도)을 마음대로 움직일 수 있다. 알고리즘의 문제가 아니라 옆 나라 일본을 보라. 일본 최대 포털이 왜 혐오와 혐한으로 가득 찼는가. 일본 국민만의 문제일까. 알고리즘만의 문제일까. 민간회사는 이익이 되면 무슨 짓(혐오 방치/서점 혐한 베스트 셀러)이든지 한다. 이를 적당히 제재하는 게 우선순위가(일본사람도 혐한 베스트 셀러를 부끄러워한다) 아닐까.