신뢰 가능한 인공지능을 위한 가이드라인 나왔다 
신뢰 가능한 인공지능을 위한 가이드라인 나왔다 
방통위, ‘이용자 중심의 지능정보사회 원칙’ 발표…“공정하고 책임있는 AI 알고리즘의 중요성이 더욱 커져” 

알고리즘으로 무장한 국내외 ICT 사업자들이 무시할 수 없는 원칙이 나왔다. 방송통신위원회와 정보통신정책연구원이 11일 ‘이용자 중심의 지능정보사회를 위한 원칙’을 발표했다. 이번 원칙을 만들기 위해 구글코리아, 페이스북코리아, 넷플릭스, 카카오, 삼성전자, KT, SKT, LG유플러스, 한국 IBM, 한국 마이크로소프트 등 사업자를 대표하는 13명과 학계 6명이 자문단으로 참여했다. 

방통위는 11일 보도자료를 내고 “신기술의 도입이 초래할 수 있는 기술적, 사회적 위험으로부터 안전한 지능정보서비스 환경을 조성하기 위해, 지능정보사회의 구성원들이 고려할 공동의 기본 원칙”을 만들었다고 밝혔다.

방통위는 “맞춤형 뉴스‧콘텐츠 추천시스템, AI 스피커, 인공지능 면접 등 인간의 의사결정을 보조하거나 대체하는 혁신적인 서비스가 확산되면서, 공정하고 책임있는 AI 알고리즘의 중요성이 더욱 커져가고 있다”며 “EU·OECD 등 국제사회에서는 신뢰 가능한 AI를 위한 가이드라인·권고안 등을 잇달아 발표하는 추세로, 방통위 역시 지능정보사회가 이용자 신뢰를 기반으로 발전해나가기 위한 기본적인 원칙을 정립했다”고 밝혔다. 주요 내용은 다음과 같다. 

▲게티이미지.
▲게티이미지.

△사람 중심의 서비스 제공 원칙=지능정보서비스의 제공과 이용은 사람을 중심으로 그 기본적 자유와 권리를 보장하고 인간의 존엄성을 보호할 수 있는 방향으로 이루어져야 한다.
△투명성과 설명가능성 원칙=지능정보서비스에 포함된 서비스 체계와 작동방식이 이용자에게 중대한 영향을 끼칠 경우, 기업의 정당한 이익을 침해하지 않는 범위에서 이용자가 이해할 수 있도록 관련 정보를 작성한다.
△책임성 원칙=서비스의 제공과 이용으로 인해 발생한 타인의 권익 침해에 대한 법적·사회적·윤리적 책임을 다할 수 있도록, 지능정보사회 구성원들은 지속적인 의견 교환에 참여한다.
△안정성 원칙=지능정보서비스가 초래할 수 있는 피해에 대한 복구 방안을 사전에 확보하기 위한 노력으로서, 제공자와 이용자는 상호 협의 하에 그에 대한 자율적인 대비체계를 수립하고 운영한다.
△차별금지 원칙=지능정보사회의 구성원들은 지능정보서비스가 사회적․경제적 불공평이나 격차를 초래할 수 있다는 점을 인식하고, 알고리즘 설계·데이터의 수집과 입력 및 알고리즘 실행 등 개발과 사용의 모든 단계에서 차별적 요소를 최소화할 수 있도록 노력한다.
△참여 원칙=지능정보서비스의 이용과 관련하여 제공자와 이용자가 실질적으로 의견을 제시할 수 있는 정기적인 통로를 조성해야 한다.
△프라이버시와 데이터 거버넌스=지능정보사회 구성원들은 서비스의 개발, 공급 및 이용의 전 과정에서 개인정보 및 프라이버시를 보호하며, 특히 지능정보서비스의 제공과 이용 과정에서 데이터 사용이 프라이버시에 미치는 부정적인 영향을 최소화하도록 노력한다.

방통위는 이번 원칙 마련을 위해 2018년부터 10차에 걸친 지능정보화 이용자 포럼을 진행했으며 2019년부터는 7차에 걸쳐 이용자 중심의 지능정보사회 원칙을 위한 간담회를 개최했다. 간담회에서는 국내외 대표적 ICT기업들이 실행하거나 추진 중인 이용자 보호 정책 및 관련 사업들에 관한 정보를 공유하고 기계학습 모델 및 구글의 AI 개발 원칙 등이 논의되었다. 

앞서 ‘인공지능:컴퓨터가 세상을 잘못 이해하는 방법’의 저자로 유명한 메러디스 부르사드 뉴욕대학교 아서카터저널리즘연구소 부교수는 지난달 KPF저널리즘 컨퍼런스에 연사로 참여해 “인공지능은 수학에 불과하다. 컴퓨터가 사람보다 항상 낫다는 식의 테크노 쇼비니즘은 일종의 편견이다. 기술자들의 편향성이 AI와 알고리즘에 투영될 수 있다”고 주장했다. 그는 “언론이 디지털 공간에서 알고리즘의 책임을 요구하는 보도에 나서야 한다. 주체적으로 대응함으로써 기술에 대한 선택권을 가져야 한다”고 주장한 바 있다. 이번 원칙을 계기로 국내에서도 이 같은 움직임이 본격화될 수 있다. 

방통위는 “이번 원칙을 바탕으로 이용자·기업·전문가·국제사회 등 지능정보사회 구성원들의 의견을 상시적으로 수렴하는 민관협의회를 구성하고, 지능정보기술의 발달과 서비스 보급 속도에 발맞추어 원칙을 지속적으로 보완해나갈 계획”이라고 밝혔다.

이 기사를 후원합니다.


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 1
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
평화 2019-11-11 18:23:22
“언론이 디지털 공간에서 알고리즘의 책임을 요구하는 보도에 나서야 한다. 주체적으로 대응함으로써 기술에 대한 선택권을 가져야 한다” <<< 동의한다. 문제를 해결하려면 문제를 피하는 게 아니라, 적극적으로 대응해야 한다.