<챗GPT 충격에 AI법 국회 8부 능선 넘었다>,<세계 최초 인공지능법 생길까 [챗GPT 열풍]>,<‘챗GPT 법’ 제정, 8부 능선 넘었다>,<정필모 “챗GPT 기술 충격…국내 AI 발전 위한 법률 기반 시급”>

챗GPT을 비롯한 인공지능 ‘찬양 일색’ 보도가 쏟아지고 있다. 이에 힘입어 인공지능 산업에 ‘우선 허용-사후 규제’를 원칙으로 밝힌 법안이 급속도로 추진되고 있다. ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안’은 지난달 14일 국회 과학기술정보방송통신위원회 정보통신방송법안심사소위원회를 통과했다.

대표발의자 정필모 더불어민주당 의원은 이 법안을 두고 “최근 챗GPT가 최첨단 기술 수준을 선보이며 전 세계적인 충격을 던졌다”며 “AI 기술 발전을 위해서는 ‘우선 허용, 사후 규제’가 원칙이 돼야 한다”고 강조했다. 윤영찬 민주당 의원도 “챗GPT 등 다양한 AI 기술발전에 필요한 기본법이 본회의를 통과할 수 있도록 최선을 다하겠다”고 했다. 언론도 환호하는 보도를 냈다.

그러나 시민사회와 학계에선 이 법안의 전면 재검토 요구가 나온다. 법안의 ‘우선허용’ 원칙이 인공지능이 생명‧안전에 위해를 가할 위험을 낳고, 피해가 생겼을 때 제재 장치마저 마련하지 않았다는 우려다. 진보네트워크센터, 보건의료단체연합, 참여연대, 민변 등은 최근 법안 반대의견서를 제출하고 국회의사당 앞에서 법안 통과를 규탄하는 긴급기자회견을 열기도 했다.

핵심은 ‘우선허용-사후규제’ 원칙이다. 이 법안 11조 1항은 “누구든지 인공지능기술 및 알고리즘의 연구‧개발 및 인공지능제품 또는 인공지능서비스의 출시 등과 관련된 행위를 할 수 있다”고 못 박았다.

김선휴 참여연대 공익법센터 운영위원은 “이 독소조항은 생명‧안전‧권익에 위해가 발생한 이후에야 규제할 수 있도록 한다”며 “안전과 인권에 치명적인 영향을 미칠 수 있는 인공지능도 우선 허용되어야 하는가”라고 물었다. 해당 법안은 사후 책임 또는 처벌 규정은 밝히고 있지 않다. 금지해야 할 인공지능을 규정하지 않고, 위해나 위험 발생에 대한 처벌도 명시하지 않고 있다.

더욱이 인공지능은 특성상 사람에 영향을 미치는 알고리즘을 직접 짜는 한편, 기업들이 영업비밀을 이유로 이를 투명하게 공개하지 않는 탓에 그 불확실성과 공공에 미칠 위험의 파급력이 더 크다는 설명이다.

정보인권단체들은 이미 인공지능의 위험성과 사전 조치가 제대로 이뤄지지 않아 공중의 피해를 겪어왔다고 말한다. 장여경 정보인권연구소 상임이사는 “위험은 먼 미래가 아닌 눈앞에 닥친 문제”라고 했다. 앞서 카카오택시는 영업비밀이라며 카맹택시인 카카오블루에 콜을 몰아주는 차별적 알고리즘을 운영해 공정거래위원회가 뒤늦게 조사하고 조치하기도 했다. 

인공지능 챗봇 ‘이루다’는 혐오 발언과 개인정보보호법 위반으로 논란을 빚었다. 해외에서도 인공지능 제품과 서비스의 위험 문제가 크게 불거지고 있다. 2016년 미국에선 쇼핑몰 무인 경비로봇이 유아를 공격했다.

법안은 정부와 지방자치단체 등이 다른 관련 법령이나 제도를 마련할 때에도 ‘우선허용’(11조1항) 원칙을 지키도록 했다. 오병일 진보네트워크센터 대표는 “인공지능에 환경, 개인정보 보호, 소비자보호 등과 관련해 여러 규제를 적용할 수 있어야 한다”며 “그러나 이 조항은 다른 공공 목적의 인공지능 규제조차 도입하지 못하게 했다는 점에서 가장 큰 독소조항”이라고 했다.

해당 법안은 해외 각국이 인공지능으로 인한 위해를 관리하고 방지하는 제도 마련에 분주한 흐름과도 대비된다.

유럽연합 집행위원회는 2021년 4월 인공지능법안을 제안해 올해 의회 통과를 앞두고 있다. 이 법안은 금지해야 할 인공지능을 명시했다. 장애인 등의 취약점을 악용하거나 공공장소를 감시하는 인공지능 등이 여기 포함된다. 차량, 승강기, 의료기기, 장난감 등에 사용되는 인공지능은 고위험으로 특별 관리하도록 했다. 또 사전 의무 조치도 규정해 규제기관이 사후 개입할 수 있도록 했다. 업체가 의무 이행을 거부하는 경우 전세계 연 매출액의 4~6%의 과징금을 매기도록 했다. 미국 조 바이든 행정부도 연방 차원의 알고리즘 책무성 법안이나 빅테크 6개 규제법 패키지 입법을 추진하고 있다.

오병일 진보네트워크센터 대표는 언론과 정치권이 챗GPT를 언급하며 해당 법안을 홍보하는 것을 두고 “이 법안이 챗GPT와 무슨 관계가 있나”라고 되물으며 “해외에서는 인공지능 규제를 논의하고 있고 법안 통과도 눈앞에 있다. 국내에선 기업들이 고위험 인공지능을 포함한 인공지능 개발에 뛰어들었음에도 사회적 통제를 고민하고 있지 않다는 점이 문제”라고 지적했다.