“가장 중요한 것은 잘못된 정보의 위험이다. 인공지능은 매우 설득력 있고 기만적인 정보를 만드는 데 사용될 수 있다.”

<로봇의 지배> 등을 쓴 미래학자 마틴 포드가 1일 미디어오늘과 인터뷰에서 한 말이다. 그는 2~3일 서울 동대문디자인플라자에서 <AI 시대, 다시 쓰는 경제 패러다임>을 주제로 열리는 ‘SBS D포럼’(SDF) 발표를 위해 한국을 찾았다. 그는 인공지능이 ‘전기’의 발명처럼 인류에게 큰 영향을 미칠 것이라 보면서도 허위정보 등 문제에 대응하기 위한 ‘규제’가 필요하다고 했다.

마틴 포드는 인공지능이 미치는 영향에 관해 “인공지능의 잠재력이 엄청나다. 기후 변화와 같은 미래에 우리가 직면하게 될 문제를 해결하는 데 도움이 될 뿐만 아니라 이러한 문제를 실제로 해결하는 데 가장 강력한 기술이 될 것이라고 믿는다”며 “전기가 모든 것에 영향을 미친 것처럼 인공지능이 모든 것에 영향을 미칠 것”이라고 했다.

마틴 포드는 “인공지능에 엄청난 이점이 있을 것”이라며 “가장 큰 것은 과학적 혁신의 잠재력”이라고 했다. 그는 딥마인드의 ‘알파포드’ 프로젝트를 예시로 제시했다. ‘알파포드’는 딥마인드가 2018년 공개한 의료 전문 인공지능으로 단백질 구조를 분석하는 탁월한 능력을 갖추고 있어 질병 치료를 위한 신약 개발 등에 역할을 하고 있다.

‘낙관적 전망’만 있는 건 아니다. 마틴 포드는 “가장 중요한 건 잘못된 정보의 위험일 것”이라며 “우리는 매우 그럴 듯한 텍스트를 만들어내는 챗GPT를 본다. 하지만 이는 완전히 틀린 내용일 수 있다. 우려되는 점은 인공지능을 사용해 사람들을 속여 민주주의를 공격하고 선거 등을 위협하는 데 사용될 수 있다는 것”이라고 했다.

“사람들을 오도할 수 있는 조작된 거짓 미디어를 만드는 데 사용될 수 있고 민주주의를 공격하는 데 사용될 수도 있다. 인터뷰를 많이 하는 유명 정치인이 있다면 그 정치인의 말투를 데이터화하면 알고리즘으로 학습할 수 있다. 그리고 그 알고리즘이 그 사람이 말하는 방식을 훈련하면 원하는 모든 것을 말하도록 음성을 만들 수 있다. 따라서 선거에서 정치인을 공격하기 위해 (정치인이) 미친 소리를 하거나 아주 나쁜 말을 하는 거짓 오디오트랙을 만드는 데 사용된다고 상상할 수 있다.”

잘못된 정보는 ‘사기’에 이용되기도 한다. 마틴 포드는 “CEO를 사칭해 재무 부서 담당자에게 계좌에 돈을 송금하라고 지시하는 ‘딥페이크’를 만들어 실제로 수백만 달러를 송금하게 한 사례가 있다”고 했다. 그는 “이 CEO는 (언론 등에) 많은 인터뷰를 했기 때문에 목소리에 대한 데이터가 있다. 이런 기술은 점점 더 발전하고 있다”고 했다.

마틴 포드는 책을 쓸 때마다 일자리 문제를 다룬다고 했다. 과거엔 기술이 발전하면 ‘블루칼라’가 위협을 받았지만 이번에는 다르다. 그는 “인공지능은 많은 화이트칼라 직종, 즉 대학 학위를 가진 사람들이 주로 하는 지식 직종을 위협할 것”이라고 전망했다. 

그는 “그리고 저널리스트도 영향을 받는다”며 “자동으로 새로운 기사를  생성해낼 수 있는 시스템이 기사를 쓸 수 있다”고 했다. 이미 데이터를 분석해 어떤 내용이 흥미로운지 판단한 다음 자동으로 기사를 생성할 수 있는 툴들이 있다.

마틴 포드는 “그래서 앞으로 우리가 해야 할 일은 (인공지능으로 인한) 모든 이점을 누리기 위해 인공지능을 수용해야 한다는 점과 이러한 위험을 해결하기 위한 규제와 정책이 필요하다는 점”이라며 “한국 정부를 비롯한 대부분의 정부가 인공지능의 위협에 맞서야 할 것이라고 생각한다”고 했다.

국제 기구 역시 인공지능 문제에 대응이 필요하다고 했다. 그는 “대부분의 경우 각국 정부가 다뤄야 할 문제라고 생각하지만 UN을 통해 해결해야 할 글로벌 문제도 있다”며 “예를 들어 누가 시키지 않아도 자동으로 사람을 공격하는 자율 무기처럼 인공지능이 정말 위험한 용도로 사용될 수 있는 문제를 다루게 될 것”이라고 했다.

마틴 포드는 “그래서 저는 인공지능의 긍정적인 미래를 보장하기 위해 일어날 수 있는 나쁜 일들을 제한하기 위한 규제가 필요하고, 새로운 사회 계약을 마련해야 할 것이며, 사람들에게 충분한 일자리가 없는 미래가 될 수 있으므로 이에 대한 대안을 마련해야 한다고 생각한다”고 했다.

미국은 인공지능 규제를 추진하고 있다. 조 바이든 미국 대통령은 지난달 30일 AI 규제안을 담은 행정명령에 서명했다. 인공지능발 허위정보를 막기 위해 인공지능이 만든 콘텐츠라는 사실을 알 수 있도록 식별표시(워터마크)를 하고 국가안보, 경제, 공공보건 등 중요 분야의  인공지능 모델 개발사는 인공지능 훈련 단계부터 정부에 통보하고, 안전테스트 결과를 정부에 보고해야 한다. 

이번 행정명령에 관해 마틴 포드는 “자세히 확인하지는 못했지만 몇 가지 문제를 해결한 것 같다”면서도 “미국에선 행정명령이 상당히 제한적이다. 이것은 법이 아니다”라고 했다. 그는 “미국에선 내년에 선거가 있고 많은 사람들이 딥페이크가 다가오는 선거에 사용될까봐 걱정하고 있다는 걸 알고 계실 것”이라고 했다.