[오피니언뉴스=김상혁 기자] "미국을 위협하려면 예전에는 항공모함 10대, 핵무기, 미사일 등이 필요했다. 하지만 지금은 인터넷으로 은행이나 전산망에 침입하면 된다. 또 선거를 망치고 위기를 조장해 우리를 약화시킬 현실적인 가짜 동영상을 제작하는 능력이 필요하다"

미국 공화당의 상원의원인 마르코 루비오는 2018년 7월 헤리티지재단 토론회에서 가짜 동영상, 즉 '딥페이크'를 과거의 핵무기에 비유하며 이처럼 말했다. 딥페이크가 핵무기에 비유될 정도로 위험하냐에 대한 논쟁은 있지만, 많은 전문가들은 AI의 발달로 그 위험도는 예전 같지 않다고 입을 모으고 있다.

◆ AI가 AI를 속여 만드는 딥페이크

딥페이크는 '딥러닝(Deep Learning)'과 '가짜(Fake)'의 합성어로 AI를 이용해 특정 인물의 얼굴을 다른 이의 몸에 붙여 합성한 영상·음성 편집물이다. 2가지 머신러닝 모델이 충돌하는 '생성적 적대 신경망(GNA, Generative Adversarial Network)'을 이용한다.

첫번째 머신러닝 모델이 하나의 데이터 세트로 훈련한다. 얼굴을 여러 구역으로 나눠 각 부분마다 점을 설정, 이를 하나씩 영상에 입혀 가짜 동영상을 만든다. 그러면 두번째 머신러닝 모델이 이를 감별한다. 그리고 두번째 모델이 가짜 동영상을 판별할 수 없을때까지 이 과정을 반복한다.

이런 구조이기 때문에 데이터가 많을수록 가짜 동영상의 퀄리티가 상승한다. BBC에 따르면 다양한 각도의 얼굴 사진 250장 정도면 2일 안에 영상 하나를 만들 수 있다. 이런 이유로 매스컴에 노출이 잦은 정치인이나 연예인들이 가장 흔하게 딥페이크의 대상이 된다.

영상 산업 분야에서 딥페이크의 활용과 가치는 무궁무진하다. 최근 할리우드 영화 '제미니 맨'은 나이 든 윌 스미스와 젊은 윌 스미스가 대면하는 내용인데, 극중 20대 윌 스미스는 실제 50대 윌스미스가 얼굴에 센서를 붙이고 만든 가상의 캐릭터다.

아르헨티나 디자인회사 아이콘스8은 가상 인물 사진을 제공한다. 범죄 자료처럼 실존 인물이 모델이 되기엔 껄끄러운 상황에서 사용할 수 있다. 중국의 시각 특수효과 회사 스튜디오51는 유튜브를 통해 장국영을 부활시켜 팬들에게 추억을 선사했다.

◆ 음란 영상·정치 선동…대부분 불법적 사용

하지만 딥페이크가 불법으로 사용되는 경우가 훨씬 더 많다는 것이 문제다. 특히 음란 영상물에 이용되는 경우가 압도적이다. 지난해 10월 네덜란드 보안 회사 딥트레이스가 발표한 보고서에 따르면 2018년 1월부터 2019년 9월까지 온라인 딥페이크 영상물의 96%가 포르노다. 피해자의 절반 가량이 서양의 여배우이며, 한국의 여자 연예인도 25%나 된다.

사실 전문가들은 주로 정치나 사회 쪽 범죄에 쓰일 것으로 예상했다. 해당 보고서의 연구분석 책임자 헨리 아이더는 "딥페이크가 생겼을 때 사람들은 정치적으로 문제가 생기거나, 사기 범죄가 늘어날 것이라고 생각했다"며 "하지만 정작 여성들에게 큰 피해를 입힐 ‘딥페이크 포르노’에 대해서는 모두가 간과했다"고 말했다.

그렇다고 딥페이크가 정치권에 영향을 미치지 않는 건 아니다. 오히려 개인의 피해로 한정되는 포르노와 달리 정치권에선 선동과 광고의 도구로 악용되며 많은 사람들에게 엄청난 영향력을 끼치고 있다.

2018년에는 버락 오바마 전 미국 대통령이 도널드 트럼프 현 대통령에게 "머저리 같은 인간"이라고 비난하는 내용이 담긴 동영상이 엄청난 파문을 일으켰다. 해당 영상을 만든 미국의 콘텐츠 제작사 버즈피드가 즉각 해명하며 논란은 수그러들었지만 이는 딥페이크가 가짜뉴스로 악용될 수 있다는 점을 여실히 드러냈다.

◆ 제작 난이도에 비해 진위 판단은 어려워

딥페이크가 가진 또 다른 문제점은 제작 난이도가 쉽다는 것이다. 과거에는 영화 특수효과팀처럼 그래픽을 전문으로 하는 집단에서나 만들 수 있었지만 이제는 오픈 소스 앱을 통해 누구나 어느 정도 수준을 기대할 수 있는 딥페이크를 만들 수 있다. 

하지만 딥페이크 영상을 가려내기는 쉽지 않다. 상술했듯 AI가 AI를 속여서 만들어 내기 때문에 전문가조차도 분별이 어렵다.

한 컴퓨터그래픽 전문가는 "유명인의 경우 일거수 일투족이 알려지는 경우가 많다. 때문에 피해 범위 여부와 상관없이 거짓 판별 자체는 나름 할만 하다"면서 "하지만 반대로 일반인의 경우 일단 피해가 발생하면 이를 무효화하기는, 경우에 따라 불가능에 가까울 수도 있다"고 설명했다.

진위 판단에 걸리는 시간도 적지 않게 걸릴 수 있다는 것도 문제다. 이 전문가는 "만약 선거 전날 비방 내용이 담긴 딥페이크 영상이 퍼진다면 유권자들은 큰 혼란에 빠질 것"이라고 말했다.

김유향 국회입법조사처 팀장도 '허위정보 해외법제 현황' 보고서를 통해 "투개표 전날 후보자에게 불리한 허위조작 영상이 유포될 경우 이를 바로잡을 충분한 시간을 확보하지 못한 상태에서 돌이킬 수 없는 결과를 야기할 수 있다"고 우려를 표했다.

◆ 탐지 기술 개발 나선 글로벌 IT 기업들…한국은 '딥페이크' 무방비?

딥페이크의 부정적 영향력이 점차 커지자 페이스북, 마이크로소프트, 아마존 등 글로벌 공룡 IT 기업들은 '가짜 잡는 AI' 시스템 개발을 주제로 공모전을 진행 중이다. 페이스북과 구글은 이를 위해 인물 사진 데이터를 모으고 있다.

페이스북은 별도로 1000만 달러를 투자해 탐지 기술을 개발한다. 구글은 AI개발자들의 경진대회 '캐글'을 통해 딥페이크 탐지 알고리즘 개발을 독려하고 있다. 비영리 AI 연구단체 'AI 파운데이션'은 올해 미국 대선 기간 중 딥페이크 여부를 파악하는 서비스를 제공하겠다고 발표했다. 중국 역시 올해부터 딥페이크는 반드시 공지하도록 법을 제정했다.

하지만 한국은 이런 추세에 합류하지 못하고 있다. 캐글에서 현재 진행중인 딥페이크 탐지 알고리즘 경진대회에서 한국 개발자는 상위 50위 중 22위에 단 한 명 랭크되어 있다. 국적을 비공개한 개발자도 많지만 대부분이 미국과 중국 출신이다.

비단 딥페이크 뿐 아니라 AI 대부분의 분야에서 '캐글' 상위권에 한국인은 찾기 어렵다. 지난해 8월 한국정보보호진흥원의 자체 조사 결과 캐글의 최상위 연구자 '그랜드 마스터'에 한국은 1명이었다. 미국(27명), 중국(13명), 일본(7명) 등에 비해 갈길이 멀다.

미국과 EU등은 피해 예방을 위한 법제화도 일찌감치 시작했지만 한국은 더딘 편이다.

미국은 2018년 12월 딥페이크 규제 법안을 내놨다. 18개월마다 기술 현황을 평가하고 공청회를 진행한다. 또 딥페이크 제작물 발신에 레이블 삽입을 의무화하는 법안도 제출됐다. EU 역시 '잊힐 권리'를 강조하며 피해자가 딥페이크를 삭제 요청할 수 있는 근거를 마련했다.

한국은 박대출 자유한국당 의원이 '성폭력범죄의 처벌 등에 관한 특례법 일부개정법률안’을 대표 발의하며 딥페이크에 따른 성범죄 피해 처벌에 대한 근거를 마련했다. 하지만 정치적 목적의 딥페이크 대비책은 없다시피하다.

김상혁 기자 다른기사 보기