(내외방송=정옥희 기자)  

가짜뉴스에서 가짜영상으로

북미간 극단적인 위기 속에서 북한 김정은 위원장이 카메라 앞에서 육성으로 핵탄두를 실은 대륙간탄도미사일(ICBM)을 미 대륙을 향해 곧 발사하겠다는 담화문 발표영상을 인터넷을 통해 공개하고, 이에 트럼프 대통령은 격분하며 오키나와 공군기지에서 B1 전략폭격기를 평양으로 출격시켜 대북 선제타격에 돌입한다.

한반도는 일순간 전쟁의 공포로 패닉에 빠진다. 김정은 위원장이 ‘실제로’ 그런 도발을 하지 않았지만, 이런 파국이 발생할 가능성은 없는 것일까? 가능할뿐만 아니라 이런 종류의 해프닝은 현재 일어나고 있는 일이다.

2018년 5월 벨기에의 SNS에 영상이 하나 올라왔다. 해당 영상에는 미국 트럼프 대통령이 등장해 자신이 “파리 기후변화협약에서 탈퇴하는 데 망설이지 않았다”고 말하고 있었다. 영상 말미에서 트럼프는 “우리가 모두 알고 있다시피 기후변화는 가짜뉴스다. 이 영상처럼 말이죠”라고 말했지만, 이상하게도 이 끝 부분만은 네덜란드어 번역자막이 제공되지 않았다.

이 영상이 나오자마자 순식간에 트럼프 대통령을 비난하는 수백개의 댓글이 달리며, 열띤 논쟁을 낳았다. 그런데 사실 이 영상은 가짜였다. 벨기에 사회당은 자체적으로 운영하는 스튜디오를 통해 트럼프가 하지 않은 말과 행동을 실제로 한 것처럼 제작한 영상을 만들었다. 이 제작과정에는 첨단기술인 머신러닝이 동원된 것으로 밝혀졌다. 나중에 벨기에 사회당은 이 영상을 만든 목적에 대해 이 가짜 내용이 담긴 비디오 영상을 통해 환경에 대한 국민들의 관심을 환기하려 했다고 밝혔다.

딥 페이크의 출현

딥 페이크(Deep fake)라는 용어는 순수 원본 콘텐츠와 구별이 어려운 디지털 위조 동영상 및 음성을 의미한다. 네덜란드 사이버 보안회사 딥 트레이스가 최근 공개한 보고서에 따르면, 얼굴을 정교하게 합성해 원본 동영상을 왜곡하거나 포르노에 활용되는 사례가 급증하고 있는 가운데, 현재까지 이러한 딥 페이크 동영상은 온라인에서 1만 4798개가 온라인에 유통됐고, 이 중 96%가 포르노라고 한다. 2018년 12월 집계된 7964개보다 거의 2배 더 늘어난 수치이고, 이 중 25%가 K-POP 등 한국 여자 연예인 얼굴이라고 하니 우리나라의 피해가 상당한 상황이다. 문제는 해외 딥 페이크 사이트에서 K-POP 걸그룹 등을 대상으로 포르노와 합성된 동영상이 유통돼 문제가 심각하지만, 국내에서는 국내 네티즌의 접속만 차단할 수 있을 뿐 다른 마땅한 해결방법이나 처벌근거도 없는 상황이다.

사실 인물 합성영상은 영화계에서 이전부터 사용해오던 기술이다. 우디 앨런 감독의 페이크 다큐멘터리인 ‘젤리그’(1983년)나 로버트 저멕키스 감독의 ‘포레스트 검프’(1994년)에 등장하는 인물 합성영상은 나름 정교해보이는 결과물로 화제를 불러일으킨 바 있지만, 사실 이는 필름 한 장 한 장에 대한 수작업을 통해 얻어낸 고강도 노동의 산물이었다.

그러던 것이 인물 합성영상에 인공지능기술이 접목되면서 마침내 차원이 다른 딥 페이크의 시대가 열리게 됐다. 이제 인물 합성영상은 디지털 기술과 인공지능의 발전으로 몇 단계 정교해진 결과물을 만들어내고 있다. 쉽게 말해, 일반인이 약간의 조작만으로 영화의 컴퓨터 그래픽(CG)보다 더 정교한 합성영상을 만들 수 있는 시대가 도래한 것이다.

딥 페이크의 원리

딥 페이크의 원리는 다음과 같다. 합성하려는 인물의 얼굴이 주로 나오는 고화질의 동영상을 통해 ‘딥 러닝’해 대상이 되는 동영상을 프레임 단위로 합성시키는 것이다. 이때 그래픽카드의 성능에 따라 영상 속도와 품질이 결정된다. 관련기술이 계속 진화하면서 사진 한 장만으로도 인물의 여러 각도와 풍부한 표정을 표현할 수 있을 만큼 정교해지고 있다.

딥 페이크 기술은 이안 굿펠로우 박사가 2014년 구글 브레인에서 머신러닝을 연구할 때 NIPS 학회에 발표한 GAN(생성적 적대 신경망, Generative Adversarial Network)에서 출발한다. GAN은 기계학습기술을 사용해 기존의 사진이나 영상을 원본이 되는 사진이나 영상에 겹쳐서 만들어낸다. 이런 기능으로 딥 페이크는 유명인의 가짜 섹스 동영상이나 가짜 리벤지 포르노 등을 만드는 데 사용되기도 했다.

GAN 알고리즘에는 두 개의 분리된 머신러닝 모델을 포함하고 있는데, 하나는 가짜를 만드는 생성자 머신러닝 모델(Generator)이고, 다른 하나는 진짜와 가짜를 구별하는 감별자 머신러닝 모델(Discriminator)이다. 생성자 모델은 초기 사람의 모습이 어떻게 생겼는지 거의 모르는 상태에서 시작하므로 정교한 사람 이미지를 만들어내지 못하지만, 감별자 모델은 진짜 사진과 가짜 사진을 쉽게 구별할 수 있다. 하지만 시간이 흐를수록 축적된 데이터의 양이 많아지고, 학습이 고도화되면서 결과적으로 생성자 모델은 실제 사람처럼 생긴 매우 정교한 콘텐츠를 생산하게 된다. 반면, 진짜와 가짜를 구별해야 하는 감별자 모델은 점점 어려움에 봉착하게 된다. 이안 굿펠로우는 이를 위조지폐범 (Generator)과 경찰(Discriminator)로 비유했다.

딥 페이크 기술은 2017년 미국 유명 커뮤니티 사이트 레딧(Reddit)에서 활동하는 유저 ‘딥 페이크’가 활용 기술을 대중에 공개하면서 확산한 것으로 알려졌다. 최근에는 동영상 제작자뿐만 아니라 일반인도 쉽게 활용할 수 있는 딥 페이크 제작 앱까지 성행하고 있을 정도다.

딥 페이크는 인공지능 기술을 활용해 특정 인물의 얼굴뿐만 아니라 음성도 정교하게 합성한다. 사진 합성을 넘어 오디오 합성의 시대로 나아가려는 야심찬 시도 또한 병행되고 있다. 어도비사의 오디오 편집 및 생성 프로그램 보코(VoCo)는 20분 정도의 연설 음성파일이 있으면 완벽한 수준으로 음성분석이 가능하고, 텍스트를 입력하는 대로 바로 해당 음성으로 변환이 가능해 녹취록 조작 등의 악용 가능성도 제기되고 있다.

 

팩트를 조작하는 힘

영화 ‘왝더독’(1997)은 재선을 위해 미디어 전문가를 고용, 스튜디오에서 특수효과를 이용해 가짜전쟁을 벌이고, 국가적 위기를 조장해 자신의 섹스 스캔들을 덮으려는 한 대통령을 풍자한 작품이다. 영화에서 대통령은 ‘가짜뉴스’와 ‘가짜영상’을 만들기 위해 엄청난 물량 공세를 퍼붓는다. 하지만 이제는 그럴 필요가 없다. 노트북만 있으면 누구든 ‘가짜 뉴스’와 ‘가짜영상’을 만들 수 있기 때문이다. 딥 페이크의 진짜 공포는 그 기술이 사악한 악당이나 소수 엔지니어의 손아귀에 들어가 있는 게 아니라 약간의 관련지식을 가진 일반인 누구나 그 기술을 활용할 수 있다는 데 있다. 그리고 기술발전에 따라 이러한 경향은 점점 더 심화할 것이다.

앞서 얘기했듯이, 현재까지 딥 페이크 영상의 대부분은 포르노에 집중돼 있다. 얼굴 합성 피해자 중에는 미국과 영국의 여배우(46%)가 가장 많고, 다음으로 K-POP 여자가수(25%)가 많다. 딥 트레이스에 따르면, 케이팝 스타의 얼굴을 합성한 딥 페이크 동영상 대부분은 한국이 아닌 중국에서 만들어지는 것으로 나타났다. 이는 K-POP 산업이 50억 달러(약 5조 9750억) 규모의 세계적인 산업으로 성장하면서 생긴 일이기도 하다. 케이팝 스타들의 동영상이 유튜브 등에서 그만큼 많이 노출돼 있다는 뜻이다.

딥 페이크 기술을 사용하면 포르노 영상에서 특정인의 얼굴만을 떼어내 연예인의 얼굴을 붙일 수도 있고, 유명 정치인이 터무니없는 내용의 연설을 하는 것처럼 보이는 가짜 동영상을 만들 수도 있다. 표정이나 이목구비의 움직임뿐 아니라 제스쳐와 목소리까지 복제할 수 있다. 딥 트레이스에 따르면, 여성의 얼굴을 다양한 각도에서 담은 사진 250장만 있으면 이틀 안에 딥 페이크 포르노를 ‘맞춤 제작’할 수 있다. CNN 방송은 이런 영상을 판매하는 업체도 생겨났는데, 이들이 제작한 딥페이크 포르노 영상은 3달러에 판매되고 있다고 전했다.

딥 페이크의 논란

딥 페이크의 폐해가 현재까지는 주로 연예인 포르노에 집중돼 있지만, 향후 정치 프로파간다와 명예훼손범죄, 사기 범죄 등에서 폭넓게 활용될 가능성이 작지 않다. 특히, 지난 대선에서 가짜뉴스로 한 차례 홍역을 치렀던 미국은 이번에는 ‘딥 페이크’ 공포에 사로잡히고 있다. ‘가짜 뉴스’에 따라 지난 대선의 판세가 뒤바뀌었다면 다음 대선에서는 ‘가짜 동영상’이 맹위를 떨칠지도 모른다는 우려가 제기되고 있다.

플로리다 공화당 상원의원이자 2016년 대선 후보였던 마르코 루비오는 딥 페이크를 현대의 핵무기와 비교했다. 그는 “미국을 위협하려면 10대의 항공모함과 핵무기 그리고 장거리 미사일이 필요하다. 지금은 우리의 인터넷 시스템, 뱅킹 시스템, 전기 그리드, 인프라에 액세스하면 되고, 점차 우리의 선거를 망치고, 국내에서 엄청난 위기를 조장하며, 우리를 약화시키는 매우 현실적인 가짜 동영상을 제작하는 능력만 있으면 된다”고 말했다.

경제분야도 딥 페이크 때문에 위험에 처하기는 마찬가지다. 주가를 조작하는 무수한 가짜뉴스에 이어 무수한 가짜영상과 마주치게 될 가능성이 커졌다. 브랜드 신뢰도와 제품 이미지에 의존하는 마케팅에서도 딥 페이크의 위협을 방어하기 위해 보호장치를 마련해야 할 것이다. 소셜 미디어를 활용하는 인플루언서에 크게 의존하는 브랜드들은 딥 페이크의 표적이 되기 쉽다.

딥 페이크를 감지해내는 일은 점점 어려운 문제가 돼가고 있다. 아마추어 딥 페이크는 한눈에 알아볼 수도 있겠지만, 전문가 영상은 육안으로 감별하기 쉽지 않다. 눈 깜빡임의 부재나 잘못된 그림자 등 디테일에서 오류를 찾을 수 있지만, GAN 또한 기술적으로 계속 개선돼 가고 있어서 머지 않아 딥 페이크를 감지하는 일은 디지털 포렌식에 의존해야 할 날이 올 것이다. 또한, 인간에게는 기본적으로 편견과 확증편향 같은 성향이 있으므로 반드시 딥 페이크가 아니더라도 저급한 기술의 조작 동영상인 샬로우 페이크(Shallow Fake)에도 효과적으로 쉽게 속아 넘어가기도 한다는 사실은 이미 여러 사례에서 입증된 바 있다.

법적 규제와 기술적 대처방안

딥 페이크가 가지고 있는 파괴적인 폭발성에도 현재 대부분의 나라에서 딥 페이크에 대한 규제는 기술 발전속도를 따라가지 못하는 형편이다. 딥 페이크 포르노에 얼굴을 도용당하는 것은 피해자에게 엄청난 정신적 피해를 가져오지만, 법적으로는 이같은 행위가 불법 촬영영상 유포나 성폭행에 해당하지 않아 처벌이 사실상 불가능하다.

최근에야 미국 버지니아주와 캘리포니아주 등이 딥 페이크 규제에 발 벗고 나섰는데, 버지니아주는 지난 7월 미국 최초로 딥 페이크 포르노 유포와 공유를 금지했다. 성적인 사진이나 동영상을 피해자 동의 없이 유포하는 리벤지 포르노를 범죄로 규정한 법에서 유포 금지대상을 ‘조작된 사진 또는 영상’까지 확대함으로써 딥 페이크를 최초로 범죄로 규정한 것이다. 캘리포니아주 또한 동의 없이 만들어진 딥 페이크 포르노를 제작하거나 유통하는 자에게 최대 15만 달러의 손해배상을 하도록 최근 법을 개정했다.

또, 텍사스와 캘리포니아주는 선거 후보자의 평판이나 유권자를 선동할 수 있는 딥 페이크 동영상을 선거기간 내 제작·유통할 경우 처벌하는 정치적 활용금지 법안을 마련했다. 뉴욕주 민주당 이베트 클라크 하원의원은 지난 6월 ‘딥 페이크 책임법(DEEPFAKES Accountability Act)’을 발의했다. 사기와 사취, 사회 불안을 유발하는 목적의 합성미디어를 범죄로 규정하려는 미 의회 최초의 법적 시도였다.

반면, 우리나라는 리벤지 포르노 관련법률이 지난해 본회의를 통과했지만, 딥 페이크 콘텐츠 규제 및 처벌은 사실상 전무한 상태다. 법안 마련 이전에 ‘디지털 위조’ 콘텐츠에 대한 공론화도 충분히 이뤄지지 못하고 있다.

글로벌 IT 기업들은 딥 페이크의 피해를 막기 위한 기술적 대응에 나서고 있다. 페이스북은 1천만 달러를 투입해 딥 페이크 영상을 가려내기 위한 ‘딥페이크 탐지 챌린지’ 프로젝트를 진행한다. 이번 프로젝트에는 페이스북을 비롯해 마이크로소프트, 알파벳(구글 모기업), 애플 등이 속한 연구그룹 ‘AI 파트너십’ 등이 후원하며, 미국 매사추세츠공대(MIT), 코넬대, 버클리 캘리포니아대(UC버클 리)와 영국 옥스퍼드대 등 명문대 소속 학자들도 다수 참여한다.

열린 사회와 그 적들

활시위는 당겨졌다. 구글뿐만 아니라 페이스북과 트위터, 애플, 마이크로소프트, 삼성 등 굴지의 기술기업들이 정교한 AI 합성기술시장에 뛰어들고 있다. 기술이 어디까지 발전할 것인지는 알 수 없지만, 새로운 발전에는 필연적으로 갈등이 뒤따르기 마련이다. 한편에서는 딥 페이크의 파급력에 대해 너무 과도한 우려는 기우에 불과하다는 반론도 나온다. 기술은 가치중립적이며, 사용자에 따라 악이 될 수도, 선이 될 수도 있다는 입장이다.

일례로, 독일 뤼벡대 의료정보학연구소 연구진은 지난 7월 초 GAN 기반의 딥러닝 알고리즘을 활용한 암 진단 인공 지능 개발 논문에서 엑스선 영상에 딥 페이크 기술을 적용한 사례를 발표했다. 뤼벡대 연구진은 생성적 대립신경망을 이용해 실제 영상과 구별할 수 없을 정확도의 의료영상을 손쉽게 만들어내는 데 성공했다. 딥 페이크 기술이 인공지능의 의료영상 학습과 진단에 주요한 도구로 활용될 것이라는 기대를 받는 연구였다.

프랑스 철학자 장 보드리야르는 현대 사회를 압도하는 시뮬레이션 효과를 설명하는 글에서 가상과 실재가 섞이는 현실이 점점 고도화되면 어느 순간 가상과 실제는 더 이상 구분할 수 없는 상태에 이르게 된다고 말한 바 있다. 미디어 비평가들은 대체로 우리가 더는 가짜 동영상을 감지할 수 없다면 머지않아 우리가 보고 듣는 모든 것을 신뢰할 수 없게 될 것이라고 경고하고 있다.

눈에 보이는 것 을 더 이상 신뢰할 수 없다면 ‘진실의 종 말’이 시작될 것이다. 이로 인해 객관적 현실에 대한 우리의 신뢰가 손상된다면 어떤 일이 벌어지게 될까? 형이상학적 수준이 아니라 일상에서 벌어지는 무수한 사태들에 대해서 동시적으로 그것이 진실인지 아닌지 확인할 수 없다면 정치는 위협받고 정치 시스템과 사회구조에 대한 신뢰도 붕괴할 위험에 처하게 될 것이다.

현대사회는 다양한 플랫폼 개발과 콘텐츠 제작기술의 발달로 누구나 쉽게 콘텐츠를 제작해 인터넷에 업로드 할 수 있게 됐고, 그만큼 가짜 정보나 조작된 정보에 노출되는 빈도수가 커진 것이 현실이다. 대중들은 단순히 정보의 소비자에 머물 게 아니라 적극적으로 정보의 진위를 판별할 수 있는 능력을 길러야 한다. 가짜 뉴스와 진짜 정보를 구분할 수 있는 능력이 바로 ‘미디어 정보 리터러시(MIL: Media & Information Literacy)’다.

MIL은 정보와 미디어 콘텐츠를 비판적 시각으로 판단해 수용하고, 유용한 정보를 효율적으로 활용할 수 있도록 돕는다. MIL은 혼란스러운 정보의 바다에서 필터링 기능을 수행한다. 유네스코에서도 2019 MIL 주간을 통해 디지털 시대를 살아가는 사람들이 더욱 정확하고 올바른 정보를 얻고 활용할 수 있도록 MIL 관련프로그램을 지원하고 있다.