딥페이크 기술, 잘 쓰면 藥 못 쓰면 毒 > 서비스리뷰

유튜브에서 유명 연예인 얼굴을 합성하는 불법 동영상이 유포되어 화제가 된 바 있다. 이젠 2차원적인 사진 합성은 구시대적 기술이 된 지 오래고, AI 기술의 발달로 3차원 영상도 아무도 눈치 채지 못하게 감쪽같이 바꿀 수 있다. 딥페이크 기술 때문이다. 문제는 딥페이크 기술이 범죄에 악용되고 있다는 사실이다. 딥페이크 기술의 문제점에 대해 알아본다.

#1 “트럼프 대통령은 정말 바보이고 구제불능한 인간입니다. 물론, 아시다시피 나는 이런 말을 하지 않았습니다.” 오바마 전 미국 대통령이 유튜브 영상을 통해 한 말이다. 귀를 의심할 정도의 노골적인 독설을 거침없이 쏟아내는 오바마의 모습이 낯설지만, 오바마의 얼굴이다. 다행히도 이 영상은 미국의 온라인 매체 버즈피드가 딥페이크의 위험성을 경고하기 위해 제작한 영상이었다. 

#2 “안녕하세요. 일론 머스크입니다. 저를 따라서 비트코인 했다가 피 본 사람 많죠? 나는 돈이 많으니까 상관없는데 여러분은 조심하셔야 해. 암튼 테슬라 주식 얼른 사. 화성에 갈 거니깐.” 초보적인 딥페이크 기술이 적용된, 웃자고 만든 동영상도 있다.

딥페이크 기술의 현재 상황

딥페이크(DeepFake)는 특정 인물의 얼굴 등을 인공지능(AI) 기술을 이용해 특정 영상에 합성한 편집물을 말한다. 딥러닝(deep learning)과 거짓(fake)의 합성어다. 2017년 미국에서 ‘딥페이크’라는 아이디를 가진 네티즌이 온라인 커뮤니티 레딧에 할리우드 배우의 얼굴과 포르노를 합성한 편집물을 올린 것이 딥페이크의 첫 시작이다.

이후 딥페이크 알고리즘은 유저 공유 플랫폼인 깃허브(GitHub)를 통해 일반에 공개되면서 누구나 해당 기술과 노하우를 이용해 딥페이크 동영상을 만들 수 있게 됐다.

딥페이크 기술의 원리는 딥러닝과 GAN이다. 먼저 딥러닝은 심화신경망을 활용해 기계학습을 한 방법론이다. 즉, 컴퓨터가 사람처럼 생각하고 배우도록 하는 기계학습 기술로서 이미지 검색, 음성검색, 기계번역 등 다양한 분야에 활용되고 있다. 두 번째는, 딥페이크의 핵심 알고리즘인 GAN인데 이것은 생성적 적대 신경망(Generative Adversarial Net)의 약자로, 두 신경망 모델의 경쟁을 통해 학습하고 결과물을 만들어낸다.

이론은 너무 어려우니 넘어가자. 실제로 딥페이크 비디오는 보통 얼굴을 바꾸거나 표정을 조작한다. 딥페이크는 데이터의 패턴을 인식하는 시스템인 인공 신경망에 의존한다. 딥페이크 사진 또는 비디오를 개발하는 데에는 일반적으로 수백 또는 수천 개의 이미지를 인공 신경망에 투입하고, 패턴을 식별하고 재구성하도록 훈련(학습)하는 작업이 포함된다.

연예인이나 정치인 등 유명인뿐만 아니라 일반인도 딥페이크의 대상이 되면서 논란이 확산됐다. 딥페이크는 온라인에 공개된 무료 소스코드와 알고리즘으로 손쉽게 제작이 가능하며 진위 여부를 가리기 어려울 만큼 정교하다. 영화나 상업 영상 같은 온순하고 합법적인 응용 프로그램에도 불구하고, 딥페이크는 안타깝게도 성 착취물에도 많이 사용된다는 사실이다.

최근 박사방, N번방 사건으로 알려지며 사회적 공분을 일으킨 사건에서 촬영한 영상 2만7천여개의 영상에서도 딥페이크 영상이 발견됐다. 경찰의 자료에 따르면, 딥페이크 기술을 이용해 지인이나 연예인 등을 합성한 성영상물을 제작하는 불법합성물 범죄가 53건에 달했다.

네덜란드의 딥페이크 탐지 업체인 딥트레이스에서 작성한 보고서에 따르면, 2020년 12월 현재 약 8만5천건의 딥페이크 동영상이 검출되었다. 이는 딥페이크가 등장한 2018년 이후 매 6개월마다 두 배씩 늘어나고 있는 수치이다. tvN의 알쓸범잡 프로그램에서도 딥페이크를 소개했는데 딥페이크 영상의 96%가 포르노인데 그 중 25%가 한국 여자 연예인이었다고 한다.

문제는 이제 일반인도 딥페이크 기술을 활용해 얼굴을 합성할 수 있다는 점이다. 국내 구글 플레이에 들어가면 얼굴합성 앱이 나란히 인기 순위 3, 4위를 기록하고 있다. 우크라이나의 AI 회사 네오코텍스트가 개발한 리페이스와 중국의 이노베이셔널 테크놀로지스가 개발한 페이스플레이가 그것이다. 딥페이크를 이용한 얼굴 합성은 휴대폰에 저장된 자신의 셀카 1장과 앱이 제공하는 TV·드라마 유명배우 사진을 연결하면 자동으로 얼굴을 합성해준다.

정부, 딥페이크 불법 유통 처벌 팔 걷어

딥페이크가 음란물 제작에도 이용됨에 따라 한국에서는 ‘성폭력범죄의 처벌 등에 관한 특례법’을 통해 불법적인 제작과 유통을 처벌하고 있다. 딥페이크 등으로 인한 피해가 증가하지만 기존 법규정으로 이를 처벌하기 어렵거나 처벌이 미약하여 이에 대한 별도의 처벌 규정을 마련할 필요성이 증가함에 따라 2020년 3월 24일 ‘성폭력범죄의 처벌 등에 관한 특례법’이 개정되어 딥페이크에 대한 처벌 규정이 마련되었다(법률 제17086호).

이 법에 따라 성적 욕망 또는 수치심을 유발할 수 있는 영상 또는 음향 등을 제작하거나 반포한 사람은 5년 이하의 징역 또는 5000만원 이하의 벌금, 특히 영리 목적으로 정보통신망을 이용해 유포한 경우 7년 이하의 징역으로 가중처벌이 가능하게 되었다.

법무부는 아동·청소년·여성을 겨냥한 디지털 성범죄 급증에 대응하기 위해 '디지털성범죄 등 대응 TF'를 신설해 운영하기 시작했다. TF의 주요 업무는 성범죄 대응 형사사법체계 확립, 맞춤형 피해자 보호 방안 마련, 딥페이크(deepfake) 범죄 대응 대책 연구 등이다.

올해 초에는 청와대 청원 게시판에 ‘여성 연예인들을 고통받게 하는 불법 영상 ‘딥페이크’를 강력히 처벌해 달라’는 청원이 올라와 39만명이 동의했다.

이 청원은 30일 동안 20만명 이상이 동의하는 조건을 충족해 청와대에서 답변을 달았는데 “딥페이크 기술 등을 악용해 불법합성물을 제작해 반포하는 행위는 명백한 범죄행위로, 지난해 6월 성폭력처벌법이 개정되면서 관련 규정이 신설된 후 처벌이 가능해졌으며, 경찰은 딥페이크 기술을 악용한 불법합성물 근절을 위해 지난해 12월부터 허위영상물 제작·유포사범 집중단속을 실시 중”에 있다면서 “텔레그램·디스코드와 같은 메신저·다크웹 등 성착취물 불법 유통망을 비롯해 불법촬영물과 합성물 등을 제작하고 유통하는 공급자와 구매·소지·시청하는 수요자에 대한 집중 단속도 실시하고 있고 불법촬영물 추적시스템, 사이버 불법정보대응 공조시스템 등 각종 시스템을 활용해 끝까지 추적해 엄단할 것”이라고 밝혔다.

양날의 칼 딥페이크

딥페이크는 양날의 칼과도 같다. 지금까지 좋지 않은 면만 부각되어 왔지만 긍정적인 측면도 있는 게 사실이다. 영국 축구선수인 데이비드 베컴이 말라리아 퇴치를 위한 광고 영상을 제작하면서 딥페이크 기술을 이용해 입 모양을 수정함으로써 9개 국어의 홍보 영상을 제작할 수 있었다.

미국 헐리우드 영화에서도 2016년 개봉한 영화 로그원에서 40년 전 스타워즈에 출연했던 배우 피터 커싱이 등장하는데 딥페이크 기술을 활용해 대역배우 얼굴에 과거 얼굴을 그대로 합성한 것이라고 한다.

우리나라 방송사에서도 딥페이크를 잘 활용하고 있다. CJ올리브 네트웍스는 엠넷(Mnet)의 ‘AI 프로젝트 다시 한번’에 딥페이크 기술을 지원해 2008년에 세상을 떠난 가수 터틀맨의 모습을 복원했고, tvN 드라마의 나빌레라 마지막회 공연 장면도 딥페이크로 구현했다. 또 올해 삼일절에는 유관순 열사와 안중근 열사, 윤봉길 의사 등 순국열사의 생전 모습을 복원한 딥페이크 이미지가 화제를 모으기도 했다.

빛이 있으면 그늘이 있듯이 딥페이크 기술 역시 사이버 사기사건 같은 범죄행위로도 활용되고 있어 주의가 요구된다. 특히나 셀카를 주로 올리는 SNS 활동을 하는 사람은 더욱 요주의 대상이다. SNS 활동을 하더라도 자신의 얼굴이나 가족, 지인의 사진은 가급적 업로드하는 건 삼가해야 한다. 정교하게 제작된 딥페이크 영상을 구별해 내는 건 사실상 불가능에 가깝기 때문이다. 잘 쓰면 약이 되고, 못 쓰면 독이 되는 딥페이크 기술을 어떻게 활용할지는 우리들의 몫이다.