‘그것이 알고싶다’ 딥페이크(기술)의 뜻과 영상, 딥페이스랩으로 얼굴영상 합성

딥페이크의 뜻과 영상, 딥페이크기술로 연예인 가짜영상 만드는 신종범죄, 딥페이스랩

 

여러분은 비디오나 유뷰트에서 또다른 자신의 모습을 보게 된다면 어떤 느낌을 받을까요?

지금 우리가 사는 세상은 딥페이크 영상 때문에, 큰 논란이 일어나고 있답니다.

 

지금 딥페이크기술을 활용한 K-POP 아이돌가수에 대한 성적대상화를 비판하는 목소리가 크게 터져나오고 있지요.

 

지난 3월 2일 청와대게시판에 ‘여성연예인을 고통받게 하는 딥페이크를 강력히 처벌해주세요!’라는 국민청원이 올라왔고, 이 청원은 한달동안 39만명의 사람들의 동의를 받으면서 큰 이슈가 되고 있습니다.

 

네델란드의 딥페이크 탐지기술업체의 조사에 따르면, 2019년 한해동안 온라인에 유포된 딥페이크사건은 85,047건으로,

딥페이크영상의 96%가 포르노물이며, 이런 음란동영상의 25%가 우리나라의 K팝 아이돌인 것으로 나타나서 큰 충격을 주고있습니다.

 

즉, 전세계적으로 유포되고 있는 딥페이크기술로 만들어진 음란동영상에 우리나라의 K팝 아이돌가수들의 얼굴이 무단 도용되고 있다고하니, 정말 안타깝고 충격적인 일이 아닐 수 없습니다.

 

그렇다면, 딥페이크는 무슨 뜻일까요?

 

◆ 딥페이크의 뜻

 

딥페이크(deepfake)는 ‘딥러닝(deep learning)’과 ‘거짓(fake)’의 합성어로, 인공지능 학습과 허위조작으로 새로운 영상물을 만들어낸다는 뜻을 갖고 있지요.

 

즉, 딥페이크(deepfake)는 특정인물의 얼굴을 인공지능(AI)기술을 이용해 특정영상에 합성편집하여, 새로운 영상물을 만드는 기법이랍니다.

 

‘딥페이크’는 처음에는 미국의 유명 헐리우드배우의 얼굴과 포르노영상을 합성한 편집영상물을 올리면서 시작되었답니다.

 

그러면서 점점 연예인들이나 정치인, 일반인까지 그 대상이 확대되면서, 오늘날 일반인과 연예인을 포함한 많은 인사들이 딥페이크기술를 이용한 음란편집물의 희생자로 전락하고 있어서, 21세기의 가장 뜨거운 핫이슈를 일으키는 논란거리로 급부상하고 있습니다.

 

‘딥페이크’는 우리나라의 K팝 아이돌가수나 연예인들의 얼굴사진을 가져다가 인공지능기술을 이용해서, 음란동영상 배우들의 얼굴에 합성편집해 새로운 음란물을 만들어내는 기술이지요.

 

이렇게 만들어진 음란동영상의 원래 배우는 포르노배우이지만, 얼굴사진을 도용당한 그 연예인이 포르노배우로 둔갑해버리는 새로운 허위의 영상물이 만들어지게 된답니다.

 

이와같이 우리나라의 적지않은 K팝 아이돌가수들이 허위로 만들어진 ‘딥페이크’ 영상물의 피해자가 되고 있어서, 큰 논란거리가 되고있습니다.

 

◆ 딥페이크 영상조작의 실제 피해자 사례

 

어느날 연기초년생인 A양은 낯선 한 남자로부터 문자메시지를 전달받는데요. 그 남자는 문자메시지를 통해서 A양이 다른 남자와 성관계를 맺는 음란동영상을 갖고 있다고 알려왔습니다.

 

 

그런데, A양은 배우를 시작해서 연기활동을 시작한 지 몇 년 안되는 연기초년생인데, 앞으로 유명스타를 꿈꾸고 있는 그녀가 음란동영상을 찍을 이유는 전혀 없는 것이지요. 그리고 A양은 단 한번도 그와같은 음란동영상을 찍은 적도 없었구요!

 

그래서 A양은 자신은 음란영상을 찍은 적도 없다고 강력히 주장했습니다.

 

그런데, 그 남자는 메시지를 통해서 그 음란동영상에서 캡쳐한 여주인공의 사진을 보내왔고, 그 여주인공의 얼굴모습은 놀랍게도 A양의 얼굴과 똑같았답니다.

 

그 남자는 A양에게 그녀의 얼굴이 담긴 그 음란동영상을 많은사람들에게 유포시키겠다고 협박하면서, 거액의 돈을 요구했답니다.

 

즉, A양의 얼굴과 흡사한 여인의 모습이 담긴 음란동영상을 유포하겠다는 협박과 함께 그녀에게 많은 돈을 요구하고 나선 겁니다.

 

그렇지만, 한번도 음란동영상을 찍은 적이 없는 A양은 그남자의 협박에 불응했고, 그남자의 돈요구를 단번에 거절했습니다.

 

그러자, 그 남자는 실제로 그 음란동영상을 여러곳에 유포했고, A양의 얼굴모습이 담긴 그 동영상은 많은 사람들에게 노출되고 말았습니다. 이 때문에, A양은 엄청난 수치심과 정신적인 고통을 받고 있습니다.

 

그런데, A양은 단 한번도 음란물을 찍은 적이 없는데, 어떻게 그녀의 얼굴이 담긴 음란동영상이 만들어져서 널리 유포될 수 있었을까요?

 

그것은 바로 ‘딥페이크’기술을 이용한 얼굴합성으로 만들어진 허위의 편집물 때문이랍니다.

즉, ‘딥페이크’기술을 이용해서, A양의 얼굴사진을 AI기술로 합성편집해서, 마치 A양이 실제로 그 영상물의 주인공인 것처럼 둔갑시킨겁니다.

 

A양은 팔로워가 3만명이 넘는 SNS을 보유하고 있었는데, 그녀의 SNS에도 그 음란영상물을 받다고 주장하는 댓글들이 많이 올라오고 있으며,

그녀는 사실이 아닌데도 불구하고 자신이 진짜로 포르노를 찍은 주인공으로 오해를 받는 것이 너무도 수치스럽고, 억울했다고 합니다.

 

또다른 일반인 박주연씨도 비슷한 딥페이스의 피해를 당했다고 호소합니다.

박주연씨는 전혀 교류가 없었던 낯선 남자에게서 이상한 동영상을 갖고있다는 메시지를 받았는데요.

 

그남자는 박주연씨와 얼굴이 흡사한 어떤 여성의 알몸사진을 함께 보내주면서, 자신이 그녀의 음란동영상을 갖고 있다고 주장했습니다.

박주연씨는 한번도 음란동영상을 찍은 적이 없었기에, 그영상물의 주인공은 자신이 아니라고 강력히 항변했답니다.

 

그럼에도 불구하고 그남자는 그 음란영상물을 유포하겠다고 협박하면서, 그녀에게 200만원의 돈을 요구하고 나섰습니다.

 

A양과 박주연씨는 SNS활동을 활발히 하고 있는 분들이며, 그녀들은 SNS에 자신의 일상과 동향을 올리면서, 여러사람들과 소통을 하고있는 평범한 일반인들이랍니다.

그런데, A양과 박주연씨가 자신의 SNS에 올린 사진들을 누군가가 가져가서, 딥페이크기술을 이용해, 그녀들의 얼굴과 빼닮은 여성이 나오는 음란동영상을 만들었던 겁니다.

 

아무 잘못도 없는 A양과 박주연씨는 딥페이크의 전형적인 피해자라고 할 수 있으며, 이런 피해자가 점차 확대되고 있는 추세입니다.

 

이처럼, 이젠 ‘딥페이크’기술이 연예인을 넘어서 일반인들로까지 그 대상이 확대되고 있어서 큰 충격을 주고있습니다.

 

‘딥페이크’는 2014년도에 한 IT전문가에 의해 개발되어서 2017년도에 세상이 처음으로 알려졌습니다.

 

‘딥페이크’는 영상속 얼굴을 다른사람의 얼굴로 바꿔주는 AI기술을 가르키는 말입니다.

 

인공지능이 ‘딥러닝(deep learning)’이라는 반복적인 학습을 통해 특정한 사람의 얼굴특징을 스스로 학습한 뒤, 그 학습을 바탕으로 한사람의 얼굴을 다른사람의 얼굴로 교묘히 바꿔주는 첨단기법입니다.

 

이처럼 인공지능으로 하여금 사람의 얼굴을 가지고 반복적인 학습을 하게하면, 컴퓨터그래픽으로 100일이 걸리는 것을 단 하루만에 얼굴편집을 가능하게 해준다고 합니다.

그렇기만, 영상분야에서는 시간과 비용을 엄청나게 절약하게 해주는 최첨단기술입니다.

 

◆ 딥페이크 기술의 장점과 단점 

 

상상이 현실이 되는 것처럼, 딥페이크를 이용하면, 그림속의 모나리자도 살아있는 사람처럼 말하고 활동하는 영상도 만들 수가 있는 겁니다.

 

그리고 사진 몇장만 있으면, 누구나 유명영화의 주인공이 될 수도 있는 겁니다.

 

이렇게 딥페이크기술을 이용해서 단 몇시간만에 사진을 제공한 그 사람이 전혀 다른 영상물의 주인공으로 탈바꿈시켜줄 수 있다니,

정말 딥페이크는 놀라운 기술이 아닐 수 없으며, 21세기 최첨단기술의 총아라고 할 수 있습니다.

 

이 딥페이크기술은 영상산업분야에서는 신세계를 열어줄 혁신적인 발명품이라고 할 수 있고, 영화산업을 한단계 더 도약할 수 있게 해주는데 큰 기여를 할 수 있는 고급기술입니다.

 

그렇지만, 이와같이 장점이 많은 딥페이크이지만, 이 기술이 전혀 나쁜 방향으로 악용되고 있는 것이 문제입니다.

 

이 딥페이크기술이 가장 많이 사용되고있는 곳은 놀랍게도 음란영상물 분야라고 합니다.

 

우리 K팝 아이돌가수나 연예인들의 얼굴을 무단으로 합성하여 음란영상 같은 새로운 영상편집물로 만들어져, 세계의 수많은 사람들에게 널리 유포되고 있는 실정입니다.

 

영상산업 발전을 위해 사용되어야할 딥페이크가 오늘날 가짜 음란동영상을 만드는 데에 가장 많이 사용되고 있어서, 큰 충격을 주고있습니다.

 

2019년 네델란드의 보안업체가 조사한 보고서에 따르면, 전세계의 온라인에 퍼진 딥페이크 영상물의 96%가 다른사람의 얼굴을 합성해붙인 가짜포르노 영상물이라고 합니다.

 

이렇게 딥페이크는 다른 사람의 인권이나 초상권을 훼손하는 등 심각한 인권침해 논란을 야기시키고 있습니다.

 

그렇지만, 딥페이크기술은 좋은 영상을 만드는데도 사용할 수 있는 긍정적인 역할도 합니다.

 

러시아에서 제작한 성소수자에 관한 다큐멘타리영상에서는 화면에 나오는 성소수자얼굴을 그냥 모자이크처리를 하지않고, 딥페이크기술을 활용해서 전혀 다른 얼굴로 바꿔줌으로써, 성소수자들의 프라이버시와 인권을 보호하는 역할도 하고 있습니다.

 

또한 ‘딥페이크’는 단지 다른 사람의 얼굴로 합성하는 기능뿐만 아니라, 전혀 새로운 가상의 얼굴을 만들어 바꿔주는 기능도 하고있습니다.

 

그리고 '딥페이크'는 모자이크처럼 얼굴전체의 모습이 사라진 것이 아니라, 딥페이크기술을 이용해서 섬세한 얼굴표정의 하나하나를 모두 살릴 수가 있어서, 다큐멘타리 영상물의 품질을 더 한층 높일 수가 있는 것입니다.

 

이 다큐멘터리에 나오는 사람들의 모습은 딥페이크기술에 의해 새롭게 만들어진 가상의 얼굴이기 때문에, 아무도 그가 누군인지를 알 수가 없습니다.

 

우리나라의 딥페이크 가상얼굴 개발업체는 전혀 새로운 차원의 딥페이크기술을 개발해내었는데요.

기존의 딥페이크기술은 A라는 사람의 얼굴을 영상물에 나오는 B라는 사람의 얼굴에 갖다붙여서 A라는 사람얼굴로 대체하는 것을 말하는데요.

 

우리나라의 딥페이크 가상얼굴 개발업체는 동영상속의 얼굴을 A도 B도 아닌 세상에 존재하지않는 가상의 얼굴을 새롭게 만들어 갖다붙이는 기술을 개발해내어 활용하고 있습니다.

 

이렇게 딥페이크는 다른 사람의 얼굴로 교체하는 케이스와 세상에 존재하지않는 가상의 얼굴로 교체하는 두가지가 존재하고 있답니다.

 

딥페이크기술에 의해 세상에 존재하지 않는 가상의 얼굴을 만들어 영상에 입하는 것도 가능하다고 하니, 정말 딥페이크기술은 잘 만 사용한다면, 좋은 효과를 가져올 수 있습니다.

 

그렇지만, 지금 생존해있는 다른 사람의 얼굴을 음란영상물의 주인공의 얼굴로 합성해서 공개하는 것은 그사람의 인격을 훼손시키는 등 엄청난 사회적 문제를 야기시키는 것입니다.

 

위의 두여성의 실례처럼, 일반인 여성의 얼굴을 전혀 관련없는 포르노동영상에 나오는 주인공의 모습으로 바꿔버리는 딥페이크는 그 여성의 인격과 이미지를 엄청나게 훼손시키는 패륜적인 행위라고 할 수 있습니다.

 

또한 이렇게 허위로 만든 음란동영상을 무기로 그 당사자를 협박해서 돈을 뜯어내는 파렴치한 범죄행위가 점차 증가하고 있어서, 큰 우려를 낳고 있습니다.

 

화면에 나오는 사람의 얼굴을 바꾸는 기술은 종래에 컴퓨터그래픽이라는 기술로 가능했지만, 이 컴퓨터그래픽은 엄청난 시간과 노동력을 필요로 하는 매우 고단한 작업입니다.

그렇지만, 딥페이크기술을 이용하면, 아주 짧은 시간내에 아주 간단하게 사람의 얼굴을 바꿀 수 있습니다.

 

이렇게 딥페이크기술을 좋은쪽으로 사용한다면, 우리 영화산업이나, 영상산업 발전에 큰 기여를 할 수가 있습니다.

 

그렇지만 딥페이크기술은 현실적으로 범죄나 나쁜쪽으로 더 많이 사용되고 있어서, 큰 우려를 낳고있습니다.

 

◆ 딥페이크기술을 이용한 신종 보이스피싱 범죄 발생

 

딥페이크가 세상에 더욱 많이 알려지게 되면, 앞으로 딥페이크를 사용한 범죄가 더 크게 증가할 것으로 전망됩니다.

 

범죄자가 어떤 부모에게 딥페이크기술을 사용해서 그 아들의 얼굴을 합성편집해서 영상물을 만들고,

그 영상을 활용해 부모님에게 돈을 보내달라고 요구해서 거액의 돈을 갈취하는 범죄가 기승을 부릴 수도 있습니다.

 

딥페이크기술을 이용해서 그 부모의 아들이 병원에 입원해있는 화면을 만들고, 아들이 치료비를 보내달라는 내용의 영상물을 부모에게 보여주면서 돈을 요구할 경우,

동영상에서 친자식이 병상에 누워있는 모습을 본 그 부모님은 실제로 거액의 돈을 송금해줄 가능성이 크다고 하겠습니다.

 

실제로 진행한 실험에서 부모님 세분 중에 두분이 딥페이크 영상에 속아서, 타인이 요구하는 치료비를 송금해주었다고 합니다.

이 실험에서, 병석에 누워있는 자식의 모습이 담긴 딥페이크 동영상을 본 부모님은 그 영상속의 인물이 자신의 친자식으로 인식하고 지체없이 치료비를 송금해주었답니다.

 

물론 그 동영상은 딥페이크로 만들어진 가짜동영상이었답니다. 딥페이크로 만들어진 가짜 동영상에 속아서, 세분의 부모님 중 두분이 타인이 요구한 돈을 실제로 송금해주었답니다.

 

이처럼 실제로 딥페이크가 범죄에 악용될 소지가 높다는 것을 실험을 통해 확인할 수 있었습니다.

 

딥페이크기술은 유명인의 얼굴을 가짜로 만들어서 그가 한적이 없는 거짓연설을 만들어낼 수도 있습니다.

예를 들어, 세계적인 영향력을 지닌 트럼프대통령이나 김정일의 동영상을 가짜로 만들어 그들이 어떤 메시지를 세상에 전달하게 함으로써, 세상에 엄청난 충격과 혼란을 줄 수도 있습니다.

 

앞으로 우리는 딥페이크에 속지않는 새로운 기술을 만들어서, 가짜 딥페이크 영상에 대처해나가야 하겠습니다.

 

그런데, 작년에 딥페이크기술로 만들어진 가짜동영상을 인공지능을 이용해 탐지해낼 수 있는 기술이 한 연구진에 의해서 개발되었답니다.

2020년도에 이화여대 사이버보안팀 ‘딥트(DEEP't)’는 AI기술을 이용해서 딥페이크로 만들어진 가짜동영상을 탐지해내는 기술을 개발해냈습니다.

 

'딥트'를 개발한 이화여대 사이버보안팀

 

의심이 가는 동영상을 이 사이버보안팀이 개발한 딥트라는 프로그램에 업로드해 넣으면, 딥트에서는 1분도 채 안되어서 이 동영상이 가짜동영상인지를 곧바로 탐지해냈습니다.

 

이처럼 딥페이크 영상을 탐지해낼 수 있는 프로그램이 만들어져서 다행이라고 생각되는데요.

 

그렇지만, 딥페이크기술을 이용해서 이미 일반인이나 연예인의 얼굴을 도용한 음란동영상이 제작되어 널리 배포된 후라면, 그사람의 누드영상을 많은 사람들이 감상한 후이기 때문에, 딥트가 있더라도 별로 의미가 없다고 할 수 있습니다.

 

위에서는 딥페이크의 단점을 주로 살펴보았는데요. 딥페이크기술은 단점만 있는 것이 아니라, 장점 또한 존재합니다.

 

딥페이크는 인공지능 기술로 사망한 사람의 얼굴을 동영상으로 재현해낼 수 있는 기술이기 때문에,

이미 죽은 가족이나 아내의 동영상을 새로운 콘텐츠로 만들어서 가족들을 위로하기도 하고, 과거의 추억을 소환해 새로운 감동을 만들어 내는 긍정적인 효과도 가져올 수 있습니다.

 

딥페이크기술은 나자신을 유명한 영화의 멋진 주인공으로도 탈바꿈시켜줄 수도 있고, 과거에 사망한 헐리우드 여배우를 다시 멋진 모습으로 소환해서 그녀의 아름다운 동영상콘텐츠를 다시 만들어낼 수도 반면, 반대로 불법 성착취 동영상의 주인공이 되게 만들기도 하는 양날의 검이라고 할 수 있습니다.

 

이처럼 딥페이크기술은 단점과 장점을 동시에 포함하고 있는 21세기형 최첨단 아이티기술입니다.

 

딥페이크기술은 우리가 어떤 마음가짐으로 어떻게 사용하는가에 따라서, 우리에게 행복감을 안겨주는 혁신적인 문화콘텐츠가 될 수도 있고,

반대로 한 개인을 불명예의 나락으로 떨어뜨릴 수도 있으니, 우리는 앞으로 경각심을 갖고 딥페이크기술을 반듯하고 올바르게 사용해야하겠습니다.

 

참고로 딥페이크 영상을 만드는 프로그램을 ‘딥페이스랩’이라고 합니다.

딥페이크 영상을 만들 수 있는 프로그램 ‘딥페이스랩’은 아래의 사이트에서 다운받을 수 있습니다.

 

그래픽카드가 앤비디아인 경우 - https://github.com/iperov/DeepFaceLab