딥페이크 뜻과 범죄 유형까지, AI가 만든 함정에 빠지지 않으려면?

딥페이크(Deepfake)란 인공 지능 심층 학습을 뜻하는 ‘딥 러닝(Deep learning)’과 ‘가짜’를 뜻하는 ‘페이크(Fake)’의 합성어로, AI 기술을 활용해 실제와 구별하기 어려운 가짜 이미지나 영상물을 의미합니다.

여기에 목소리를 복제하는 딥보이스(DeepVoice) 기술까지 더해지며, 단순히 눈에 보이는 모습뿐 아니라 한 사람의 특유의 말투나 억양까지 흉내낼 수 있게 되었어요.

문제는 이러한 기술이 누구나 쉽게 접근할 수 있을 만큼 대중화되었다는 점인데요. 전문 지식 없이도 실제와 똑같은 가짜를 단시간에 만들 수 있다는 특성 때문에, 이를 악용한 범죄가 일상 속으로 빠르게 파고들고 있습니다.

딥페이크 범죄는 단순한 얼굴 합성을 넘어, 인격 침해나 금전적 피해로까지 이어지고 있습니다. 대표적인 딥페이크 범죄 유형 세 가지를 하나씩 살펴볼게요.

딥페이크는 타인의 얼굴과 성착취물을 정교하게 합성해 무차별적으로 유포하는 범죄에 악용되고 있습니다. 가해자들은 피해자의 SNS에 게시된 일상 사진을 무단으로 캡처한 뒤, 생성형 AI를 이용해 음란물과 합성합니다. 이후 텔레그램 등 익명 메신저를 통해 합성 이미지나 영상물을 유포하거나, 이를 이용해 피해자를 협박합니다.

실제로 2025년에는 딥페이크 성범죄 피해가 2024년 대비 3배 이상 증가했으며, 피해자 10명 중 9명이 10대와 20대인 것으로 나타났습니다.

딥페이크 기술은 금융 사기 분야에서 가해자가 지인의 얼굴과 목소리를 흉내내어, 피해자를 속이는 치밀한 수법으로 진화하고 있습니다. 단 몇 초의 음성 샘플만으로 복제된 딥보이스를 이용해 급한 사고나 합의금 등이 필요한 상황이라며 전화를 걸어 금전 송금을 요구합니다.

한 사례로 자녀의 얼굴을 합성한 가짜 영상을 딥페이크로 제작해 부모에게 전송하고, ‘자녀를 납치했다’며 금전을 요구한 외국인 대상 전화 금융사기가 발생하기도 했어요.

딥페이크는 정치인이나 공인의 얼굴과 목소리를 복제해, 그들이 하지 않은 발언을 하거나 부적절한 행동을 하는 것처럼 꾸며냅니다. 이러한 영상은 SNS를 통해 빠르게 확산되며, 사실 여부가 밝혀지기 전까지 여론을 왜곡하고 사회적 분열을 초래하는 위험 요소가 됩니다.

대표적인 사례로, 2024년 미국에서 벌어진 ‘바이든 가짜 전화’ 사건이 있습니다. 당시 미국 대통령인 조 바이든의 목소리를 흉내 낸 딥보이스 전화가 뉴햄프셔주 민주당 경선을 앞두고, 약 5천 명에서 2만 5천명에 이르는 유권자에게 전달되었습니다. 이 음성은 예비 경선 투표를 거부하도록 유도하는 가짜 메시지였어요.

딥페이크 기술이 발전하면서 눈으로만 보고 진짜인지 가짜인지 판단하기는 점점 어려워지고 있습니다. 그렇다고 해서 전혀 구별할 수 없는 것은 아니에요. 딥페이크를 구별할 때 참고할 수 있는 몇 가지 방법을 알려드릴게요.

딥페이크 이미지나 영상은 자연스러워 보여도 자세히 보면 어색한 부분이 드러나는 경우가 많습니다. 피부가 지나치게 매끈한지, 얼굴 윤곽 경계가 흐릿하게 보이는지, 조명이나 그림자가 얼굴 방향과 일치하는지 살펴보세요.

영상 속 인물의 말소리와 입술 움직임이 미묘하게 어긋나거나, 표정 변화가 자연스럽지 않다면 딥페이크일 수 있어요. 억양에서도 단서를 찾을 수 있는데요. 인공지능이 생성한 음성은 감정 변화가 느껴지지 않는 단조로운 리듬이나 반복적인 패턴을 띠는 경우가 많기 때문입니다.

딥페이크는 글자, 손가락, 머리카락처럼 작은 요소에서 오류가 드러나곤 합니다. 손가락 개수가 비정상적이거나, 머리카락 경계가 흐릿하게 번져보이고, 인물과 배경의 연결이 매끄럽지 않다면 딥페이크일 가능성을 의심해볼 필요가 있습니다.

딥페이크 범죄가 고도화되면서 그만큼 대응하는 일도 점점 어려워지고 있습니다. 그러나 딥페이크의 기술적 한계를 이해하고, 기본 대응 방법을 숙지하면 피해 예방에 도움이 됩니다. 국가정보원(NIS)이 안내하는 딥페이크 범죄 예방법 세 가지를 알려드릴게요.