[AI를 사랑하는 까로나 선생님의 ‘이것저것’] 사기 범죄에 활용되는 AI

기사입력 : 2026년 08월 21일

보이스피싱과 사이버 범죄가 판을 치는 세상입니다. 캄보디아에서 스캐머들이 적발되고 퇴출되는 뉴스가 이제는 정말 지긋지긋합니다. 그런데 그 범죄들에 AI가 한몫 단단히 하고 있다는 사실이 드러났습니다.

포이펫 범죄자들의 AI대화기록

지난 7월 31일, chatGPT의 오픈AI가 ‘어느 범죄 사기 조직을 차단하며’라는 제목의 보고서를 하나 냈습니다. 그 무대는 또한 캄보디아 반띠어이미은쩨이 주 포이펫이었습니다. 오픈AI는 포이펫 인근에서 사기조직이 운영하던 챗GPT 계정들을 무더기로 차단했습니다. 사기 범죄자들은 AI로 가짜 인물 프로필을 만들고, 표적에게 보낼 메시지를 생성하고 외국어로 번역하고, 사기 투자 홍보물을 만들고, 여권이나 법률 통지서, 주식 매수 확인서, 도박 사이트 화면 같은 위조 이미지까지 뽑아냈습니다. 수법은 먼저 다가가고(ping), 감정을 흔들고(zing), 돈을 빼가는(sting) 세 단계로 이루어져 있다고 보고했습니다. 사기범들은 데이팅 앱에서 몇 주간 다정하게 대화를 나누다가 슬쩍 암호화폐나 금 투자 이야기를 꺼내는 방식을 사용합니다. “포이펫에서 항공권과 숙식, 비자를 다 대준다는 구인 광고를 AI로 만들어 뿌린 정황도 나왔습니다. 이런 광고에 속아 들어간 사람들이 여권을 빼앗기고 사기 노동에 내몰린다는 것은 이미 잘 알려진 수법입니다.” AI의 뛰어난 외국어 번역실력이 수많은 외국인 표적들을 공격할 수 있도록 도왔습니다. AI가 언어의 벽을 없애주고 있는데, 범죄자들이 이를 교묘하게 사용하고 있던 것입니다.

이제는 분간하기 어려운 AI 목소리

‘음성 복제’는 어떤 사람의 목소리를 몇 초만 들려주면, AI가 그 목소리를 흉내 내서 아무 말이나 시킬 수 있게 만드는 기술입니다. 그 사람이 평생 한 적 없는 말도 그 사람 목소리로 술술 나오게 하는 것이죠. 원리는 이렇습니다. 사람마다 목소리에는 고유한 특징이 있습니다. 목소리의 높낮이, 말하는 속도, 특정 발음을 굴리는 습관, 문장 끝을 올리는지 내리는지 같은 것들 말입니다. AI는 짧은 녹음에서 이 특징들을 뽑아낸 뒤, 그 틀에 새로운 문장을 부어 넣습니다. 붕어빵 틀을 하나 떠 놓고 반죽만 계속 바꿔 넣는 것과 비슷합니다.

이 기술 자체는 몇 년 전부터 있었지만, 그동안은 어색한 티가 났습니다. 어딘가 기계 같고, 억양이 밋밋하고, 한 번만 집중해서 들으면 “아, 이거 AI네” 싶었죠. 그런데 지난달 나온 ‘블랜드 스피치 v3′라는 음성 AI는 좀 다릅니다. 1억 건이 넘는 실제 전화 통화를 학습한 이 AI는, 보통 AI 음성이 깔끔하게 다듬어 없애버리는 것들을 오히려 일부러 남겨뒀다고 합니다. 숨 들이쉬는 소리, “어…” 하고 잠깐 멈추는 순간, 말을 더듬는 부분 같은 것들이요. 이제는 AI가 그 지점을 파고들었습니다
솔직히 이런 기술을 도대체 왜 만들어 내는 건지, 이것 때문에 사기가 더 늘어나는 건 아닐지 우려됩니다. 자녀 목소리로 전화가 걸려와 다급하게 사고가 났다고 합니다. 사장님 목소리로 전화가 와서 급하니 이 계좌로 송금하라고 합니다. 예전에는 보이스피싱 범죄자들이 직접 연기를 하고 설명을 해야 했던 그 일을, 이제는 기계가 대신해 나가고 있습니다.

그리고 더 무서운 대목은 따로 있습니다. 사람 목소리를 복제하는 데 필요한 음성이 단 10초라는 것. 유튜브에 올린 영상, 페이스북 라이브, 틱톡, 단톡방에 무심코 보낸 음성 메시지, 심지어 모르는 번호로 걸려온 전화를 받고 “여보세요, 누구세요?”라고 답한 그 몇 초까지도 재료가 됩니다. 이렇게 급변하는 세상에서 우리가 무엇을 더 조심해야 하는지, 대응책을 마련하기는커녕 생각을 따라가기조차 벅찹니다.

미친 듯이 발전하는 영상 생성 기술

필자가 이 지면에 ‘AI 생성 동영상’ 편을 쓰면서 이렇게 말씀드린 적이 있습니다. “AI가 만들어 주는 건 8초 안팎의 조각 클립일 뿐이고, 그걸 이어 붙여 볼만한 영상으로 만드는 건 여전히 사람의 몫”이라고요. 그런데 반년도 안 돼서 그 말을 정정해야 하게 생겼습니다.

지난 7월 말과 8월 초, 바이트댄스(틱톡을 만든 중국 기업)와 알리바바가 나란히 새 영상 모델을 내놨습니다. 이제는 한 번에 30초짜리 영상이 통으로 나옵니다. 캐릭터 얼굴이 흐트러지지 않은 채로 3분짜리 긴 영상까지 이어 붙여 주고요. 비슷한 시기에 나온 또 다른 모델은 영상을 만들면서 대사와 효과음까지 한 번에 얹어주고, 14개가 넘는 언어로 입 모양을 맞춰줍니다. AI 영상의 발전 속도가 가히 ‘미쳤다’고 할 만합니다.

불과 올해 초까지만 해도 AI 영상과 실제 영상을 구분하는 요령이 있었습니다. 손가락이 여섯 개인지 세어보고, 물리 법칙이 이상한 데는 없나 살펴보면 됐죠. 이제 그런 요령이 슬슬 통하지 않기 시작합니다. 필자만 해도 AI 영상으로 K-드라마와 거의 비슷한 장면들을 만들어 학원 홍보 영상에 쓰고 있으니까요. 이만큼 왔으면 ‘진짜’와 ‘AI’를 눈으로 가려내기는 이미 어려워졌다고 봐야 합니다. 그래서 필자는 이제 인터넷에서 보는 영상의 기본값을 ‘의심’으로 놓고 봅니다. 특히 잘 모르는 사람이 나에게 보내온 영상, 그리고 돈 이야기가 나오는 영상. AI 영상을 악용한 범죄일 가능성이 다분합니다.

각국 정부도 움직이기 시작했습니다. 한국은 지난 7월 21일부터 ‘AI 기본법’이 시행령과 함께 본격 시행됐는데, 특히 딥페이크 영상·음성에 “AI로 제작됨”을 표시하는 의무는 적응 기간도 없이 곧바로 적용됩니다. 하지만 해외 서버나 어둠의 경로를 이용하는 범죄 조직을 법만으로 막기엔 역부족입니다. 결국 우리 스스로의 대비가 시급합니다.

그럼 우리는 어떻게 해야 할까요

첫째, 가족끼리 암호를 하나 정해두세요. 목소리가 10초면 복제되는 시대입니다. 자녀나 부모님, 배우자 목소리로 다급하게 돈 이야기가 오면, 반드시 되물을 단어 하나를 미리 정해두십시오. 의심되는 상황에 가족들과 암구호를 외치자고요.

둘째, 먼저 다가온 사람은 일단 의심하십시오. 앞서 말씀드린 피싱범들의 전략 ping–zing–sting, 그 첫 단계는 언제나 상대가 먼저 옵니다. 모르는 번호의 다정한 인사, 갑자기 잡힌 좋은 투자 기회, 어디선가 나를 알아봤다는 사람. 사기범일 가능성이 농후합니다.

셋째, 텔레그램에서 파일 받으면 절대 열지 마세요. 특히 이름 끝이 .exe로 끝나는 파일입니다. 요즘 이런 파일이 부쩍 늘었습니다. 문서인 척, 사진인 척, 견적서인 척 이름을 붙여 보내오는데 실제로는 컴퓨터에서 프로그램을 실행시키는 파일입니다. 한 번 누르는 순간 컴퓨터 안이 통째로 넘어갑니다. 안드로이드 휴대폰이라면 .apk로 끝나는 파일(청첩장.apk, 앱이름.apk 등) 이 같은 역할을 합니다. 아는 사람이 보냈어도 마찬가지입니다. 그 사람 계정이 이미 털렸을 수 있으니까요.