사기꾼을 낚는 AI: 능동적 방어의 새로운 패러다임, 아파테(Apate)

사기꾼의 시간을 훔치는 역발상

전통적인 사이버 보안은 방어막을 높이고 침입을 차단하는 '사후 대응'에 머물러 있었다. 통신사는 의심스러운 번호를 차단하고, 금융기관은 비정상적인 거래를 감시하지만, 사기꾼들은 즉시 새로운 번호를 확보하거나 수법을 바꿔 방어망을 우회한다[1]. 이러한 쫓고 쫓기는 소모전 속에서 호주 스타트업 아파테(Apate)는 전혀 다른 접근법을 제시한다. 이들은 방어만 하는 대신, 오히려 AI 에이전트를 사기꾼의 먹잇감으로 위장시켜 그들의 작전 현장으로 침투시킨다[1].

AI 에이전트의 잠입과 정보 추출

아파테의 전략은 '스캠 베이팅(scam-baiting)'의 고도화된 형태다. 2024년 설립된 이 기업은 다양한 연령, 성별, 억양, 언어를 구사하는 수천 개의 AI 에이전트를 운용한다[1]. 이들은 사기꾼의 전화를 받거나 피싱 메시지에 응답하며, 때로는 소셜 미디어 그룹에 가입해 사기꾼과 긴 대화를 이어간다[1]. 목적은 명확하다. 사기꾼이 실제 피해자를 낚을 수 있는 시간을 뺏는 동시에, 그들의 입을 통해 범죄의 핵심 정보를 캐내는 것이다[2].

실제로 아파테의 에이전트들은 사기꾼을 유도하여 은행 계좌 정보, 암호화폐 지갑 주소, 악성 웹사이트 URL, 사칭하는 브랜드 정보 등을 확보한다[1]. 이렇게 수집된 데이터는 금융기관, 통신사, 정부 기관 등 고객사에게 전달되어 실시간 사기 방지 조치에 활용된다[1][2]. 아파테 측에 따르면, 이들의 에이전트는 지금까지 약 250만 건의 대화를 통해 사기꾼들의 시간 17년 치를 낭비시켰다[1].

실효성과 기술적 한계

이러한 능동적 방어의 성과는 수치로도 증명된다. 아파테와 협력 중인 커먼웰스 은행(Commonwealth Bank of Australia)은 공개적으로 보고된 사기 피해액이 76% 감소하는 효과를 보았으며, 특정 호주 은행은 아파테의 아웃바운드 에이전트를 활용해 22개의 사기 캠페인을 무력화했다[1]. 하지만 이러한 기술이 완벽한 해결책인지는 신중히 따져봐야 한다. 사기꾼들 역시 AI를 활용해 목소리와 외모를 정교하게 딥페이크하고, 더 지능적인 대화형 사기를 설계하고 있기 때문이다[1]. 2025년 FBI에 접수된 AI 관련 범죄 신고만 2만 2천 건이 넘으며, 그 피해액은 8억 9,300만 달러에 달한다[1].

또한, 아파테의 방식은 사기꾼의 정보를 수집하는 과정에서 에이전트가 의도치 않게 사기꾼의 범죄 수법을 학습하거나, 역으로 AI 모델이 오염될 가능성에 대한 지속적인 모니터링이 필요하다[1]. 아파테는 자사의 프론티어 모델과 자체 미세 조정(fine-tuned) 모델을 결합해 이러한 위험을 관리하고 있다고 밝히고 있으나[1], 사기꾼들의 공격 방식이 진화함에 따라 AI 간의 대결은 더욱 치열해질 전망이다. 결국, 아파테의 등장은 보안이 단순히 '막는 것'에서 '적의 작전을 교란하고 정보를 탈취하는 것'으로 진화하고 있음을 보여주는 상징적인 사례라 할 수 있다.

검증에 사용한 자료

[1] Apate sends AI agents undercover to get scammed so they can gather fraud intelligence | TechCrunch — TechCrunch · 원문
[2] Apate | AI powered fraud prevention and intelligence — www.apate.ai · 공식·1차 자료

링크된 자료는 사실 확인에 사용했으며, 분석과 해석의 책임은 본 사이트에 있습니다.