호주 AI 사기꾼 사냥꾼 35만 명, 사기범을 역으로 농락

호주의 한 회사가 이례적인 인력을 구축했다. 유일한 임무가 사기범의 시간을 낭비하는 35만 개의 인공지능 에이전트다. Apate.ai라는 회사명은 그리스 신화의 기만의 여신에서 따왔으며, 이 회사의 봇은 겉으로만 속는 것처럼 설계됐다. 중국 과학 매체 Guokr의 보도에 따르면 각 에이전트는 젊은이 또는 노인, 남성 또는 여성 등 평범한 사람으로 위장하며 서로 다른 억양과 여러 언어, 고유한 성격을 갖췄다.

표적은 대중이 아니라 사기 산업 그 자체다. 사기 전화가 걸려 오거나 피싱 사이트가 정보를 요구하면 AI 페르소나가 응답한다. 잡담을 하고, 망설이고, 확인을 요청하고, 비밀번호를 잊고, 숫자를 잘못 읽는다. 목표는 사기범을 최대한 오래 붙잡아 두는 것으로, 사기 조직의 시간과 돈을 소모시키고 실제 사람들에게는 더 조용한 전화 회선을 제공한다. 같은 방식은 투자 사기와 가짜 웹사이트에도 적용되며, 봇은 그럴듯하지만 쓸모없는 정보로 양식을 채운다.

사기범 사냥(scambaiting)은 새로운 것이 아니다. 수년간 애호가들은 정교한 이야기와 가짜 신분으로 사기 이메일에 답장하고 그 결과를 온라인에 공유해 왔다. 여기서 다른 점은 규모다. 사람 한 명은 한두 개의 대화를 동시에 처리할 수 있지만, 수십만 개의 소프트웨어 에이전트 네트워크는 여러 언어로 24시간 많은 대화를 동시에 처리할 수 있다. 회사 측은 페르소나가 충분히 다양해 사기범이 쉽게 구별할 수 없다고 말한다.

이 아이디어는 보안과 윤리의 어색한 교차점에 있다. 지지자들은 사기범이 공포와 혼란으로 이익을 얻는 범죄자이며, 이들을 늦추는 것이 피해자를 보호한다고 주장한다. 비판자들은 상대가 악인이라 해도 자동화된 기만이 관행을 정상화할 위험이 있는지, 취약한 노인을 사칭하는 봇이 실제 사람에 대한 보복을 불러일으킬 수 있는지 물을 수 있다. 보도는 이런 질문에 결론을 내리지 않았고 기술도 아직 초기 단계다.

일반 사용자에게 실용적인 교훈은 더 간단하다. 사기 전화에 대한 최선의 방어는 여전히 같다. 전화를 끊고, 코드나 은행 정보를 알려주지 말고, 번호를 신고하는 것이다. AI 미끼가 그 주의의 필요성을 없애지는 않는다. 하지만 오래된 군비 경쟁에 새로운 층을 더한다. 이제 사기범들이 전화 반대편의 목소리가 정말 사람인지 의심해야 하는 경쟁이다.

이 이야기가 주목할 만한 이유는 경제학이다. 사기 조직은 양에 의존하는데, 결코 돈을 내지 않는 봇이 충분히 많은 전화를 받으면 성공적인 사기 한 건당 비용이 올라간다. 이는 스팸 필터와 발신 차단 앱의 논리를 전달이 아닌 대화에 적용한 것이다. 규모에서 통할지는 사기범들이 합성 음성을 얼마나 빨리 감지하는지에 달려 있다.

전 세계 독자에게 이 사례는 AI의 첫 대중시장 역할이 에세이 작성이나 이미지 생성이 아니라 부정한 거래를 포함한 일상 거래의 한가운데에 앉는 것일 수 있음을 상기시킨다. 자동화된 미끼가 은행과 통신사의 표준 도구가 될지, 아니면 고전적인 이름을 가진 한 회사의 영리한 실험으로 남을지는 앞으로 몇 년이 보여줄 것이다.