200.000 ‘víctimas’ falsas de IA desplegadas para engañar a estafadores en línea

La empresa tecnológica australiana Apate despliega en todo el mundo una enorme variedad de personajes de bots de IA que interpretan el papel de víctimas crédulas de estafas para hacer perder a los estafadores millones de horas cada mes.

Hilarantemente, una de las métricas de rendimiento mensuales de la empresa es cuántas veces los estafadores frustrados insultan a las ‘víctimas’ idiotas que se hacen las tontas y les siguen el juego.

“Creo que somos la única empresa del mundo que incluye realmente como parte de sus KPI el número de veces que los estafadores sueltan palabrotas contra ellos”, cuenta entre risas a Magazine el fundador de Apate, Dali Kaafar. 

La empresa cuenta con casi 200.000 personajes de IA capaces de mantener conversaciones telefónicas convincentes y chatear en redes sociales y plataformas de mensajería.

”Puedo decirte que, básicamente, atendemos, como las llamamos, cientos de miles de llamadas al día y prácticamente cientos de miles de conversaciones en los otros canales”, afirma. 

Cada hora que hacen perder a un estafador es otra hora en la que no está estafando a un miembro del público. En las seis semanas hasta finales de 2025, los bots de Apate participaron en 600.000 llamadas fraudulentas para una sola empresa de telecomunicaciones llamada TPG en Australia. 

“En esencia, hicimos perder a los estafadores más de quinientos días de su tiempo”, explica. “Eso equivale aproximadamente a unos trece millones de dólares que se evitaron perder.”

El otro objetivo de los bots es obtener información práctica para que bancos y empresas de telecomunicaciones combatan las redes de estafa en Australia, Asia, África, el Reino Unido y Europa.

Los bots de Apate tratan con los estafadores por chat. Fuente: Apate

Engañar a estafadores a gran escala con víctimas de IA

Kaafar dice que se le ocurrió la idea cuando recibió una llamada fraudulenta mientras hacía un pícnic con su familia en Sídney, en noviembre de 2021.

Para fastidio de su esposa, pero deleite de sus hijos, mantuvo al estafador ocupado durante 44 minutos fingiendo ser un paleto crédulo que caía en la estafa. 

“Lo que siguió fue literalmente un espectáculo de comedia completo para mis hijos”, cuenta, y añade que durante la llamada también aprendió mucha información potencialmente útil sobre el funcionamiento de la estafa y las tácticas empleadas.   

“Cuando colgué esa llamada, recuerdo que pensé con mucha claridad: si pude hacer eso solo por diversión, imagina lo que la tecnología puede hacer a gran escala.”

En aquel momento trabajaba como profesor en la Universidad Macquarie y planteó la idea a algunos de sus estudiantes de doctorado que trabajaban en IA y seguridad.

“Les dije: ‘Chicos, tiene que haber una forma mucho mejor de hacer esto. Construyamos algo que automatice realmente todo este proceso de interactuar con estafadores a gran escala, pero que también, y quizás lo más importante, extraiga todo tipo de información de inteligencia de estas conversaciones’. Y así fue literalmente como empezó.”

Relacionado: Un bot impulsado por IA sustituye a un candidato ausente en un debate de Virginia

En pocos meses habían conseguido financiación de la Oficina de Inteligencia Nacional para investigar la idea, y el proyecto se escindió de la universidad para convertirse en Apate en 2023. Ahora la empresa trabaja con la mayoría de los grandes bancos de Australia, así como con numerosos bancos del Reino Unido, Sudáfrica y el Sudeste Asiático. 

Apate está lejos de ser la única empresa que engaña a estafadores mediante bots de IA, aunque lo hace a mayor escala que la mayoría. La empresa británica de telecomunicaciones O2 lanzó el año pasado una campaña con una Abuela de IA, que frustra a los estafadores haciéndoles perder horas hablando de sus 28 gatos. Fue tanto una campaña publicitaria para advertir al público sobre los peligros de las llamadas fraudulentas como cualquier otra cosa.

La muy entretenida Abuela de IA de O2. Fuente: O2

Crear las víctimas de IA perfectas

Apate comenzó con 120 personajes diferentes de distintos géneros, edades y tipos de personalidad, y ahora cuenta con 197.000 personajes con tics vocales y acentos identificables, que hacen los mismos sonidos que las personas cuando intentan pensar qué decir. 

“Dedicamos mucho tiempo a perfeccionar y crear estos bots de IA que suenan exactamente como tú, como yo y como nuestros vecinos”, afirma. 

Los modelos de IA se entrenaron con “cientos y cientos” de horas de conversaciones grabadas entre personas que engañan a estafadores y estafadores, por lo que pueden emplear estrategias de contraataque.

“Saben que están hablando con delincuentes, por así decirlo, y navegan por las conversaciones de manera que suenan muy, muy realistas para cualquier estafador, incluso si el estafador se muestra escéptico.”
Los bots se envían a WhatsApp y Telegram para actuar como trampas para estafadores. Aunque el viejo cliché de que no se puede estafar a un hombre honrado no es cierto, sigue siendo muy posible explotar el deseo de dinero del estafador. 

“En realidad son ciberdelincuentes. Creo que a menudo olvidamos que son ciberdelincuentes que intentan quedarse con los ahorros de toda la vida de la gente. Y por eso ese elemento de avaricia es algo que nuestros bots también explotan a veces.”

Los bots recopilan valiosa información de inteligencia de cada llamada fraudulenta

En la industria de las criptomonedas, Apate trabaja para “uno de los líderes en análisis de blockchain”, que podría ser Chainalysis o no. No les interesa hacer perder tiempo a los estafadores: quieren información sobre qué billeteras y métodos utilizan los estafadores para poder rastrear el flujo de fondos. 

“Estos bots, mientras interactúan en distintas conversaciones, extraen cientos y miles de nuevas direcciones de billeteras de criptomonedas”, afirma. “Son datos e información de inteligencia que llegan literalmente antes de que se produzca el daño.”

Las estafas son un gran negocio y los centros de llamadas son “prácticamente organizaciones corporativas”, explica Kaafar. 

“Estos datos son muy, muy importantes porque, literalmente, esa es la nueva cuenta o la nueva billetera a la que realmente hay que prestar una atención extrema. Porque aquí es donde estos… complejos de estafadores están recaudando su dinero o sus fondos.”

“Piénsalo literalmente como estar siempre un paso por delante de las tácticas del estafador. Y cuanto más sepas antes de que se transfiera el dinero, mejor.”

En julio, los bots de Apate descubrieron un mercado de intermediarios que solicitaban cuentas bancarias verificadas en India y ofrecían comisiones de hasta el 5 %, pagadas en USDT, sobre los ingresos de las estafas que pasaran por las cuentas.

El personal humano de Apate en Sídney. Fuente: Apate

Carrera armamentística de IA entre buenos y malos

Los estafadores utilizan cada vez más sus propios bots de IA, y no pasará mucho tiempo antes de que los estafadores de IA sean tan omnipresentes como los correos basura. Estafar a la gente es un negocio de 1,24 billones de dólares por lo que la industria puede permitirse la capacidad de cómputo necesaria para ampliar sus operaciones.
Las investigaciones de Apate sugieren que entre el 20 % y el 30 % de las conversaciones de texto fraudulentas ya emplean IA, pero a Kaafar no le preocupa demasiado el resultado de que los bots antifraude luchen contra los bots estafadores.
Afirma que sus investigadores creen que los bots de IA que juegan en defensa tienen ventaja, según la teoría de juegos, porque intentan extraer información de inteligencia, mientras que los bots estafadores intentan conseguir que la otra IA realice una acción.

“También se puede demostrar matemáticamente que eso favorece al defensor, porque resulta más fácil extraer información de inteligencia del modelo de IA del atacante”, afirma.

“Podemos imaginar un mundo en el que los estafadores se vuelvan mucho más sofisticados y desplieguen una tecnología así. Pero eso también significa que, si lo hacen, en realidad están destinados a perder el juego, lo cual es una gran noticia en la lucha contra las estafas.”

Magazine: Un agente hace perder 14 horas a los estafadores, LLM ‘envenenados’ por Irán — AI Eye