Su abuelo cayó en una estafa con voz clonada por IA

Hace unos dos años, el abuelo de Tarini Padmanabhuni recibió una llamada. Del otro lado, una voz que reconoció como la de su hermano le dijo que había sido secuestrado y que la única forma de liberarlo era pagar un rescate. El hombre pagó. Después se enteró de que su hermano estaba en otro lugar, completamente ajeno a la situación. La voz era una imitación generada por inteligencia artificial.

"Lo que me quedó grabado no fue el dinero", cuenta Padmanabhuni sobre el episodio. "Fue que él no tenía forma de darse cuenta."

Un fraude que crece a nivel global

Las estafas con inteligencia artificial son un problema en expansión. Según datos del FBI, los estadounidenses perdieron cerca de 900 millones de dólares por fraudes generados con IA el año pasado, un 24% más que el período anterior. Las personas de 60 años o más perdieron el doble que quienes tienen entre 50 y 59.

A partir de esa experiencia familiar, Padmanabhuni fundó DetectifAI, una empresa con sede en San Francisco que busca que otras personas no atraviesen lo mismo que su abuelo.

Cómo funciona la detección dentro del teléfono

El sector de detección de voces falsas ya tiene varios jugadores, entre ellos Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety y Nuance (también de Microsoft). Según Padmanabhuni, la mayoría de esos productos corren en la nube, sobre servidores remotos, lo que impide a los fabricantes de teléfonos integrarlos de forma directa en los dispositivos y deja a la persona atacada con pocas herramientas de defensa inmediata.

En lugar de achicar modelos de nube ya existentes para que entren en un celular —como hacen otras compañías—, DetectifAI dice haber diseñado desde el inicio modelos de IA compactos, pensados para correr dentro del sistema operativo del teléfono. El objetivo es que el dispositivo pueda dar un veredicto instantáneo sobre si una voz es generada por IA durante una llamada, en un mensaje de voz o en cualquier otro audio, sin que ese audio salga nunca del equipo.

La empresa apunta primero a los fabricantes de teléfonos, a los que ofrece licenciar su software para que la detección venga integrada de fábrica en el sistema operativo. Padmanabhuni compara la estrategia con el acuerdo exclusivo que AT&T tuvo con el iPhone original: sostiene que el primer fabricante que incorpore DetectifAI tendrá una ventaja frente a sus competidores, y que la detección de deepfakes terminará siendo una especificación estándar, como hoy lo es la resolución de la cámara.

El producto central es un kit de desarrollo de software (SDK) que otras empresas pueden integrar en sus propios productos a través de los canales de licenciamiento habituales. Según la fundadora, una segunda fuente de ingresos vendrá de licenciar la tecnología a empresas y firmas de prevención de fraude.

Primeros clientes y financiamiento

DetectifAI ya factura, según Padmanabhuni, y procesa más de 100.000 llamadas mensuales para instituciones financieras en India. Se trata de llamadas realizadas por agentes de voz con IA que gestionan cobranzas de deuda y seguimiento de documentación de préstamos, con detección de deepfakes y verificación del hablante en cada llamado. La fundadora no reveló los nombres de esos clientes por acuerdos de confidencialidad.

Padmanabhuni dice haber empezado a trabajar en machine learning a los 12 años y luego estudió sistemas ciber-físicos —tecnología que combina software con maquinaria física— en el Manipal Institute of Technology, en India. Allí asegura haber sido la líder más joven de lo que describe como la primera división de autos de carrera sin conductor de India en la Formula Student, una competencia internacional de ingeniería para estudiantes.

Consultada sobre el momento más gratificante del proyecto hasta ahora, mencionó una prueba beta a pequeña escala por WhatsApp, donde los usuarios reenvían notas de voz sospechosas y reciben una evaluación sobre si son reales. Una de las personas que probó el sistema, cuyos propios familiares habían sido víctimas de una estafa similar, llamó para decir que pagaría por el servicio sin dudarlo. "Mi abuelo no tuvo eso", resume Padmanabhuni.

La startup levantó una ronda semilla pequeña de los inversores Josh Constine —ex editor de TechCrunch— y Manohar Kamath, principal de la consultora KM Growth. DetectifAI fue seleccionada entre las startups que compiten en el Startup Battlefield de TechCrunch Disrupt, que se realiza del 13 al 15 de octubre en San Francisco.