NeuralTrust: el escudo invisible frente a los riesgos de la IA generativa

IA bajo control: del firewall al pentesting ético
NeuralTrust se presenta como el equivalente a un antivirus en la era de la inteligencia artificial generativa. Así como con la llegada de Internet fue necesario proteger los dispositivos ante las amenazas que surgieron, la empresa propone una defensa para los riesgos actuales que plantea el uso masivo de asistentes virtuales. “Nosotros somos un firewall que se integra dentro del chatbot, entre las llamadas a la API y el usuario final”, explica Rodrigo Fernández, GTM de NeuralTrust desde la compañía. Esta barrera permite analizar en tiempo real las conversaciones, detectar anomalías, bloquear ataques y ofrecer visibilidad a las empresas sobre cómo se comportan sus asistentes de IA.

La plataforma no solo actúa como muro de contención, también permite monitorizar el comportamiento del chatbot, realizar pruebas de seguridad simuladas (pentesting ético) y recopilar estadísticas de uso. Esto facilita a las empresas controlar el gasto en tokens, prevenir filtraciones de información sensible y mejorar la experiencia del usuario.

Amenazas emergentes, soluciones inteligentes
Uno de los principales desafíos que afronta NeuralTrust son los ataques de prompt injection, una técnica que busca manipular a los chatbots mediante instrucciones ocultas en lenguaje natural o código. El objetivo de estos ataques puede ir desde provocar respuestas indebidas hasta filtrar datos confidenciales. La tecnología de la empresa permite detectar estos intentos a tiempo, bloquear al usuario responsable si hay reincidencia y garantizar que el asistente virtual no se desvíe de su propósito original.

Los retos no se limitan a lo que ocurre frente al usuario. NeuralTrust también trabaja con copilots internos, esto es, herramientas que utilizan los empleados para interactuar con datos corporativos mediante IA. En este contexto, la plataforma aplica diferenciación de privilegios, estableciendo jerarquías de acceso, según el rol del trabajador, algo clave para evitar accesos indebidos a información sensible.

En un entorno donde los chatbots pueden ser explotados, incluso para actividades como la minería de criptomonedas, NeuralTrust proporciona observabilidad avanzada que alerta a las empresas sobre usos indebidos tanto externos como internos.

Además, la empresa se adapta al ritmo vertiginoso de la tecnología. Según sus fundadores, la diferencia clave con la ciberseguridad tradicional es que la IA generativa requiere sistemas adaptativos que posibiliten aprender de nuevos ataques y evolucionar con ellos. “Nuestra plataforma aprende de los atacantes y puede frenar amenazas que nunca han ocurrido”, explican.

La IA del futuro: más autónoma, más vigilada
NeuralTrust se anticipa a un futuro donde los asistentes de IA ya no solo responderán preguntas, sino que también ejecutarán acciones reales: compras, transferencias bancarias, envío de correos o gestión de agendas. “Cuando los agentes de IA pueden hacer cosas, también pueden cometer errores o convertirse en un riesgo”, alertan desde la compañía. Por ello, la empresa ya trabaja en soluciones de protección para estos nuevos contextos, incluidos agentes que operan por voz o que acceden a múltiples aplicaciones a través de protocolos como MCP.

Otro frente prioritario es el cumplimiento normativo. NeuralTrust ayuda a las empresas a alinearse con el GDPR y el AI Act europeo, almacenando automáticamente los historiales de interacción necesarios para cumplir con la legalidad. También garantizan la privacidad de los datos y refuerzan la ética del uso de la IA.

Finalmente, la empresa destaca que el préstamo de Enisa recibido en 2023 fue crucial para sortear los desafíos de liquidez en sus etapas iniciales. “Nos permitió cubrir el flujo de caja mientras consolidábamos nuestras operaciones”, afirma Rodrigo.

En un mundo donde la inteligencia artificial se vuelve cada vez más omnipresente, propuestas como NeuralTrust resultan esenciales para garantizar que esta revolución tecnológica sea también segura, ética y controlada.