HiddenLayer capta 100 millones de dólares para proteger a los agentes de IA durante su ejecución

De proteger modelos a controlar acciones

HiddenLayer captó 100 millones de dólares en una serie B. La propia empresa confirmó la ronda. Los fondos se destinan a proteger agentes de programación y supervisar el comportamiento de sistemas autónomos en producción. Esto refleja un cambio de amenazas: probar un modelo antes del lanzamiento no basta si después el agente obtiene acceso a herramientas, claves, datos internos o capacidad para modificar sistemas externos. [1 · HiddenLayer]

La plataforma amplía la protección: a las pruebas de modelos se suman defensas frente a inyección de instrucciones, prevención del uso indebido de herramientas y bloqueo de acciones no autorizadas. Una capa de control durante la ejecución necesita visibilidad del registro de agentes, supervisar las llamadas a herramientas y poder detener una acción antes de que produzca una publicación, transferencia de dinero, cambio de configuración o filtración de datos. [1 · HiddenLayer]

Crecimiento de la empresa y límites de los datos

HiddenLayer comunica un crecimiento de más de diez veces del ARR y más de 50 nuevos clientes de la plataforma. También menciona a un cliente que desarrolla modelos de frontera y tiene más de 700 millones de usuarios semanales. No se revelan el ARR exacto, el nombre del cliente ni la metodología de cálculo. Son afirmaciones públicas de la empresa, no cuentas auditadas, y deben publicarse con esa salvedad. [1 · HiddenLayer]

Pese a la información limitada, la dirección de la demanda parece lógica. Los grandes compradores quieren algo más que un conjunto de salvaguardas estáticas: también buscan un registro de agentes, controles durante la ejecución, un registro de motivos, gestión de permisos y una parada de emergencia. Cuanta más autonomía recibe un agente, más se aproxima la seguridad a una infraestructura esencial de ejecución. [1 · HiddenLayer]

Cómo son los controles básicos

Una arquitectura práctica incluye listas de herramientas permitidas, credenciales separadas, límites de importes y alcance de las operaciones, confirmación humana de acciones críticas y un registro de auditoría inmutable. Es importante comprobar no solo el contenido de la respuesta del modelo, sino también la acción real, su contexto de autorización y la posibilidad de revertirla. Estas funciones podrían incorporarse a los estándares empresariales de contratación de sistemas de agentes. [1 · HiddenLayer]