HiddenLayer привлекла $100 млн на защиту ИИ-агентов во время работы

От защиты модели к контролю действий

HiddenLayer привлекла $100 млн в раунде серии B. Раунд подтвержден самой компанией. Средства направляются на защиту агентов программирования и контроль поведения автономных систем в промышленной эксплуатации. Это отражает изменение угроз: недостаточно проверить модель перед запуском, если затем агент получает доступ к инструментам, ключам, внутренним данным или возможности изменять внешние системы. [1 · HiddenLayer]

Платформа расширяет защиту: к проверке моделей добавляются защита от внедрения вредоносных инструкций, предотвращение неправомерного использования инструментов и блокировка несанкционированных действий. Такой слой контроля выполнения должен видеть реестр агентов, отслеживать вызовы инструментов и иметь возможность остановить действие до того, как оно приведет к публикации, переводу денег, изменению конфигурации или утечке данных. [1 · HiddenLayer]

Рост компании и ограничения данных

HiddenLayer сообщает о росте ARR более чем в десять раз и о более чем 50 новых клиентах платформы. Также компания упоминает клиента — разработчика передовых моделей с более чем 700 млн еженедельных пользователей. Точные значения ARR, название клиента и методика подсчета не раскрыты. Эти показатели являются публичными заявлениями компании, а не аудированной отчетностью; их необходимо публиковать с такой оговоркой. [1 · HiddenLayer]

Несмотря на ограниченность раскрытия, направление спроса выглядит логичным. Крупный покупатель хочет не только набор статических защитных ограничений, но и реестр агентов, контроль во время выполнения, журнал причин, управление разрешениями и аварийную остановку. Чем больше самостоятельности получает агент, тем ближе безопасность становится к обязательной инфраструктуре выполнения. [1 · HiddenLayer]

Как выглядит базовый контроль

Практическая архитектура включает списки разрешенных инструментов, раздельные учетные данные, ограничения суммы и масштаба операции, подтверждение критических действий человеком и неизменяемый журнал аудита. Важно проверять не только содержание ответа модели, но и фактическое действие, контекст разрешения и возможность отката. Именно эти свойства могут войти в стандарт корпоративных закупок агентных систем. [1 · HiddenLayer]