Совет по финансовой стабильности (FSB) назвал кибератаки с применением ИИ ближайшим риском для финансовой стабильности

Предупреждение Совета по финансовой стабильности

Председатель FSB Эндрю Бейли указал, что ИИ способен изменить скорость, масштаб и экономику кибератак. В исходном выпуске этот вывод отмечен как подтвержденный с высокой уверенностью. [1 · Reuters]

Речь идет не только о появлении новых типов атак. Автоматизация может снизить стоимость разведки и повторения операций, увеличить их частоту и сократить время, доступное организациям для обнаружения и реакции. [1 · Reuters]

Концентрация технологических поставщиков

FSB отдельно обращает внимание на зависимость финансового сектора от небольшой группы поставщиков технологий. Сбой, уязвимость или потеря доверия к одному важному поставщику способны затронуть сразу множество финансовых организаций. [1 · Reuters]

Регулятор также отмечает, что во многих странах еще не выстроены процессы управления внедрением передовых моделей. Разрыв между скоростью внедрения и зрелостью контроля усиливает системный риск. [1 · Reuters]

Особенно чувствительна ситуация, когда один внешний провайдер обслуживает сразу множество банков или платежных систем. Даже локальный технический сбой тогда может распространиться через общий инфраструктурный слой и получить системный масштаб. [1 · Reuters]

Практический стандарт для агентов

Аналитический вывод выпуска: агентным финансовым продуктам и торговым площадкам необходимы минимальные права, временные учетные данные, список разрешенных действий, ограничения расходов, неизменяемый журнал и отдельные проверки на внедрение вредоносных указаний (prompt injection). Сетевой доступ должен быть ограничен, а критические операции — требовать подтверждения человека. [1 · Reuters]

Изменение цены, отправка платежа или юридического сообщения не должны происходить только на основании свободно сгенерированного ответа. Безопасность в такой архитектуре становится частью обещанного клиенту результата и условий доверия, а не невидимыми внутренними накладными расходами. [1 · Reuters]

Важен и механизм немедленной отмены выполненных действий: организация должна понимать, какое действие выполнил агент, на каких данных оно основывалось и как вернуть систему к безопасному состоянию. Без такой трассировки скорость автоматизации способна увеличить ущерб от одной ошибки. [1 · Reuters]

Такие меры не устраняют риск полностью, но ограничивают радиус поражения и делают инцидент расследуемым. [1 · Reuters]