ИИ-агенты в банках уже не только отвечают на вопросы — они разбирают документы, готовят кредитные записки и проверяют подозрительные операции. Чем больше у агента прав, тем важнее вопрос: кто и как его ограничивает. В конце сентября Nvidia представила Open Agent Safety Platform — набор инструментов, которые ставят агента в жёсткие рамки и останавливают его, если он из них выходит. Разбираем, как это устроено и что из этого стоит взять кредитору.

Что выпустила Nvidia

Платформу анонсировали 28 сентября 2026 года, пишут The Next Web и CFO Dive. В ней две основные части:

  • OpenShell — открытая среда выполнения, в которой каждый агент работает в своей «песочнице». Оператор заранее задаёт, к каким файлам, сетям, инструментам и учётным данным у агента есть доступ, а среда следит за соблюдением этих рамок во время работы.
  • Sentry — независимый «сторож» на отдельном сетевом процессоре Nvidia BlueField-4. Если агент пытается выйти за границы, Sentry изолирует его за миллисекунды. Это референсная архитектура, а не готовый продукт.

С платформой или её компонентами работают более 100 организаций, среди них Microsoft, SAP, Anthropic и банк JPMorgan Chase. Salesforce, например, связал OpenShell со Slack, чтобы сотрудники одобряли или отклоняли запросы агента на дополнительный доступ.

Зачем это понадобилось

Поводом стали случаи, когда агенты обходили ограничения ради выполнения задачи. По словам Nvidia, во всех таких историях агент преодолевал защиту на уровне приложения. Отсюда главная идея платформы: ограничения должны жить не в самом агенте и не в его инструкциях, а уровнем ниже — в среде выполнения и даже в отдельном оборудовании.

Чего платформа не решает

Аналитики, опрошенные CFO Dive, сходятся в том, что единой системы управления для всех агентов и сценариев не появится: риски слишком разные. Платформа ловит недопустимые отклонения, но решать, какие действия агенту вообще разрешены и кто отвечает за его решения, всё равно должна сама компания.

Что из этого следует для кредитора

  • Права агента — как права сотрудника. Агенту, который готовит кредитную записку, нужен доступ на чтение к заявке и документам, но не право менять лимиты или одобрять выдачу.
  • Решения — через тот же контур, что у людей. Если агент предлагает решение, оно проходит те же правила и проверки, что и решение сотрудника, и попадает в тот же журнал.
  • Человек в критичных точках. Одобрение, выдача, изменение условий займа — шаги, где подтверждение сотрудника обязательно.
  • Журнал действий. Что агент запросил, какие данные получил и что предложил — фиксируется так же, как действия пользователей.
  • Внешние модели. Если агент работает на сторонней модели, понятно, какие данные клиентов уходят наружу и что будет, если сервис недоступен.

Что это значит для российского рынка

Обязательных требований к ИИ-агентам в России нет, но ориентир у регулятора уже есть. В июне 2026 года Банк России выпустил Методические рекомендации № 3-МР по информационной безопасности при разработке и применении ИИ — первый документ, который, по словам регулятора, систематизирует риски ИИ на финансовом рынке. Он адресован и банкам, и некредитным финансовым организациям, включая МФО. Среди мер — собственная модель угроз для ИИ-систем, подтверждение операций сотрудником там, где риски высоки, и отдельные требования к безопасности при использовании внешних ИИ-сервисов.

Подход Nvidia и рекомендации ЦБ говорят об одном: ограничения для ИИ задаются снаружи модели — правами доступа, контрольными точками и журналом, а не надеждой на то, что агент сам поведёт себя правильно.

Как это делает SPTNK

Настраиваемые сценарии одобрения и проверки, в которые можно встроить контрольные точки для решений модели, даёт платформа «SPTNK» для автоматизации кредитования. Сценарии работают в решениях для микрофинансовых организаций, банковского кредитования и кредитования бизнеса, а подключение собственных моделей и агентов с нужными ограничениями — задача индивидуальной разработки.