NVIDIA предложила архитектуру для контроля ИИ-агентов

Из чего состоит архитектура

NVIDIA делит работу агента на три уровня, каждый на своём железе:

• Модели работают на стоечных системах Vera Rubin NVL72. По данным NVIDIA, на агентных задачах они дают в 30 раз большую пропускную способность на мегаватт. С чем сравнивают, в релизе не сказано.
• Сам агент (обвязка, вызовы инструментов) выполняется на процессорах Vera — NVIDIA заявляет вдвое большую производительность, чем у x86. На них работает OpenShell — открытая среда исполнения, которая задаёт агенту безопасную границу.
• Надзор — на DPU BlueField-4 с программным комплексом NVIDIA Sentry. Он следит за поведением агента вне самого агента и применяет политики на уровне железа. Если агент пытается выйти за свою границу, Sentry помещает его на карантин и останавливает, по словам NVIDIA, за миллисекунды.

Дженсен Хуанг описал это так: агенты «думают на Rubin, действуют на Vera и управляются на BlueField». Архитектура распространяется и на периферийные устройства: RTX Spark, DGX Spark и DGX Station.

Где работает

Linux и Kubernetes от Canonical, SUSE и Red Hat, Windows через Microsoft Execution Containers, облака AWS, Google Cloud и Microsoft Azure.

Кто участвует

• Агенты Anthropic, Cohere, Google, Meta, OpenAI, Perplexity и других разработчиков моделей могут работать на инфраструктуре OpenShell.
• Поддержку встраивают в свои решения 1Password, Check Point, CrowdStrike, Cisco, F5, Fortinet, Microsoft, Okta, Palo Alto Networks, TrendAI и Zscaler.
• SAP подключает архитектуру к среде исполнения Joule Studio. Cadence, Dassault Systèmes, IBM, Siemens и Synopsys строят на OpenShell свои агентные платформы.
• ServiceNow открыла общий доступ к агенту ServiceNow Arc: его действия ограничивает OpenShell, а слой полномочий AI Passport передаёт политики в OpenShell и Sentry. По словам NVIDIA, это позволяет отозвать доступ агента на уровне программ и железа за секунды.
• Европейские банки BBVA и Santander изучают архитектуру как основу безопасности и управления агентами.

Что важно знать

Архитектура доступна уже сейчас, документация опубликована на сайте NVIDIA. При этом в релизе оговорено, что часть описанных продуктов и функций ещё на разных стадиях готовности и сроки могут сдвинуться.

Это пример того, что на Агентономике называют исходящим фаерволом для агентов: защита компании от действий собственного агента, а не от чужих ботов. О том, как описать полномочия агента в открытом формате, — в термине «Паспорт ИИ-агента».