В США появится аудит-сертификат для ИИ-агентов

Американский институт присяжных бухгалтеров (AICPA) и Artificial Intelligence Underwriting Company (AIUC) запускают совместную проверку ИИ-систем и агентов. Об этом сообщил Journal of Accountancy, издание AICPA. Организации называют её первой комплексной независимой проверкой бизнес-рисков, связанных с ИИ-системами и агентами.

Как устроена проверка

Аудиторская фирма проводит одно задание, которое объединяет два документа:

• Отчёт SOC 2 показывает, что у компании есть работающие меры защиты данных и управления рисками и что они действуют на практике. Такие проверки по стандартам AICPA проводит лицензированный аудитор.
• Сертификация AIUC-1 проверяет поведение самого агента. Его тестируют вживую на сотнях сочетаний рисков и атак: выдуманные ответы, утечка данных, манипулятивные запросы, внедрение вредоносных инструкций в промпт.

Как пишет CFO Dive, сценарии подбирают под задачи конкретного агента. Финансового агента, например, проверяют на подменённых счетах и платёжных поручениях. Проверка также отвечает на вопросы, выполняет ли агент вредоносные инструкции из загруженных файлов, раскрывает ли внутренние данные, выдумывает ли цифры и правила компании и не выходит ли за пределы своих полномочий. После исправлений агента тестируют повторно, и в отчёт попадают результаты обоих раундов.

Сроки и требования

Сейчас идёт пилот: несколько аудиторских фирм уже проводят такие проверки клиентов. Полный запуск ожидается в начале 2027 года. Отчёт SOC 2 и сертификат AIUC-1 нужно обновлять ежегодно, а AIUC-1 ещё и требует технического ретеста раз в квартал. Так учитываются изменения в моделях, инструментах и промптах.

Сооснователь AIUC Раджив Даттани объясняет главное отличие стандарта: проверяется живое поведение агента, а не только описанные политики и ограничения. «ИИ-агенты делают реальную работу быстрее, чем кто-либо успевает её проверить», — говорит он.

Почему это происходит сейчас

Компаниям, которые внедряют агентов, нужна уверенность, что агенты и системы, к которым те подключены, защищены. Разработчикам нужно доказывать, что их агенты ведут себя так, как обещано. По данным CFO Dive, параллельно в Конгрессе США обсуждаются законопроекты об ответственности разработчиков и операторов ИИ-агентов за причинённый вред.