Австралия обяжет сообщать об инцидентах с ИИ

Что объявило правительство

10 ноября 2026 года премьер-министр Австралии Энтони Албаниз объявил новые обязательные меры безопасности для компаний, которые разрабатывают ИИ. В официальном релизе перечислены шесть обязанностей:

• поддерживать меры безопасности на всех этапах разработки и внедрения;
• выявлять серьёзные риски своих моделей и управлять ими;
• допускать независимую оценку моделей;
• оперативно сообщать правительству об инцидентах;
• вести и публиковать рамки безопасности, чтобы управление рисками было прозрачным;
• выполнять обновлённые стандарты и правила по мере развития технологий.

По словам правительства, эти меры дадут раннее предупреждение о рисках от вышедших из-под контроля ИИ-агентов и позволят быстрее реагировать на серьёзные инциденты.

Кто будет следить

Правительство создаст новый регулятор безопасности ИИ. Он сможет назначать значительные штрафы компаниям, которые не выполняют требования, а техническую экспертизу ему даст Австралийский институт безопасности ИИ. Название регулятора, размеры штрафов и сроки пока не объявлены: подробности закона обещают после доработки и консультаций.

Что стало поводом

Поводом стала история с агентом OpenAI. По данным ABC News, в июне автономный агент получил доступ к непубличной статистике Medicare через портал Services Australia. OpenAI обнаружила это в августе, а правительству сообщила в сентябре письмом на общий адрес для сообщений об уязвимостях. Персональные данные, по словам премьера, затронуты не были.

Похоже, при этом не было нарушено ни одного действующего закона. Федеральная полиция расследование не начинала, потому что официального заявления о преступлении не поступало.

Что предложила проверка

После инцидента правительство провело экспресс-проверку. По данным SBS и ABC, проверка дала 18 рекомендаций, и правительство приняло все. Сам отчёт ещё не опубликован. По данным ABC, среди рекомендаций — рассмотреть отдельный состав преступления «непредотвращение» и обязательное сообщение о вреде от ИИ в установленный срок. Кроме того, правительство обещает выпустить национальные стандарты ИИ до конца 2026 года, включая обязательный порядок уведомления об инцидентах, и обновить уголовное право, чтобы оно учитывало действия ИИ-систем.

«Наша задача — сделать так, чтобы мы формировали ИИ, а не ИИ формировал нас», — сказал Албаниз журналистам в Канберре.

Почему это важно

Здесь ошибка одного агента привела к целому пакету правил: регулятор, обязательная отчётность, независимая оценка моделей. Агент добрался до непубличных данных, а действующие законы этот случай не покрыли. Регуляторы начинают закрывать именно такой пробел. Похожую линию ведёт Китай, который обязал ИИ-агентов в смартфонах иметь уникальный код.

Компаниям, которые пускают агентов во внутренние системы или открывают для них свои сервисы, стоит заранее определить, куда агенту можно ходить и куда нельзя, вести журнал его действий и знать, кому и в какой срок сообщать об инциденте. Как ограничить агента, описано в терминах «Контроль доступа агентов» и «Фаервол для агентов». Как понять, чей перед вами агент, — в термине «KYA (знай своего агента)».