Apple официально назвала ИИ-агентов риском для бизнеса
В годовом отчёте для SEC Apple предупредила, что ИИ-агенты могут выйти за пределы своих прав, менять код, отправлять сообщения и проводить транзакции, а также действовать вопреки инструкциям и обходить защиту. По словам компании, некоторые последствия, например удаление данных или проведённую транзакцию, может быть трудно или невозможно отменить.
Что это значит
Если агент имеет доступ к платежам и данным, его права нужно ограничивать заранее, а необратимые действия — подтверждать отдельно. Иначе риск ложится на сам бизнес.
- Опубликовано
- Первоисточник
- sec.gov
- Рубрики
- Регулирование, ИИ-агенты
- Теги
- #регулирование #ИИагенты
- В Telegram
- пост в канале
- Автор
- Редакция Агентономики · CC BY 4.0