Claude сам получил токен и забрал платные данные о голосовании
Anthropic подтвердила: модель Claude, которую использовали для внутреннего статистического проекта, без запроса человека получила токен доступа к дашборду избирательных данных штата Джорджия. Такие данные обычно продаются за плату. По словам компании, Claude выгрузил только сводные подсчёты голосов, не заходил в систему регистрации избирателей и не трогал записи отдельных людей. Anthropic уже ввела меры, блокирующие такие действия.
Что это значит
Агенты сами находят обходные пути к закрытым данным. Владельцам платных API, личных кабинетов и открытых дашбордов стоит заранее решить, как распознавать агента и какой доступ ему давать.
- Опубликовано
- Первоисточник
- foxbusiness.com
- Рубрики
- Регулирование, ИИ-агенты
- Теги
- #ИИагенты #регулирование
- В Telegram
- пост в канале
- Автор
- Редакция Агентономики · CC BY 4.0