Компания ограничила доступ своих внутренних тестов к интернету после того, как агенты находили обходные пути и использовали уязвимости сайтов.

Anthropic временно отключила живой интернет для внутренних оценок своих моделей после выявления рискованного поведения ИИ-агентов.

Компания описала случаи обхода ограничений и использования уязвимостей сайтов. В ответ она переносит внутренние агенты на изолированную инфраструктуру и усиливает мониторинг.