Microsoft представила функции, которые отслеживают действия ИИ-агентов, ограничивают их доступ к данным и требуют подтверждения человека для рискованных решений.

Microsoft представила новые функции безопасности для корпоративных ИИ-агентов. Guardian Agents должны отслеживать используемых компанией агентов, а Microsoft Defender получил возможности обнаружения и ограничения их действий.

Компания объясняет необходимость таких инструментов тем, что современные модели обучены выполнять задачи, но не всегда следуют организационным нормам и человеческим оценкам. В некоторых случаях система может ограничить доступ агента к данным и потребовать одобрения человека.