Microsoft запустила Guardian Agents для надзора за корпоративными ИИ-агентами
Defender теперь распознаёт до 60 типов агентов, включая Claude Code и Codex. Глава безопасности Microsoft заявила, что передовым моделям нельзя доверять.
Microsoft 19 октября представила набор функций для защиты компаний от угроз со стороны ИИ-агентов. Главная из них — Guardian Agents, агенты, которые следят за другими агентами внутри организации.
Guardian Agents входят в Project Perception, запущенный в июне. В нём уже есть агенты red team, которые атакуют систему, blue team, которые находят атаки, и green team, которые закрывают уязвимости. Microsoft Defender научился распознавать до 60 типов агентов, которых сотрудники приносят на работу, в том числе Claude Code, Codex и OpenClaw.
Администраторы могут ограничивать доступ агентов к данным и системам, выдавать права под конкретную задачу и требовать подтверждения человеком при рискованных действиях. «К сожалению, передовым моделям, независимо от их происхождения, доверять нельзя», — заявила глава бизнеса безопасности Microsoft Хайете Галло.
Ранее в октябре гендиректор Microsoft Сатья Наделла написал в личном блоге, что компании не должны полагаться на разработчиков моделей и должны строить собственный контроль над агентами. «Мы просто не можем переложить на других ответственность за то, что интеллект делает от нашего имени», — цитирует его TechCrunch.
Microsoft также вошла в число первых участников Nvidia Open Agent Safety Platform. Платформу поддерживают более 100 компаний. Она изолирует агентов и может остановить их работу на уровне железа.