Содержание
Новое время — старые проблемы
Microsoft выпустила документ, в котором впервые открыто признает: новые агентные функции ИИ в Windows 11 несут реальные риски безопасности.
Настолько серьезные, что функция будет выключена по умолчанию, а включить ее сможет только администратор.
Что вообще происходит
Компания продвигает идею «агентной операционной системы», где ИИ сам выполняет за пользователя сложные действия — от настройки системы до автоматизации рабочих процессов. В свежих сборках Windows 11 эта концепция начинает работать в реальности.
Для этого система создает специальные агентные аккаунты, которым Windows автоматически выдает доступ к пользовательским папкам:
- Documents;
- Downloads;
- Desktop;
- Videos;
- Pictures;
- Music.
Эти агенты могут выполнять задачи внутри отдельного рабочего стола, но с доступом к настоящим файлам и приложениям пользователя.
В чем риск
Microsoft прямо пишет: такие агенты могут быть уязвимы к новым типам атак.
Хакеры атаковали россиян, маскируя майнер и троян под Microsoft Office — «Лаборатория Касперского»tproger.ru
Главная угроза — Cross-Prompt Injection (XPIA). Если злоумышленник внедрит вредоносный текст в документ или интерфейс приложения, агент может:
- выполнить неправильную команду,
- отправить данные злоумышленнику,
- скачать и установить вредоносный файл,
- изменить настройки без ведома пользователя.
То есть ИИ-агента можно обмануть так же, как человека — только быстрее и эффективнее.
Microsoft пытается подстраховаться
Компания описывает набор принципов, которых намерена придерживаться:
- Любые действия агента должны быть наблюдаемы. Windows обязана вести журнал всех операций.
- Решения должны подтверждаться человеком. Автоматическое выполнение без согласия — запрещено.
- Логи должны быть защищены от подделки.
Но при этом Microsoft признает, что технология остается экспериментальной.
Когда нововведение станет доступно
Первые сборки Windows 11 с поддержкой агентных рабочих пространств уже отправлены инсайдерам в Dev-канале.
Пока что нет ни одного приложения, которое использует эти возможности, но Microsoft обещает добавить агентные функции в Copilot «совсем скоро».