Которая еще умудряется работать наравне с аналогами в 10 раз крупнее себя
Microsoft продолжает развивать встроенные ИИ-функции Windows 11 — теперь в систему интегрирована новая локальная языковая модель Mu. Что интересно, работает она прямо на самом устройстве.
Модель предназначена для улучшения поиска и взаимодействия в приложении «Параметры».
Что умеет Mu
Mu заменяет обычный поиск в настройках на полноценного ИИ-агента, который понимает естественный язык.
Например, можно написать «Как поменять язык системы» и ИИ не просто найдет соответствующий раздел, а сразу покажет нужное действие.
Модель встроена в Windows 11 начиная с билда 26120.3964 (KB5058496) и уже доступна участникам Dev-канала с Copilot+ PC — компьютерами с нейропроцессором (NPU), способным обрабатывать 40+ TOPS.
Технические детали
- Mu — это энкодер-декодер языковая модель объемом 330 млн параметров.
- Обработка запросов идет локально, без подключения к облаку.
- Скорость генерации — до 100 токенов в секунду.
- Mu, за счет архитектуры, обрабатывает первый токен на 47% быстрее и декодирует в 4,7 раза быстрее аналогов.
- Сравнима по качеству с Phi-3.5-mini, хотя в 10 раз меньше.
- Лучше всего справляется с многословными запросами, но для коротких фраз продолжит работать обычный поиск по ключевым словам.
Microsoft отмечает, что Mu оптимизирована для работы на NPU и является частью стратегии по интеграции ИИ в операционную систему без зависимости от облачных сервисов.