Компания Microsoft представила обновленный диспетчер задач Windows, в котором появилась возможность детального мониторинга нейросетевых вычислений. На таких вкладках, как процессы, производительность и подробности, теперь можно найти новые графы для нейропроцессоров NPU и специального матричного блока видеокарт, что позволяет следить за распределением ресурсов для задач искусственного интеллекта в реальном времени.
Основной причиной для внедрения этих метрик стало наличие проблемы, когда нагрузка на центральный процессор и стандартные блоки рендеринга видеокарт перенаправляется незаметно. При использовании программ, работающих на фреймворках, таких как ONNX Runtime или Windows DirectML, несовместимость типов данных или отсутствие необходимых драйверов могут привести к тому, что система автоматически переключается на расчет с помощью обычного процессора, что снижает производительность.
Для ноутбуков такая проблема может стать критичной, так как специализированные аппаратные блоки потребляют значительно меньше энергии и не перегреваются. В случае аварийного переноса вычислений на центральные процессоры и графические чипы активируются вентиляторы охлаждения, что может привести к быстрому разряжению аккумулятора, особенно при выполнении простой задачи, такой как размытие видео.
С обновлением интерфейса пользователи получили возможность выводить в системной таблице специализированные столбцы, показывающие активность различных движков: NPU - Compute, NPU - Neural и GPU - Neural. Если приложение поддерживает аппаратное ускорение ИИ, но показатель NPU остается на уровне 0%, а графический процессор использует обычные конвейеры вместо нейронных, это явно указывает на сбой в оптимизации.
Кроме того, Microsoft добавила мониторинг выделенной и общей памяти NPU. Новые параметры позволяют отслеживать распределение весов моделей и фиксировать момент, когда память нейрочипа переполняется, что приводит к вытеснению данных в общую оперативную память и может снижать производительность локальных алгоритмов и увеличивать задержки.
Новый функционал диспетчера задач уже доступен на совместимых устройствах с операционной системой Windows 11 и открывает новые горизонты для контроля над растущим числом локальных нейросетевых функций как в потребительском, так и в профессиональном программном обеспечении.