главная / искусственный интеллект / npu-i-ii-pk
Искусственный интеллект

NPU и ИИ-компьютеры: что такое нейропроцессор и нужен ли он вам

МетрСофта6 мин чтения
Схематичный процессор с контактами по периметру на тёмном фоне как символ нейропроцессора

Производители ноутбуков и процессоров всё чаще пишут на коробках слова «ИИ-ПК» и «NPU». Звучит убедительно, но что за этим стоит? Нужен ли вам отдельный нейропроцессор, или это маркетинговая надстройка над обычным железом? Разберёмся без громких обещаний: что делает NPU, чем отличается от процессора и видеокарты и в каких сценариях приносит пользу.

# Что такое NPU

NPU (Neural Processing Unit, нейропроцессор) — специализированный вычислительный блок, который оптимизирован для операций, используемых в нейросетях: умножения матриц и свёрток. Обычно он встроен в тот же кристалл, что и центральный процессор и интегрированная графика, и работает с общей памятью компьютера.

Главное его качество — энергоэффективность. Для некоторых нейросетевых задач NPU выполняет те же расчёты при значительно меньшем энергопотреблении, чем процессор или видеокарта. Для ноутбука это важно: фоновая функция может работать долго и не разряжать батарею.

# Чем NPU отличается от CPU и GPU

Карточки трёх вычислительных блоков: CPU, GPU и NPU с их основными задачами
NPU не заменяет другие блоки, а берёт на себя часть задач ИИ.

Центральный процессор универсален. Он справляется с любыми программами, но для массовых параллельных вычислений ИИ не оптимален. Видеокарта содержит тысячи вычислительных блоков и отлично подходит для крупных нейросетей, но потребляет много энергии и занимает отдельное место в корпусе или значительную часть мощности ноутбука. Нейропроцессор уступает видеокарте в максимальной производительности, зато выигрывает в экономичности на небольших, но постоянных задачах.

Поэтому правильнее считать NPU третьим «рабочим» блоком, который берёт на себя фоновые функции, а тяжёлые модели по-прежнему считает видеокарта. Подробнее о том, как выбирать видеокарту для таких задач, мы писали в статье про видеокарты.

# Что такое TOPS

Производительность NPU указывают в TOPS — триллионах операций в секунду, обычно с малой точностью (например, восьмибитными целыми числами). Цифра показывает теоретический максимум, и сравнивать устройства по ней можно только приблизительно: реальная скорость зависит от программ, памяти и драйверов. Для сертификации некоторых функций операционной системы производители устанавливают порог. Так, для ряда новых функций Windows, объединённых под названием Copilot+ PC, требуется NPU мощностью не менее сорока TOPS, а наличие этого порога влияет на доступный набор функций.

# Платформы с нейропроцессорами

Таблица платформ с нейропроцессорами: Intel Core Ultra, AMD Ryzen AI, Qualcomm Snapdragon X, Apple Silicon
Разные производители называют ИИ-блок по-своему, но принцип общий.

Блок ИИ есть в процессорах всех крупных производителей. Intel использует NPU в линейке Core Ultra, AMD встраивает блок на архитектуре XDNA в процессоры Ryzen AI, Qualcomm — Hexagon NPU в чипах Snapdragon X, а Apple несколько лет поставляет Neural Engine в своих чипах. Названия отличаются, но принцип один: специальные блоки для нейросетевых операций рядом с центральным процессором.

# Какие задачи ускоряет NPU

Горизонтальная диаграмма сценариев, где нейропроцессор приносит пользу
Самый заметный эффект — фоновые функции, где важна экономия заряда.

Сегодня нейропроцессор чаще всего задействуют в следующих функциях:

  • Видеозвонки: размытие фона, шумоподавление, коррекция направления взгляда, автоматическое кадрирование. Эти функции работают постоянно, и экономичность NPU здесь особенно ценна.
  • Распознавание речи: диктовка, живые субтитры и транскрипция аудио на устройстве.
  • Обработка изображений: улучшение фотографий, удаление фона, увеличение разрешения.
  • Поиск по содержимому: поиск по тексту на фотографиях или по смыслу в личных документах.
  • Небольшие языковые модели: локальные помощники для переписывания и краткого пересказа.

Для запуска больших языковых моделей возможностей NPU пока часто недостаточно: определяющим фактором оказывается пропускная способность памяти и её объём, а не только число операций. Подробнее об этом написано в материале про локальные нейросети на домашнем ПК.

# Как программа использует NPU

Приложение само не «видит» блоки процессора. Оно обращается к операционной системе или специальной библиотеке и просит выполнить ИИ-задачу, а система решает, где её запустить.

Схема выбора вычислительного блока для ИИ-задачи: запрос, выбор, блок, результат
Система распределяет задачи между блоками по энергоэффективности и скорости.

На практике это означает, что польза от NPU зависит от поддержки в программе. Если разработчик не адаптировал приложение под нейропроцессор, оно будет работать на процессоре или видеокарте, и наличие NPU ничего не изменит. Сегодня поддержку добавляют операционные системы, видеоредакторы, браузеры и приложения для звонков, но список ещё растёт.

# Нужен ли вам компьютер с NPU

Задайте себе три вопроса.

  1. Вы часто пользуетесь видеозвонками, диктовкой или обработкой фотографий на ноутбуке? Тогда NPU может заметно продлить автономность при использовании этих функций.
  2. Вам нужны крупные модели и тяжёлые вычисления? Тогда ключевым будет объём и скорость видеопамяти или общей памяти, а не NPU.
  3. Вы покупаете компьютер на несколько лет? Тогда наличие нейропроцессора — разумный запас на будущее, поскольку число функций, которые его используют, растёт.

Если ваш сценарий — офисная работа и просмотр видео, отсутствие NPU не станет проблемой. Если вы выбираете между двумя примерно равными устройствами, вариант с нейропроцессором выгоднее. Переплачивать только ради слова «ИИ» на коробке не стоит.

# На что смотреть при выборе

Чек-лист шести пунктов проверки ноутбука с нейропроцессором перед покупкой
Цифра TOPS важна, но не единственный критерий.

Помимо мощности NPU, проверьте объём оперативной памяти: для локальных ИИ-функций желательно шестнадцать гигабайт и больше. Обратите внимание на автономность и систему охлаждения, на поддержку нужных вам программ и на политику обновлений драйверов. Для ПК и мини-ПК важна и дискретная видеокарта, если вы планируете запускать крупные модели. Так же, как и при покупке накопителей или памяти, смотрите независимые тесты в ваших сценариях, а не только заявленные цифры. Сведения об устройстве памяти и её влиянии на скорость читайте в материале про оперативную память.

# Как проверить, что программа использует NPU

В диспетчере задач Windows на вкладке производительности для компьютеров с нейропроцессором появляется отдельный график NPU: запустите нужную функцию и посмотрите, растёт ли нагрузка. На других платформах используют утилиты производителя. Если график остаётся пустым, а процессор или видеокарта загружены, значит, приложение не использует нейропроцессор или считает задачу слишком лёгкой. Такая проверка спасает от разочарований: так вы заранее узнаете, даст ли выбранное устройство реальный выигрыш в вашем наборе программ.

# Что изменится в ближайшие годы

Производители увеличивают мощность нейропроцессоров от поколения к поколению, а разработчики программ учатся лучше использовать их. Операционные системы добавляют универсальные интерфейсы, через которые приложение запрашивает ИИ-вычисления независимо от конкретной платформы. Вероятно, через несколько лет нейропроцессор станет таким же обязательным элементом, как интегрированная графика, а вопрос «нужен ли он» уступит вопросу «насколько хорошо он поддерживается». Пока же покупайте устройство под реальные сценарии сегодняшнего дня, а будущее воспринимайте как приятный бонус.

# Приватность и работа без интернета

Одно из главных преимуществ обработки на устройстве — данные остаются у вас. Распознавание речи, поиск по личным документам и обработка фотографий не требуют отправки информации в облако. Это снижает риски утечек и позволяет пользоваться функциями без сети. При этом проверяйте настройки: некоторые функции могут использовать облако как резервный вариант, и такие параметры стоит знать.

# Частые ошибки и мифы

  • «Больше TOPS — быстрее всё». Цифра теоретическая и относится к конкретным типам операций.
  • «NPU заменит видеокарту». Для крупных моделей и тяжёлой графики видеокарта остаётся необходимой.
  • «ИИ-ПК нужен всем». Для базовых задач разница незаметна.
  • «Функции появятся сами». Многое зависит от поддержки в программах и обновлений системы.

# Итоги

Нейропроцессор — полезный дополнительный блок, который экономит энергию на фоновых ИИ-функциях и делает ноутбук автономнее. Он не заменяет ни центральный процессор, ни видеокарту. При выборе смотрите на сценарии, поддержку программ, объём памяти и независимые тесты, а не на красивую надпись. Чтобы глубже разобраться, как работают модели, которые запускаются на таких устройствах, прочитайте статью про большие языковые модели.