Компания Dell оснащает ноутбуки Pro Max 16 Plus дискретным нейропроцессором Qualcomm AI-100 Ultra. Это решение обеспечивает производительность 870 TOPS при формате INT8 в рамках теплового пакета 150 Вт. Модель получает 128 ГБ памяти LPDDR5X для работы с локальными ИИ-моделями до 120 миллиардов параметров.
Конфигурация ноутбука включает процессор Intel Core Ultra 9 285HX vPro с 24 вычислительными ядрами. Производитель отказался от дискретной графики в пользу нейропроцессора, который занимает аналогичное пространство на плате и требует сопоставимого охлаждения. Для вывода изображения система использует интегрированный графический процессор в чипе Arrow Lake-HX.
Архитектура ноутбука ориентирована на задачи локальной обработки искусственного интеллекта. Нейропроцессор NPU берет на себя все вычисления, связанные с машинным обучением, тогда как центральный процессор выполняет общие задачи. Объем памяти 64 ГБ в базовой конфигурации достаточен для большинства моделей глубокого обучения.
Qualcomm AI-100 Ultra представляет собой специализированный ускоритель для инференса нейросетей. Показатель 870 TOPS для формата INT8 превышает возможности большинства интегрированных NPU в мобильных процессорах. Например, нейропроцессоры в чипах Intel Core Ultra обычно демонстрируют 10-20 TOPS.
Тепловой пакет 150 Вт соответствует уровню мощных мобильных рабочих станций. Нейропроцессор занимает физическое пространство, которое традиционно отводят под графические ускорители. Это потребовало пересмотра системы охлаждения и распределения мощности.
Память LPDDR5X объемом 128 ГБ обеспечивает работу с крупными моделями без использования внешней памяти. Модели с 120 миллиардами параметров, такие как Llama 3 70B или аналогичные, полностью помещаются в оперативной памяти. Это исключает задержки при обращении к хранилищу данных.
Процессор Intel Core Ultra 9 285HX vPro относится к поколению Arrow Lake-HX. Эти чипы содержат 24 вычислительных ядра и интегрированную графику Intel Xe-LPG. Графический процессор справляется с выводом изображения на дисплей, но не предназначен для игр или сложной визуализации.
Сфера применения таких систем включает анализ медицинских снимков, выявление мошенничества в финансовых операциях, инженерное моделирование и научные исследования. Эти задачи требуют немедленных результатов и соблюдения конфиденциальности данных, что исключает использование облачных сервисов.
Локальная обработка информации на нейропроцессоре устраняет задержки передачи данных по сети. Это критически важно для систем реального времени, таких как диагностическое оборудование или системы контроля качества. Полная изоляция данных отвечает требованиям защиты коммерческой тайны и персональной информации.
