Масштабирование корпоративного агентного ИИ: что меняется с появлением 64-гигабайтной версии MSI EdgeXpert
AIoT Solutions
По мере перехода компаний от обычных разговорных больших языковых моделей к автономному, работающему круглосуточно агентному ИИ, резко меняются их потребности в инфраструктуре. Централизованная разработка ИИ-приложений требует максимума ресурсов, однако развертывание сотен активных ИИ-агентов на фабриках, в региональных офисах и на розничных площадках требует оптимизации расходов.
Чтобы восполнить этот разрыв, MSI представляет суперкомпьютер EdgeXpert в конфигурации с 64 ГБ памяти. Как и предыдущие версии, он построен на аппаратной платформе NVIDIA DGX Spark и использует суперчип NVIDIA GB10 (Grace/Blackwell), однако новая конфигурация памяти дает компаниям возможность более экономно развертывать локальные ИИ-решения.
1. Масштабирование в соответствии с размером ИИ-моделей
Ключевым преимуществом архитектуры EdgeXpert является изначальная поддержка кластеризации с помощью высокоскоростного сетевого соединения. Независимо от того, развертываете ли вы отдельный десктоп или объединяете несколько в кластер, вы можете рассчитывать на линейную масштабируемость производительности. Для помощи в создании кластера из нескольких систем и мониторинга активности центральных и графических процессоров из единого интерфейса служит приложение NVIDIA Sync.
Будь то компактная установка в виде одной системы на удаленном объекте или кластер для крупных моделей с Flash-архитектурой, данная аппаратная платформа обеспечивает предсказуемый, линейный рост вычислительной производительности.
2. Идентичная платформа: разрабатывайте на большой, развертывайте на малой
Обычной сложностью при развертывании ИИ является фрагментация программного обеспечения: необходимость переписывать код при переходе от систем разработчиков к готовым устройствам. EdgeXpert 64GB полностью устраняет эту проблему.
Тот же суперчип, та же аппаратная платформа – меняется только память. Это значит, что работа с промптами и первичная оценка могут выполняться в ИИ-центре компании на 128-гигабайтных системах, а затем это же самое агентное программное обеспечение переносится на периферийные 64-гигабайтные системы без необходимости изменения даже одной строки кода.
3. Практика: что вмещается в 64 ГБ?
Объем памяти напрямую влияет на длину контекста и KV-кэш, доступные для многоэтапных рассуждений. Учитывая, что для операционной системы требуется около 8 ГБ, у EdgeXpert 64GB остается примерно 56 ГБ памяти для весов ИИ-моделей и KV-кэша.
Даже при загрузке плотных или MoE-моделей с числом параметров 30+ млрд система оставляет от 35 до 41 ГБ памяти исключительно для KV-кэша, что обеспечивает быструю генерацию токенов и глубокую контекстную память при непрерывной работе ИИ-агентов.
Заключение: оптимальное решение для периферийного ИИ
Сочетая FP4-производительность в 1 петафлоп от суперчипа NVIDIA GB10 (Grace/Blackwell) с 64 гигабайтами высокоскоростной памяти LPDDR5x, новый вариант MSI EdgeXpert предлагает великолепный баланс вычислительной мощности, энергоэффективности и цены.
Будь то автоматизация контроля качества на заводе, обработка конфиденциальных банковских документов или размещение локальных голосовых ИИ-агентов в медицинских учреждениях, EdgeXpert 64GB идеально подойдет для практического внедрения ИИ в привязке к вашим операционным данным.
