Компания AMD объявила о покупке молодой компании MEXT, разрабатывающей интеллектуальные алгоритмы многоуровневого распределения памяти (memory tiering). Данное приобретение призвано решить проблему нехватки и дороговизны быстрой оперативной памяти в серверах для задач искусственного интеллекта.
Современные большие языковые модели требуют для работы гигантских объемов памяти. Традиционный подход, завязанный исключительно на оперативную память DRAM, упирается в физические лимиты материнских плат и слишком высокую стоимость комплектующих. Эту проблему часто называют «стеной памяти» (memory wall).
Как работает технология MEXT
Решение от MEXT представляет собой программный слой, который позволяет объединить быструю флеш-память NAND (NVMe-накопители) и стандартную оперативную память DRAM в единый логический пул:
- Умное предсказание: Встроенные алгоритмы искусственного интеллекта в реальном времени анализируют обращения приложений к памяти и выявляют паттерны доступа.
- Проактивное перемещение: Вместо медленного реактивного сброса данных на диск, система заранее вычисляет, какие «холодные» данные скоро потребуются, и перемещает их в DRAM до того, как к ним обратится процессор.
- Снижение затрат: Серверные системы могут использовать терабайты относительно недорогой флеш-памяти вместо закупки колоссальных объемов дорогостоящих планок DRAM, существенно снижая стоимость владения (TCO).
AMD планирует плотно интегрировать программный стек MEXT в свою платформу ROCm, что сделает графические ускорители Instinct MI300 и будущие MI355X еще более эффективными при работе с LLM без необходимости физического расширения дорогостоящей HBM-памяти.