AMD рассказывает об объединении вычислений и DRAM на выставке ISSCC 2023

На выставке ISSC 2023 д-р Лиза Су, генеральный директор AMD, обсудила компоненты стекирования и почему для достижения вычислений Zettascale в будущем необходимы усовершенствованные пакеты. Часть обсуждения была посвящена памяти. Поскольку мы только что опубликовали несколько статей о памяти, мы хотели кратко рассказать об этом на STH.

Одним из серьезных ограничений при создании более крупных систем стала возможность доступа к памяти. Это произошло в двух формах, в первую очередь за счет более высокоскоростных интерфейсов, а также простого добавления большего количества каналов памяти на серверы. Вот диаграмма AMD с 2007 года по 2023 год.

Недавно мы обсуждали увеличение пропускной способности памяти на ядро ​​и на сокет для Intel Xeon и AMD EPYC за последнее десятилетие и сделали статью о RDIMM для серверов DDR5, в которой показали, почему переход от 8-канальной DDR4 к 12-канальной DDR5 был таким большой скачок в производительности.

Одна из самых больших проблем связана со стороной ввода-вывода, где энергоэффективность улучшается, но потеря каналов становится более серьезной проблемой.

Конечным результатом этого является то, что переход на DRAM становится все более дорогостоящим с точки зрения энергопотребления. Мы уже видели случаи, когда HBM был интегрирован в корпус процессоров и графических процессоров, но есть и другие технологии. К ним относятся использование совместно упакованной оптики и укладка 3D-чипов.

На выставке ISSCC 2023 компания AMD продемонстрировала концепцию приближения памяти к вычислениям с помощью кремниевого промежуточного устройства (аналогично тому, как сегодня графические процессоры интегрируют HBM), к будущему объединения памяти в вычислениях. Перемещение данных через 3D-стек требует гораздо меньше энергии, чем попытка подачи сигналов в слоты DIMM DDR5.

В ходе разговора обсуждался предстоящий AMD Instinct MI300. Одним из интересных моментов в этой презентации было трехмерное расположение кристаллов Infinity Cache и Infinity Fabric под ядрами ЦП и графического процессора в MI300.

Для справки: стек 3D SRAM, который мы видим в нынешнем Milan-X, а вскоре и в серии Ryzen 7000X3D, размещает SRAM над кристаллом процессора. MI300 изменил бы это и разместил кэш под кристаллом ЦП. Охлаждение является серьезной проблемой, поэтому имеет смысл расположить горячие вычислительные блоки ближе к блоку жидкостного охлаждения.

Еще одна тема, обсуждавшаяся во время разговора, — обработка данных в памяти. Мы рассказали о Samsung HBM2-PIM и Aquabolt-XL на выставке Hot Chips 33, и AMD заявила, что работает над исследованием вычислений в памяти вместе с Samsung. Идея здесь еще более драматична: нет необходимости перемещать данные из памяти для выполнения каких-либо вычислений.

Кажется, что это все еще немного дальше, чем некоторые усовершенствования в области упаковки памяти.

Перемещение данных внутри системы и внутри стойки становится предметом пристального внимания отрасли. Эта энергия перемещения данных и затраты на производительность снижают общую эффективность системы. В результате вся отрасль работает над тем, чтобы выйти за рамки типичного ЦП с подключенной моделью DRAM и перейти к новым архитектурам. Поскольку разговор состоялся ранее на этой неделе, мы просто хотели поделиться им с читателями STH на этих выходных, чтобы им было над чем подумать.