Die SOCAMM- und SOCAMM2-Speichermodule haben ein enormes Potenzial für den mobilen Einsatz, da sie eine Speichererweiterung in einer kompakteren Form als bisher ermöglichen, ohne Kompromisse bei der Speicherkapazität oder Speichergeschwindigkeit einzugehen.
Natürlich ist das SOCAMM-Speicherformat nicht nur für Notebook-Hersteller und -Anwender von Vorteil, sondern auch für Produkte auf dem KI-Markt, da es dazu verwendet werden kann, Plattformen mit ausreichend schnellem On-Board-Speicher auszustatten, um HBM-basierte Speicherchip-Sandwiches zu ergänzen, Außerdem bietet es Flexibilität für das Plattformdesign, da die Hersteller Module anstelle von verlöteten LPDDR5x-Speicherchips verwenden können, was nicht nur das Produktdesign erleichtert, sondern im Idealfall auch eine zukünftige Speichererweiterung ermöglicht. Dieses Speicherformat wird sicherlich von Nvidia für den Vera-Prozessor verwendet werden, und der Prozessor selbst wird nicht nur mit einem KI-Beschleuniger, sondern auch als eigenständiger Prozessor erhältlich sein , was bedeutet, dass er sowohl Intels Xeon als auch AMDs EPYC-Serie eine gewisse Konkurrenz machen könnte. Diese Prozessoren können bis zu 1,5 TB LPDDR5X-Speicher nutzen, was eine Speicherbandbreite von 1,2 TB/s für das System bedeutet.
Neben Nvidia arbeiten Berichten zufolge auch Qualcomm und AMD daran, das SOCAMM2-Speicherformat und Speichermodule mit darauf aufbauenden LPDDR-Speicherchips in ihre Produkte der nächsten Generation zu integrieren. SOCAMM2-Module können besonders wichtig sein, wenn es darum geht, KI-Workflow-Inhalte, seien es große Sprachmodelle oder andere Inhalte, in der Nähe des KI-Beschleunigers zu halten und so die Verwendung von NAND-Flash-basiertem Speicher deutlich zu reduzieren, was sich positiv auf die Latenz auswirken und die Gesamtsystemleistung erhöhen kann.
Die Lösungen von Qualcomm und AMD können mehrere SOCAMM2 Module verwenden, um einen ausreichend schnellen Systemspeicher bereitzustellen und gleichzeitig eine Speichererweiterung in Abhängigkeit von der verfügbaren Speicherkapazität zu ermöglichen - d. h. es besteht die Möglichkeit einer Erweiterung bis zur Speichergrenze der Plattform. Bei AMD könnten die Instinct-MI-Beschleuniger, die mit den EPYC-Prozessoren arbeiten, mit SOCAMM2-Speichermodulen ergänzt werden, aber es ist auch denkbar, dass der Hersteller ein völlig neues System entwickelt, das auf dem neuen Speicherformat basiert.
Qualcomm bietet bereits AI200- und AI250-Serien von KI-Beschleunigern an, die bis zu 768 GB On-Board-LPDDR5-Speicher nutzen können. Dieser könnte durch SOCAMM2 mit zusätzlichem Speicher auf Systemebene versorgt werden, und auch die Speichererweiterung könnte innerhalb eines Standardrahmens erfolgen. Die Verwendung von SOCAMM2 wird auch die Herstellung und Entwicklung von Produkten vereinfachen, da die Module es ermöglichen, die gewünschte Speicherkapazität auf bequeme Weise zu erreichen, wodurch das Löten von LPDDRX-Speicherchips entfällt und eine effiziente Segmentierung der Versorgung möglich wird.
Es ist noch nicht bekannt, welche Produkte von AMD und Qualcomm als erste mit SOCAMM2-Speichermodulen ausgestattet werden, aber das könnte sich mit der Zeit herausstellen. Wird SOCAMM2 schließlich auch im Notebook-Segment verfügbar sein, nachdem auch KI-Produkte auf das neue Speicherformat setzen? Auch das wird sich vielleicht erst später herausstellen, aber angesichts der aktuellen Speicherkrise ist es möglich, dass an der SOCAMM2-Front die Versorgung von KI-Produkten Priorität hat, so wie es heute auf dem Speichermarkt der Fall ist, daher die Speicherknappheit.
