Samsung développe une nouvelle technologie de mémoire baptisée zHBM, destinée à accélérer jusqu’à 10 fois les temps de réponse des systèmes d’intelligence artificielle. Cette technologie s’inscrit dans la vision du groupe visant à développer l’infrastructure nécessaire à la prochaine génération d’IA, notamment l’IA agentique (Agentic AI).
Lors du AI Infrastructure Summit, organisé à Santa Clara, aux États-Unis, Samsung a présenté son objectif d’augmenter la vitesse de réponse des systèmes d’intelligence artificielle, actuellement d’environ 100 tokens par seconde et par utilisateur, jusqu’à 1 000 tokens par seconde. Une telle évolution permettrait aux systèmes d’IA de traiter plus rapidement des tâches et des questions complexes.
Une mémoire plus proche du processeur d’IA :
Les systèmes d’intelligence artificielle actuels reposent principalement sur une mémoire HBM placée à proximité du processeur d’IA, dans une architecture dite 2.5D.
La technologie zHBM propose une approche différente : la mémoire est directement placée au-dessus du processeur d’intelligence artificielle dans une architecture en trois dimensions.
Cette conception vise à réduire la distance parcourue par les données entre la mémoire et le processeur. Elle permettrait ainsi de réduire le temps nécessaire au traitement des données et d’améliorer la vitesse ainsi que les performances des systèmes d’IA.
Des performances et une efficacité accrue :
Selon Samsung, cette nouvelle architecture pourrait permettre une amélioration significative des performances de la mémoire.
D’après les projections présentées par l’entreprise, une future interface basée sur la technologie zHBM pourrait atteindre des performances jusqu’à 8 fois supérieures à celles de la HBM5, tout en améliorant jusqu’à 3 fois l’efficacité énergétique et en réduisant de plus de moitié la résistance thermique.
La densité de mémoire pourrait également être multipliée par plus de 10 fois par rapport à la HBM5, grâce à l’utilisation de technologies avancées d’interconnexion des puces.
L’intérêt de la zHBM ne se limite donc pas à augmenter la vitesse de la mémoire. Samsung cherche également à repenser la manière dont la mémoire communique avec les processeurs d’intelligence artificielle, alors que le volume de données traité par les systèmes d’IA continue d’augmenter.
Des défis technologiques restent à relever :
Malgré son potentiel, le placement de la mémoire directement au-dessus d’un puissant processeur d’IA soulève plusieurs défis techniques, notamment en matière de gestion thermique et d’intégration des différents composants.
Samsung travaille ainsi sur des technologies avancées d’interconnexion des puces et collabore avec les fabricants de processeurs d’intelligence artificielle dès les premières étapes de conception. L’objectif est de développer des solutions adaptées pour gérer la chaleur et optimiser les performances globales du système.
Une technologie tournée vers l’avenir de l’IA agentique :
La technologie zHBM arrive alors que le secteur technologique s’oriente de plus en plus vers le développement de l’IA agentique, capable d’exécuter une série de tâches de manière plus autonome, au-delà de la simple génération de réponses aux utilisateurs.
Selon Samsung, ce type d’intelligence artificielle nécessitera des capacités accrues de traitement des données ainsi que des temps de réponse plus rapides. Le développement de technologies de mémoire avancées devient ainsi un élément important pour accompagner la prochaine étape de l’évolution de l’IA.
Avec la zHBM et ses autres technologies de mémoire, Samsung poursuit le développement de solutions combinant vitesse, performances et efficacité énergétique, afin de soutenir la prochaine génération d’applications d’intelligence artificielle et les infrastructures qui les alimentent.
