Vous savez déjà que nous avons choisi Exoscale pour héberger notre infrastructure, mais ils offrent également des caractéristiques exceptionnelles en ce qui concerne la puissance des GPU.
Notre pile d'IA dépend fortement de la disponibilité des GPU, qui sont traditionnellement des ressources très coûteuses. Lorsque nous avons commencé à travailler avec Exoscale, nous avons mené un test bêta avec eux sur leurs offres plus économiques, telles que le Nvidia A5000 et un 3080TI de qualité commerciale. Cela réduit considérablement le coût de ces ressources, ce qui nous permet de proposer des systèmes d'IA à un prix relativement bas.
Refroidissement liquide
Qu'est-ce qui le rend si spécial ? Exoscale a beaucoup investi dans le refroidissement de l'eau en collaboration avec DIGGERS GmbH. Cette innovation leur permet de réduire la consommation d'énergie de 50 % et de réutiliser la chaleur excédentaire pour le chauffage public (oui, certains spas de Vienne seront littéralement chauffés par l'IA !) Bien entendu, cela a également un impact important sur les performances : des températures stables permettent d'extraire davantage de puissance brute de chaque puce.
Pourquoi cela importe-t-il à Kubiqo ?
Pour nous, cela change la donne en termes de performances. Il rend également les cas d'utilisation du LLM accessibles à un plus grand nombre de clients. D'un point de vue technique, l'intégration du refroidissement par eau dans un centre de données est un moyen puissant de faire plus avec la même quantité d'énergie. C'est particulièrement important pour l'avenir des technologies d'infrastructure, où la consommation d'énergie non contrôlée pourrait devenir un problème sérieux.
Pour plus d'informations sur ce sujet, veuillez consulter le site officiel d'Exoscale