Der Aufstieg der künstlichen Intelligenz geht mit einer enormen Erweiterung der Rechenzentren einher. Rechenzentren sind projiziert bis zum Ende des Jahrzehnts zwischen 9 und 17 Prozent des gesamten Stromverbrauchs in den USA ausmachen. Heutzutage wird etwa ein Drittel des Stroms in Rechenzentren für die Kühlung der Chips aufgewendet, auf denen KI-Modelle laufen.
Das ist der Prozess, an dem Ferveret arbeitet, um ihn effizienter zu gestalten. Das von Reza Azizian, einem ehemaligen MIT-Postdoc in Nukleartechnik, und Matteo Bucci, Esther und Harold E. Edgerton Affiliate Professor am MIT in der Abteilung für Nuklearwissenschaft und -technik, gegründete Startup übernimmt einen Ansatz von Kernreaktoren, um Chips ohne Wasser und deutlich weniger Strom zu kühlen.
Das Kühlsystem des Unternehmens taucht Computerserver in eine spezielle Flüssigkeit, die Wärme viel effizienter absorbiert als Luft aus einem Lüfter. Was die Lösung von anderen Flüssigkeitskühlsystemen unterscheidet, sind die Blasen: Die Adaptive Section Cooling (APC)-Lösung von Ferveret erzeugt viel kleinere Blasen an der Oberfläche des Servers, die sich häufiger lösen und so den Wärmeübertragungsprozess beschleunigen.
Ferveret testet seine Lösungen bereits mit Unternehmen wie CleanSpark, dem Entwickler und Betreiber von Rechenzentren, sowie FuriosaAI, einem Unternehmen für KI-Beschleuniger, und Change, einem der größten Rechenzentrumsbetreiber in den USA
In einer aktuellen Studie in Zusammenarbeit mit dem Samueli Pc Science Division der College of California in Los Angeles stellte Ferveret fest, dass seine APC-Lösung im Vergleich zu hochmodernen Flüssigkeitskühlungslösungen zu einer 15-prozentigen Verbesserung der Rechenleistungseffizienz führte. Durch die Kombination dieser Einsparungen mit dem Leistungssteuerungssystem von Ferveret zur Optimierung der Betriebsbedingungen können Rechenzentren laut Angaben des Unternehmens 35 Prozent mehr Token – kleine Textual content- oder Datenstücke – von ihren KI-Modellen bei gleicher Leistung erhalten.
„Unser Ziel ist es, Rechenzentren so nachhaltig wie möglich zu gestalten und ihnen dabei zu helfen, jedes einzelne Watt Strom für die Generierung von Token zu nutzen, die die nützlichsten Ergebnisse darstellen“, sagt Azizian. „Unser System ermöglicht den Betrieb leistungsstärkerer Chips, es hilft Rechenzentren, deutlich weniger Energie zu verschwenden, und das alles bei null Wasserverbrauch.“
Von Kernreaktoren bis zur KI
Azizian warfare 2013 Postdoc am MIT, als er Bucci traf, der damals Forscher warfare. Sie arbeiteten an der Wärmeübertragung in Kernreaktoren, bevor Azizian in die Industrie wechselte, wo er seinen Schwerpunkt auf die Kühlung von Chips verlagerte. Azizian arbeitete zunächst an Microsofts Augmented-Actuality-Headset HoloLens und wechselte dann zu Nvidia, einem Unternehmen, das die grafischen Verarbeitungseinheiten herstellt, mit denen Unternehmen die neuesten KI-Modelle trainieren und ausführen. Unterdessen forschte Bucci weiterhin am MIT und wurde 2016 Assistenzprofessor.
Azizian betrat 2017 sein erstes Rechenzentrum, wo er von den riesigen, lauten Ventilatoren beeindruckt warfare, die das Gebäude füllten, während sie abkühlten.
„Ich dachte: ‚Heilige Scheiße, so kühlt man Anlagen nicht‘“, erinnert sich Azizian und weist darauf hin, dass die Luftkühlung immer noch 40 Prozent des Stroms in einem Rechenzentrum verbrauchen kann. „Es warfare keine effiziente Vorgehensweise, aber da es die Leistung nicht beeinträchtigte, kümmerte es niemanden, dass die Kühltechnologie 50 Jahre alt warfare.“
Azizian begann mit Bucci über die Anwendung ihres Wissens rund um die Optimierung der Wärmeübertragung in Kernreaktoren auf Datenzentren zu sprechen. Wissenschaftler haben Jahrzehnte damit verbracht, bessere Möglichkeiten zur Wärmeübertragung in Kernreaktoren zu finden.
„Die Wärmeübertragung bestimmt, wie viel Energie man aus dem Reaktorkern gewinnen kann, was sich direkt in Einnahmen niederschlägt“, erklärt Azizian.
Die Gründer gründeten Ferveret im Jahr 2021. Seit Azizian sein erstes Rechenzentrum betrat, hat sich viel verändert. Chiphersteller haben immer mehr Komponenten auf ihre Chips gepackt, da die Explosion der künstlichen Intelligenz den Schwerpunkt darauf gelegt hat, so viel Rechenkapazität wie möglich aus begrenzten Netzteilen herauszuholen.
Dies hat die Betreiber von Rechenzentren dazu veranlasst, Flüssigkeiten zum Kühlen von Chips zu verwenden – oft durch eine Technik namens Immersionskühlung, bei der Chips in Flüssigkeit getaucht werden. Die effektivste Kind der Tauchkühlung bringt die Flüssigkeit zum Kochen.
„Flüssigkeit ist ein besseres Wärmeübertragungsmedium als Luft. Deshalb fühlt es sich immer noch kalt an, wenn man seine Hand in Wasser mit Raumtemperatur steckt“, erklärt Bucci. „Wenn eine Flüssigkeit kocht, kann sie die Wärme sogar noch besser abführen, da der Phasenwechsel viel Energie erfordert, additionally die Energie, die man dem Chip entzieht. Dadurch können große Wärmemengen bei minimalen Temperaturunterschieden zwischen den Chips und der Flüssigkeit übertragen werden.“
Leider erhöht siedende Flüssigkeit die Komplexität des Methods, da sie die Bediener dazu zwingt, die Blasen aufzufangen und wieder zu verflüssigen und gleichzeitig den Druck, die Temperatur und den Flüssigkeitsbestand zu kontrollieren.
Ferverets System basiert auf einem Prozess in Kernreaktoren, der als unterkühltes Sieden bezeichnet wird. Es verwendet eine Flüssigkeit mit niedrigem Siedepunkt und keine der giftigen PFAS-„Ewig-Chemikalien“, auf denen andere Ansätze basieren. An der Oberfläche des Chips erzeugt die Flüssigkeit von Ferveret kleinere Blasen als andere Ansätze zur Immersionskühlung. Diese Blasen lösen sich häufiger und kondensieren schneller in der umgebenden Flüssigkeit, wodurch der Blasen-Wiederbefeuchtungszyklus an der Oberfläche des Chips beschleunigt wird, um die Wärmeübertragung zu beschleunigen.
Ferveret liefert sein APC-System in kleinen Kartons, in denen jeweils ein Server untergebracht ist. Die Gründer sagen, dass ihre modularen Systeme die Bereitstellung des Methods erleichtern und die Wartung vereinfachen.
„Die Physik ermöglicht es uns, Formfaktoren zu erreichen, die in der Vergangenheit nicht möglich waren“, sagt Azizian. „Bei den meisten Immersionskühlungslösungen handelt es sich um große Tanks, in die die Server eingetaucht werden. Wir haben eine kleinere, modulare Rack-Lösung, die sich an die aktuelle Infrastruktur anpassen lässt, sodass die Menschen unsere Technologie einfacher einsetzen können.“
Ferveret bietet außerdem Steuerungssoftware an, die die Leistung jedes Servers in Echtzeit anpasst, um die Effizienz weiter zu verbessern.
„Wir liefern Full-Stack-Systeme, die die Kühlbox, das Rack, die Kühlverteilungseinheiten und Sensoren zur Messung von Temperatur und Druck umfassen“, sagt Bucci. „Unsere Software program überwacht diese Sensoren und optimiert die Betriebsbedingungen in jeder Field, um sicherzustellen, dass der Energieverbrauch im System minimiert wird.“
KI mit weniger Ressourcen
Ferveret unterstützt nicht nur den effizienteren Betrieb von Rechenzentren, sondern verbessert auch die Nachhaltigkeit, indem es den Betrieb von Rechenzentren in abgelegenen Regionen mit mehr erneuerbarer Energie erleichtert.
„Die Sonne scheint an Orten, an denen es nicht viel Wasser gibt. Der Vorteil unserer Wasserfreiheit besteht additionally darin, dass wir Rechenzentren bauen können, in denen zwar Solarenergie zur Verfügung steht, das Rechenzentrum aber nicht gekühlt werden kann“, sagt Bucci. „Diese Technologie kann dabei helfen, Rechenzentren in Regionen einzurichten, in denen man normalerweise nicht über die Ressourcen dafür verfügt, darunter Afrika, der Nahe Osten und natürlich Teile Amerikas. Das ist ein großer Schritt.“
Ferveret führt Gespräche mit den großen Cloud-Computing-Unternehmen, die als Hyperscaler bekannt sind, und ist derzeit Teil von Nvidias Inception-Programm für Begin-ups. Das Unternehmen plant, noch in diesem Jahr erweiterte Partnerschaften bekannt zu geben. Von dort aus planen die Gründer, ihre Technologie schnell zu skalieren, um der KI-Branche zu helfen, weiter zu wachsen, ohne den Planeten noch mehr zu belasten.
„Die Computerindustrie steht vor einer großen Herausforderung in Kind des Zugangs zu Strom und hat in vielen Regionen Probleme mit dem Zugang zu Wasser“, sagt Azizian. „Das wird mit dem Wachstum der Branche nur noch einschränkender. Das Hauptziel dieser Rechenzentrumsbetreiber wäre es, mehr Token aus der ihnen zur Verfügung stehenden Leistung zu ziehen. Wir haben gezeigt, dass wir das schaffen können.“