VERSNELLING DOOR AI

De AI-uitdaging: zowel snel als duurzaam zijn, kan dat?

Er zijn nu innovatieve benaderingen nodig om deze tegengestelde werelden opnieuw vorm te geven. Vooral op het gebied van High-Performance Computing (HPC) zijn datacenters op zoek naar manieren om om te gaan met het dilemma waarin we ons bevinden: meer leveren met minder! De nooit eindigende ‘big squeeze’.

Kunnen we een balans vinden tussen snelheid en duurzaamheid in AI? Recente ontwikkelingen suggereren dat het inderdaad mogelijk is.

De AI en ML uitdaging

AI- en ML-technologieën zijn onmisbaar geworden in een groot aantal sectoren, van gezondheidszorg tot financiën en van productie tot entertainment. De vooruitgang van AI vereist aanzienlijke rekenkracht, waarbij het energieverbruik voor het trainen van één AI-model groter is dan dat van 100 huishoudens in een jaar. Dit aanzienlijke energieverbruik, dat wordt benadrukt door het rapport van Google dat Machine Learning goed was voor ongeveer 15% van het totale energieverbruik in drie jaar, onderstreept de dringende noodzaak om prioriteit te geven aan de ontwikkeling van efficiëntere computerinfrastructuren en algoritmen om de impact op het milieu te beperken en ervoor te zorgen dat AI positief bijdraagt aan de efficiëntie- en duurzaamheidsdoelstellingen van de energiesector.

Een innovatieve koeloplossing

Als antwoord op deze uitdagingen hebben datacenters onconventionele methoden onderzocht om optimale prestaties te bereiken. Een van die technieken is het onderdompelen van GPU’s in niet-geleidende olie. Deze methode biedt verschillende voordelen ten opzichte van traditionele koelmethoden.

1. Hogere thermische geleidbaarheid:

Niet-geleidende oliën hebben een hogere thermische geleidbaarheid dan lucht, waardoor de warmte efficiënter van de GPU wordt afgevoerd. Dit betekent dat het koelsysteem efficiënter kan werken, waardoor er minder energie nodig is om optimale operationele temperaturen te handhaven.

2. Minder koelinfrastructuur:

Traditionele luchtkoelsystemen vereisen vaak een combinatie van koellichamen, ventilatoren en soms zelfs airconditioningunits om de warmte van krachtige GPU’s te beheren. Elk van deze componenten verbruikt elektriciteit. Een olie-immersiesysteem daarentegen kan vaak dezelfde of betere koelprestaties leveren met een minder complexe en energie-intensieve infrastructuur.

3. Eliminatie van ventilatoren op GPU’s:

Wanneer GPU’s worden ondergedompeld in niet-geleidende olie, kunnen de ventilatoren die gewoonlijk op de GPU’s zijn gemonteerd, worden verwijderd. Dit vermindert direct het stroomverbruik van elke GPU, aangezien de ventilatoren zelf een aanzienlijke hoeveelheid elektriciteit kunnen verbruiken, vooral in grootschalige implementaties.

Kwantitatief kunnen de energiebesparingen sterk variëren, maar ze worden vaak gerapporteerd tussen 10% en 50%, afhankelijk van de specifieke kenmerken van de toepassing en de efficiëntie van het ontwerp van het koelsysteem.

De invloed op het milieu

Naast de energiebesparingen is wat deze specifieke HPC-omgeving verder onderscheidt het streven naar duurzaamheid. In plaats van de restwarmte verloren te laten gaan die wordt gegenereerd door ondergedompelde GPU’s, is er een oplossing bedacht. Deze overtollige warmte wordt teruggeleverd naar een lokaal stadsverwarmingssysteem, waardoor duizenden huishoudens in de gemeenschap van warmte worden voorzien. Deze integratie van technologie en duurzaamheid weerspiegelt de toewijding om de ecologische voetafdruk te verkleinen en een positieve impact te hebben op de lokale gemeenschap.

De toekomst van duurzame AI

Deze innovatieve HPC-omgeving is een goed voorbeeld van hoe duurzaamheid en snelheid naast elkaar kunnen bestaan in de wereld van AI en ML workloads. In feite is de toekomst hier en nu: door middel van ondergedompelde koeloplossingen van Asperitas lopen bedrijven als Bytesnet voorop en hebben we deze oplossing op dit moment geïmplementeerd. Deze aanpak is een voorbeeld van de mogelijkheid van een wereld waarin geavanceerde technologie floreert zonder dat dit ten koste gaat van onze betrokkenheid bij de planeet. Duurzaam en toch snel is niet alleen mogelijk, maar ook essentieel in de 21e eeuw en benadrukt het potentieel voor een duurzamere toekomst.