Nvidia H100 GPU'ları Güç Tüketiminde Farklılık

Nvidia, H100 AI GPU'larından kelimenin tam anlamıyla tonlarca satıyor ve her biri ortalama olarak 700W'a kadar güç tüketiyor. Nvidia yeni GPU'larını yapay zeka iş yükleri için yüksek hacimlerde sattığı düşünüldüğünde, bu GPU'ların toplam güç tüketiminin büyük bir şehir veya bazı küçük Avrupa ülkelerinden daha fazla enerji tüketeceği tahmin ediliyor.

Nvidia H100'ler Gürcistan kadar elektrik tüketecek

Microsoft'ta veri merkezlerinin yönetiminden sorumlu olan Paul Churnock, Nvidia'nın H100 GPU'larının, bu GPU'lardan milyonlarca dağıtıldığında 2024'ün sonunda ABD’nin 1.6 milyon nüfuslu Phoenix şehrinden daha fazla güç tüketeceğine inanıyor. Nvidia'nın H100 GPU'su 700W'lık tepe güç tüketimine sahip. Bu, yıllık yüzde 61 kullanımda, ortalama bir Amerikan hane sakininin güç tüketimine eşdeğer. Nvidia H100, yıllık yüzde 61 kullanım durumunda yılda yaklaşık 3.740 kilowatt-saat (kWh) elektrik tüketiyor.

Nvidia'nın 2023'te 1,5 milyon ve 2024'te iki milyon H100 GPU sattığı varsayılırsa, 2024'ün sonlarına kadar bu tür yongalardan 3.5 milyon adet kullanıma girmiş olacak. Dolayısıyla tüm H100’ler bir yılda 13.091.820.000 kilovat-saat (kWh) ya da 13.091,82 GWh elektrik tüketecek.

Bu tüketim, Gürcistan, Litvanya veya Guatemala gibi bazı ülkelerin yıllık elektrik tüketiminden fazla. Suriye ve Uruguay gibi ülkelere ise çok yakın. Türkiye ile kıyaslandığında ise yaklaşık 20’de 1’i kadar. Bu güç tüketimi miktarı oldukça şok edici görünse de, AI ve HPC GPU verimliliğinin artmakta olduğu unutulmamalı. Elbette talep beklenenden fazla olursa tüketim miktarının büyüdüğünü görmek de hayli mümkün.