Yapay zekâ geliştiricilerinin odaklandığı en önemli başlıklardan biri olan akıl yürütme (reasoning) kabiliyeti, verimlilik tartışmalarını beraberinde getirdi. Perşembe günü yayımlanan yeni bir çalışma, bu özelliğin aktif olduğu modellerin aynı görevlerde geleneksel modellere kıyasla yaklaşık 100 kat daha fazla enerji tükettiğini ortaya koydu.
Araştırma, Hugging Face araştırmacısı Sasha Luccioni ile Salesforce’un yapay zekâ sürdürülebilirliği ekibinden Boris Gamazaychikov tarafından yürütülen AI Energy Score projesi kapsamında gerçekleştirildi. OpenAI, Google (Alphabet) ve Microsoft gibi teknoloji devlerinin modellerinin de yer aldığı toplam 40 açık erişimli model test edildi.
DeepSeek modeli dikkat çekti
Çalışmada, modeller arasındaki enerji tüketimi farklarının son derece büyük olduğu görüldü. Çin merkezli DeepSeek’in R1 modelinin kırpılmış sürümü, akıl yürütme kapalıyken 1.000 metin komutunu işlemek için yalnızca 50 watt saat harcarken, aynı görev reasoning açıkken 308.186 watt saat tüketime ulaştı.
Araştırmacılara göre bu farkın önemli bir nedeni, reasoning modellerinin yanıt üretirken çok daha fazla metin üretmesi.
Diğer çarpıcı sonuçlar
Test sırasında tüm modeller aynı donanım ve aynı komut setiyle karşılaştırıldı. CodeCarbon aracıyla yapılan ölçümlerden bazı örnekler şöyle:
Microsoft Phi 4:
Reasoning açık: 9.462 Wh
Reasoning kapalı: 18 Wh
OpenAI GPT-OSS (en büyük model):
“High” reasoning modu: 8.504 Wh
“Low” reasoning modu: 5.313 Wh
İlgili şirketler, araştırma bulgularına ilişkin yorum yapmadı.
Veri merkezlerinin enerji yükü büyüyor
Yapay zekâ talebindeki artış, daha fazla veri merkezi kurulmasını gerektiriyor. Bloomberg’in eylül ayında yayımladığı çalışmaya göre, veri merkezlerinin yoğun olduğu bölgelerde toptan elektrik fiyatları son beş yılda %267’ye kadar yükseldi.
Microsoft, Google ve Amazon, daha önce veri merkezi yatırımlarının uzun vadeli iklim hedefleriyle çelişebileceğini kabul etmişti.
Reasoning modelleri araştırmayı geciktirdi
OpenAI’nin ilk reasoning modeli o1, bir yıldan uzun süre önce tanıtılmıştı. Bu tür modeller soruları yanıtlamadan önce daha fazla hesaplama yapıyor ve özellikle matematik, bilim ve yazılım geliştirme gibi çok adımlı görevlerde öne çıkıyor. Ancak bu tüketimin boyutu şimdiye dek kapsamlı bir şekilde incelenmemişti.
Hugging Face’den Luccioni, her görevin en güçlü modele ihtiyaç duymadığını vurgulayarak “Göreve uygun model seçimi önemli” diyor.
Google’ın iç ölçümleri
Google’ın ağustos ayında yayımladığı dahili verilere göre, Gemini hizmetinde ortalama bir metin komutu 0,24 watt saat enerji harcıyor. Şirket, bu rakamın kamuya açık birçok tahminden daha düşük olduğunu belirtiyor.
Eğitimden inference’a geçiş hızlandı
Yapay zekânın enerji tüketimi genellikle model eğitimi üzerinden tartışılıyordu. Ancak şirketler artık eğitilmiş modellerin çalıştırılmasına, yani inference süreçlerine çok daha fazla kaynak ayırıyor. Reasoning modellerinin yaygınlaşması da bu dönüşümü hızlandırıyor.
Microsoft CEO’su Satya Nadella, kasım ayında yaptığı açıklamada sektörün artan enerji kullanımının toplumsal kabul görmesi için yapay zekânın topluma somut fayda sağlaması gerektiğini söylemişti.
