Yapay zekada gereksiz sorguların maliyeti milyarlarca dolar

Veri merkezlerinin ve yapay zeka modellerini çalıştıran sistemlerin enerji tüketimi, hem çevresel hem de ekonomik açıdan önemli bir konu olarak öne çıkıyor.

Bu çerçevede, yapay zeka modellerinin çalıştırılması, özellikle çok sık kullanılan büyük dil modellerinin bulunması, enerji tüketimi ve altyapı gereksinimleri nedeniyle kaynak harcamasını beraberinde getiriyor.

Her sorgunun sistemler üzerinde yük oluşturduğu ve bunun mikro düzeyde dahi olsa maliyete yol açtığı vurgulanıyor. Bu kapsamda yapay zeka modellerini kullanırken gereksiz ve çok uzun sorgulardan kaçınmanın maliyetleri düşürmeye katkı sağlayacağı belirtiliyor.

YAPAY ZEKA, İŞ DÜNYASINDA KÖKLÜ DEĞİŞİMLERE YOL AÇIYOR

Türkiye Yazılımcılar Federasyonu (TÜYAFED) Genel Başkanı Mustafa Çalış, Türkiye'nin yapay zeka liginde ilk 20 ülke arasına girebileceğini belirterek, "Yapay zeka, günümüz iş dünyasında hem heyecan verici fırsatlar sunarak hem de önemli zorluklar oluşturarak köklü değişimlere yol açıyor" dedi.

Yapay zeka teknolojilerinin, iş süreçlerini daha verimli ve hızlı hale getirdiğine dikkati çeken Çalış, karar alma süreçlerinin, yapay zekanın sunduğu derinlemesine analizler ve öngörüler sayesinde daha isabetli olabildiğini anlattı.

HER SORGUNUN MALİYETİ VAR

Çalış, yapay zeka teknolojisinde maliyet hesaplamalarının birkaç ana faktöre bağlı olduğunu dile getirerek, özellikle büyük dil modellerinin geliştirilmesinin enerji ve sistem maliyeti oluşturduğunu dile getirdi.

KİBARLIK MİLYONLARCA DOLARA MAL OLUYOR

OpenAI Üst Yöneticisi (CEO) Sam Altman'ın yapay zeka modellerine "Teşekkür ederim" gibi nezaket ifadelerinin kullanılmasından dolayı milyonlarca dolar enerji maliyeti oluşturduğuna ilişkin söylemini hatırlatan Çalış, şu değerlendirmede bulundu:

"Her sorgunun veya ifadenin işlenmesi, bu büyük sistemlerin çalışmasını gerektirdiği için mikro düzeyde de olsa bir maliyete sahiptir. Bu maliyetler, modelin karmaşıklığına ve kullanım sıklığına göre katlanarak artabilir. Yapay zeka modellerini kullanırken her sorgunun maliyeti olduğunu göz önünde bulundurmak önemlidir. Gereksiz veya çok uzun sorgulardan kaçınmak maliyetleri düşürmeye yardımcı olabilir. Dil modelleriyle yapılan sohbetlerde aşırı derecede nazik veya gereksiz ifadeler kullanmak, sistem kaynaklarının tüketimine ve dolayısıyla maliyet artışına neden olabilir. Elbette bu, kaba bir iletişim tarzını benimsemek anlamına gelmez ancak özellikle yüksek hacimli kullanımlarda bu tür mikro etkileşimlerin birikimli maliyetini göz önünde bulundurmakta fayda vardır."

patronlardunyasi.com