Bir inceleme, AMD Radeon AI PRO R9700 kartlarının ChatGPT ile olan maliyet karşılaştırmasını yaparak dikkat çekici sonuçlar ortaya koydu.
Son günlerde, iki adet AMD Radeon AI PRO R9700 kartının maliyet etkinliği üzerine yapılan bir inceleme, bu donanımın ChatGPT ile karşılaştırıldığında ne kadar avantajlı olduğunu gözler önüne serdi. İki kartın toplam maliyeti yaklaşık 18,775 dolar olarak belirlenirken, bu sistemin haftalık olarak ChatGPT’nin en üst düzey modeli olan GPT-5.6 Sol’u geride bırakma süresi oldukça dikkat çekici. Yapılan testlerde, bu sistemin token (jeton) üretim kapasitesi, Multi-Token Prediction tekniği sayesinde 320.2 token/saniye seviyesine kadar çıkmayı başardı.
AMD Radeon AI PRO R9700 ile Maliyet Karşılaştırması
Yapılan incelemede, iki AMD kartının elektrik tüketimi, token üretim hızı ve amortisman maliyetleri gibi faktörler değerlendirildi. Bu veriler, çeşitli bulut abonelik planları ile karşılaştırıldı. Bulut hizmet sağlayıcıları, üretilen her milyon token için farklı fiyatlandırmalar sunuyor. Örneğin, GPT-5.6 Luna modeli için fiyat 1.20 dolar, GPT-5.6 Sol için ise 30 dolar. Orta seviyedeki modeller ise Claude Sonnet 5 için 10 dolar, Claude Opus 5 için ise 25 dolar olarak belirlenmiş durumda.
İki AMD kartının birlikte çalıştığı testlerde, sistem 156.2 token/saniye üretim hızı sağladı. Ancak Multi-Token Prediction tekniği kullanıldığında bu hız 320.2 token/saniyeye kadar yükseldi. Bu hızda, haftada sadece 3.5 saatlik kullanım, GPT-5.6 Sol’un maliyetini geçmek için yeterli oluyor. Eğer bir ekip, aylık 20 milyon token üretimi yapıyorsa, bu sistemin maliyeti yıllık yaklaşık 6,262 dolar iken, aynı miktarda token için bulut hizmetine ödenecek tutar yaklaşık 18,000 dolar. Bu durumda, yıllık 11,738 dolarlık bir tasarruf sağlanmış oluyor.
Donanımın Avantajları ve Dezavantajları
Ancak, daha düşük token üretimi yapan ekipler için bu donanımın maliyet etkinliği sorgulanabilir. Örneğin, yalnızca 5 milyon token üreten bir ekip, yıllık 720 dolarlık bulut maliyetine karşı 6,262 dolar harcayacak, bu da net bir kayıp anlamına geliyor. Dolayısıyla, donanımın maliyet etkinliği, kullanım miktarına bağlı olarak değişiyor. Tek bir R9700 kartı, 8 milyar parametreli bir AI modelini tek başına işleyebiliyor ve saniyede 34.5 token üretebiliyor. Tek kart kullanımı, enerji tüketimini de azaltarak maliyetleri daha da düşürüyor.
Sonuç olarak, bu inceleme, yüksek token üretimi yapan ekipler için AMD Radeon AI PRO R9700 sisteminin maliyet açısından avantajlı olduğunu gösteriyor. Ancak, daha düşük kullanım senaryolarında bulut hizmetleri daha ekonomik bir seçenek olabilir. Ayrıca, bulut sistemlerinin karmaşık mantık testlerinde daha iyi performans gösterdiği de göz önünde bulundurulmalı. Bu nedenle, ekiplerin maliyet ve performans dengesini iyi bir şekilde değerlendirmesi gerekiyor.
Kaynak: TechRadar
