DeepSeek, V4.1 Flash güncellemesi ile yapay zeka modelini daha hızlı ve uygun maliyetli hale getiriyor.
Yapay zeka (AI) modellerinin geliştirilmesi, yalnızca yetenekli bir model oluşturmakla sınırlı değil; aynı zamanda bu modellerin ölçeklenebilir ve uygun maliyetli bir şekilde çalıştırılabilmesi de önemli. DeepSeek, V4.1 Flash güncellemesi ile daha hızlı görev tamamlama ve daha kısa çıktı süreleri sunmayı hedefliyor. Ayrıca, daha verimli çıkarım için açık kaynak bir çerçeve de tanıttı.
DeepSeek V4.1 Flash Güncellemesi
17 Ekim’de DeepSeek, V4.1-Flash-1017 güncellemesini duyurdu. Şirket, bu güncellemenin kodlama ve ajan görevleri gibi birçok alanda iyileşmeler sağladığını belirtti. Örneğin, Terminal-Bench 4.0 puanı 31.2’den 42.3’e yükseldi. DeepSWE v1.1 ise 74.2’den 77.0’a çıktı. V4.1 Flash-1017, yaklaşık 0.20 dolar maliyetle %77’lik Pass@1 puanı elde ederek, daha yüksek maliyetli diğer modellere göre daha iyi bir performans sergiledi. Daha düşük maliyetli ayarlarda ise, 0.11-0.14 dolar aralığında %72-73 civarında puan almayı başardı.
Altyapının Açık Hale Getirilmesi
20 Ekim’de DeepSeek, iç çıkarım çerçevesi olan DeepInfer’i ve API taleplerini işlemek için kullanılan deepseek-recipe kütüphanesini tanıttı. Çıkarım çerçeveleri, modellerin kaynakları nasıl kullandığını yönetir ve bu tasarım, gecikme, verimlilik ve kullanıcı hizmeti için gereken donanımı etkiler. DeepSeek, DeepInfer’i büyük ölçekli üretim hizmetlerinin temel çerçevesi olarak tanımlıyor. Açık kaynak sürümü, optimize edilmiş hesaplama çekirdekleri, asenkron zamanlama ve dağıtılmış çıkarım desteği içeriyor. Şu anda Nvidia SM100 GPU’ları ve Huawei Ascend 950 NPU’ları destekliyor.
Daha Düşük Maliyetlerin Önemi
DeepSeek, Eylül ayında V4.1 Flash’ı tanıttığında, KV-cache bellek gereksinimlerini önceki neslin dörtte biri ve SSD depolama ihtiyaçlarını sekizde biri kadar azalttığını bildirmişti. Şirket ayrıca, düşük talep dönemlerinde API tarifelerini, zirve fiyatlarının yarısına sunuyor. Ekim ayında, DeepSeek, geliştiricilere Search ve Fetch API’lerini açtı ve her biri için 1.000 başarılı istek başına 5 yuan fiyat belirledi. Bu gelişmeler, DeepSeek’in hem model hem de altyapı düzeyinde verimliliği artırmaya çalıştığını gösteriyor. Ancak bu iyileştirmelerin gerçek dünya uygulamalarında güvenilir bir performansa ve daha düşük genel maliyetlere dönüşüp dönüşmeyeceği, uygulama ve bakım süreçlerine bağlı olacak.
Kaynak: TechNode
