AWS Trainium3 ve Trainium4: Yüksek Performanslı Eğitim için Yeni Nesil Çipler ve NVLink Fusion Entegrasyonu

GPU sınıfı rekabeti sürüyor: Trainium serisi yeni adımlarla büyüyor

AWS, yapay zeka eğitim altyapısını güçlendirmek amacıyla Trainium3 çip ailesini ve büyük ölçekli Trainium3 UltraServer sistemlerini tanıttı. Ayrıca sonraki nesil işlemci üzerinde çalışmalarını doğrulayarak, Trainium4 üzerinde önemli gelişmelerin yolda olduğunu belirtti.

Eğitim ve çıkarım için performans artışı konusunda konuşulduğunda, Trainium3’ün selefi Trainium2 ile karşılaştırıldığında her iki alanda da yaklaşık dört katlık bir iyileştirme sunduğu vurgulanıyor. Ayrıca bellek kapasitesi de benzer bir artış göstermekte. Her UltraServer, 144 Trainium3 çipi barındırıyor ve AWS, bu sistemlerden binlercesini birbirine bağlama imkanı tanıyor. Tek bir dağıtımda maksimum 1 milyon çip kullanımı ise önceki nesle göre kayda değer bir artışı işaret ediyor.

Enerji verimliliği konusunda da öne çıkan Trainium3, daha yüksek işlem hacmi sağlarken yaklaşık yüzde 40 daha az enerji tüketimi gösteriyor. Bu avantaj, özellikle yoğun modeller üzerinde çalışma yapan müşteriler için belirgin bir maliyet ve performans dengesi sunuyor.

Kullanıcılar ve ekosistem tarafında Anthropic, Japon LLM girişimi Karakuri, SplashMusic ve Decart gibi şirketler, Trainium3 sayesinde çıkarım hızında, iterasyon süresinde ve faturalandırılabilir işlem saatlerinde fark edilir iyileşmeler bildirdi.

Trainium4 için ipuçları ise şimdiden ortaya kondu: NVLink Fusion desteğinin getirilmesiyle, Nvidia NVLink ile entegre çözümler arasındaki mevcut rekabet daha çok melez bir ekosistem yapısına dönüştürülecek. CUDA tabanlı uygulamaları kullanan şirketler, yazılım değişiklikleri yapmadan AWS özel donanımını benimseyebilecekler. NVLink Fusion, Trainium4, Graviton CPU’lar ve Nitro sanallaştırma donanımı dahil olmak üzere gelecekteki platformlarda yer alacak. Ancak şu an için yeni çiplerin fiyatlandırması ve kullanılabilirlik bilgileri açıklanmadı.