iPhone 17 Pro’da Gizli Yapay Zeka Sürprizi: RAM Kullanımı ve Hız Kavgası

Apple’ın yeni amiral gemisi iPhone 17 Pro, yapay zekâ alanında şaşırtıcı bir deneye sahne oluyor. Cihaza özel olarak geliştirilen dev bir dil modeli, yerel olarak çalıştırılmış durumda ve toplamda 400 milyar parametre içeriyor. İnsanların aklındaki soru, bu kadar büyük bir modeli yalnızca 12 GB RAM ile nasıl mümkün kıldığı.

Görünen o ki RAM depolama sınırlarını zorlayan iki temel teknik kullanılıyor: Flash-MoE projesinin açık kaynaklı yaklaşımı, modelin tümünü tek seferde RAM’e yüklemek yerine gerektiğinde parçaları çekerek çalışmasını sağlıyor. Ayrıca Mixture of Experts yöntemiyle modelin sadece küçük bir kısmı aynı anda aktif oluyor. Böylece devasa bir model, akıllı telefon üzerinde çalışmayı başarabiliyor.

Bir başka gerçek ise hız konusunda. Model, saniyede sadece 0.6 token üretebiliyor ve bu durum bir kelime için bile birkaç saniyelik gecikmelere yol açıyor. Kullanım deneyimi şu anda yavaş olarak değerlendiriliyor ve pil tüketimi de önemli ölçüde artıyor. Bununla birlikte bu gelişme, geleceğin mobil yapay zekâları için değerli ipuçları sunuyor. Henüz günlük kullanıma uygun olmasa da böylesine büyük modellerin cihaz üzerinde çalıştırılabilir hale gelmesi, mobil teknolojinin nerede evrildiğini net bir şekilde gösteriyor.