BIE-1: Ev ve Ofisler İçin Enerji Verimli Yapay Zeka Süper Bilgisayarı
yapay zeka alanındaki hızlı ilerlemeler, yeni nesil donanımların da daha küçük ve daha verimli hale gelmesini tetikledi. Bu yolculukta öne çıkan gelişmelerden biri, Guangdong bilim ve teknoloji Enstitüsü (GDIIST) tarafından tanıtılan BIE-1 oldu. Projede, geleneksel süper bilgisayarların sunduğu performansı, çok daha kompakt bir cihazda yakalama hedefiyle hareket ediliyor.
BIE-1, yakından incelendiğinde enerji açısından önemli bir avantaj sunuyor. Cihaz, bu boyuta rağmen yüksek seviye yapay zeka eğitim ve çıkarım görevlerini yerine getirebiliyor. İnsan beynine benzer bir yapay zeka algoritması ve verimli bir nöral ağ mimarisi ile bu başarı elde edildiği belirtiliyor. BIE-1’in temel bileşenleri arasında 1152 CPU çekirdeği, 4,8 TB DDR5 bellek ve 204 TB depolama alanı bulunuyor; tüm bu donanım, kompakt bir gövdeye entegre edilmiş durumda.
Bu sistem, metin, konuşma ve görüntü verilerini aynı anda işleyebiliyor ve karmaşık modelleri son derece yüksek hızlarda eğitebiliyor. Produksiyon tarafında iddia edilen performanslar arasında saniyede 100.000 token eğitim ve 500.000 token çıkarım hızları yer alıyor. Bu, normalde birkaç üst düzey GPU’dan oluşan küme mimarilerini gerektiren iş yüklerinin, tek bir cihazla çalıştırılabileceğini gösteriyor.
İlginç bir diğer nokta ise cihazın çalışma sıcaklığı ve ses düzeyiyle ilgili. Yüksek yük altında CPU sıcaklığının 70°C’nin üzerine çıkmadığı, düşük gürültüyle çalıştığı ve ev tipi bir prizden kolayca güç alabildiği ifade ediliyor. BIE-1’in temel farkı, yapay zeka hesaplamalarını geleneksel veri merkezlerinden bağımsız hâle getirme hedefiyle tasarlanması olarak öne çıkıyor. Bu da cihazı evler, küçük ofisler, laboratuvarlar ve mobil araştırma ortamları için uygun kılıyor.
Ayrıca sistemin mevcut veri merkezlerine yardımcı bir enerji verimliliği düğümü olarak da değerlendirilebileceği belirtiliyor. Ancak GDIIST’nin vurguladığı gibi BIE-1, yalnızca veri merkezleri için geliştirilmiş bir yapay zeka bilgisayarı değildir; ev ve ofis kullanımlarında pek çok görevi kolaylaştırabilir. Bu bağlamda Nvidia DGX Spark ile birlikte, yapay zekanın büyük modellerinin artık veri merkezleri üzerinden değil, lokal olarak da çalıştırılabildiğini gösteren bir eğilim ortaya çıkıyor.
