DeepSeek ve Pekin Üniversitesi'nin ortak araştırması, yapay zeka sistemlerinde bellek bağımlılığını önemli ölçüde azaltmayı hedefleyen Engram teknolojisinin kullanıma sunulmasıyla dikkat çekti. Yeni yöntem, büyük dil modellerinin eğitiminde en pahalı kaynaklardan biri olan yüksek bant genişlikli belleğe olan ihtiyacı en aza indirerek sektördeki ciddi kaynak sıkıntısını gidermeyi mümkün kılıyor.
Editörlük bilgisine göre, Engram teknolojisi bellek depolamayı hesaplama süreçlerinden ayırarak modellerin GPU belleğini gereksiz bilgi yükünden koruyor ve yalnızca istenen bilginin aranıp bulunması mekanizmasını uyguluyor. Uzmanlar uzun süredir HBM ihtiyacının keskin bir şekilde artmasının DRAM fiyatlarının sadece 10 haftada 5 kat artmasına neden olduğunu belirtiyorlardı.
Yeni metod birkaç teknik avantaj sunuyor. Engram, statik verilere erişimi gerçek zamanlı oluşan hesaplamadan bağımsız hale getiriyor ve bu nedenle modelin hesaplama gücü basit operasyonlara değil, daha karmaşık mantıksal süreçlere yönlendirilebiliyor. 27 milyar parametreli model üzerinde yapılan testler, bu yaklaşımın endüstri standartlarına uygun olarak dikkate değer bir performans artışı sağladığını gösterdi.
Araştırmacılar, toplam parametre bütçesinin yaklaşık %20-25'inin Engram modülüne ayrılmasının geleneksel modellerle karşılaştırıldığında daha yüksek sonuçlar verdiğini belirtiyorlar. Bu teknoloji, Phison gibi daha uygun maliyetli SSD çözümleri ve yeni CXL standartlarıyla paralel çalışarak toplam bellek kapasitesini artırmaya olanak tanıyor, bu da sistemlerin pahalı HBM kaynaklarını meşgul etmeden hızlı ve kararlı çalışmasını sağlıyor.
Uzmanlara göre Engram teknolojisi, özellikle HBM tedarikinin zor ve pahalı olduğu bölgelerde yapay zeka gelişimine ciddi destek olabilir. Bu yaklaşım aynı zamanda DRAM pazarındaki keskin fiyat dalgalanmalarının önlenmesine katkıda bulunabilir ve geniş ölçekli modellerin ekonomik olarak daha erişilebilir şekilde eğitilmesini mümkün kılabilir.