Süni intellekt yaddaş böhranına qarşı yeni həll təqdim edildi

Süni intellekt yaddaş böhranına qarşı yeni həll təqdim edildi

Səidə Əsədli · Texnologiya ·

DeepSeek və Pekin Universitetinin birgə tədqiqatı süni intellekt sistemlərində yaddaş asılılığını əsaslı şəkildə azaltmağı hədəfləyən Engram texnologiyasının istifadəyə verilməsi ilə diqqət çəkib. Yeni üsul böyük dil modellərinin təlimində ən bahalı resurslardan biri olan yüksək ötürücülü yaddaşa ehtiyacı minimuma endirməklə sənayedə mövcud olan ciddi resurs çatışmazlığını aradan qaldırmağı mümkün edir.

Redaksiya məlumat verir ki, Engram texnologiyası yaddaş saxlanmasını hesablama proseslərindən ayıraraq modellərin GPU yaddaşını lazımsız məlumat yükündən qoruyur və yalnız tələb olunan informasiyanın axtarılıb tapılması mexanizmini tətbiq edir. Mütəxəssislər uzun müddətdir ki, HBM ehtiyacının kəskin şəkildə artmasının DRAM qiymətlərinin cəmi 10 həftədə 5 dəfə bahalaşmasına səbəb olduğunu bildirirdilər.

Yeni metod bir neçə texniki üstünlük təqdim edir. Engram statik məlumatlara çıxışı real vaxtda yaranan hesablamadan asılılıqdan qurtarır və bu səbəbdən modelin hesablama gücü sadə əməliyyatlara deyil, daha mürəkkəb məntiqi proseslərə yönəldilə bilir. 27 milyard parametrli model üzərində aparılan testlər bu yanaşmanın sənaye standartlarına uyğun olaraq nəzərəçarpacaq performans artımı təmin etdiyini göstərib.

Tədqiqatçılar bildirirlər ki, ümumi parametr büdcəsinin təxminən 20–25 faizinin Engram moduluna ayrılması ənənəvi modellərlə müqayisədə daha yüksək nəticə verir. Bu texnologiya Phison kimi daha sərfəli SSD həlləri və yeni CXL standartları ilə paralel işləyərək ümumi yaddaş tutumunu artırmağa imkan yaradır ki, bu da sistemlərin bahalı HBM resurslarını məşğul etmədən sürətli və sabit fəaliyyət göstərməsinə şərait yaradır.

Mütəxəssislərin fikrincə, Engram texnologiyası xüsusilə HBM təminatının çətin və baha olduğu regionlarda süni intellekt inkişafına ciddi dəstək ola bilər. Bu yanaşma həmçinin DRAM bazarındakı kəskin qiymət dalğalanmalarının qarşısının alınmasına töhfə verə bilər və genişmiqyaslı modellərin iqtisadi cəhətdən daha əlçatan şəkildə təlimini mümkün edər.