OpenAI-ın keçmiş texnologiya direktoru Mira Muratinin rəhbərlik etdiyi Thinking Machines Lab şirkəti internet bağlantısı olmadan noutbukda işləyə bilən Inkling 2 Mini adlı yeni süni intellekt modelini təqdim edib. Şirkətin tədqiqatçıları təyyarə səfəri zamanı MacBook Pro kompüterində bu modeldən istifadə edərək bir neçə dəqiqə ərzində oynanıla bilən uçuş simulyatoru hazırladıqlarını açıqlayıblar. Bu barədə Thinking Machines Lab rəsmi bloqunda məlumat yayıb.
Redaksiya mənbəyə istinadən xəbər verir ki, Inkling 2 Mini açıq çəkilərə malik süni intellekt modelidir. Modelin işləməsi üçün təxminən 20 GB yaddaş tələb olunur. Bu səbəbdən onu 32 GB və daha çox operativ yaddaşa malik Mac kompüterlərində internet bağlantısı olmadan istifadə etmək mümkündür.
Şirkətin nümayiş etdirdiyi təcrübədə tədqiqatçılar uçuş zamanı MacBook Pro kompüterini internetə qoşmadan süni intellektə uçuş simulyatoru hazırlamaq tapşırığı veriblər. Model qısa müddətdə işlək oyun kodu yaradıb.
Inkling 2 Mini-nin əsas texnoloji xüsusiyyəti “looping” adlanan təkrarlanan hesablama mexanizmidir. Bu arxitektura modelə hər yeni token hazırlanarkən daxili neyron şəbəkəsinin orta qatlarından üç dəfə keçməyə imkan verir.
Beləliklə, süni intellekt cavab hazırlamaq üçün əlavə daxili hesablama aparır. Məqsəd daha az mətn yaradaraq mürəkkəb tapşırıqların həllində daha yüksək nəticə əldə etməkdir.
Inkling 2 Mini ümumilikdə 26,4 milyard parametrə malikdir. Modelin hər token üzrə əsas hesablamalarında 3,4 milyard parametr aktivləşir. Təkrarlanan qatların fəaliyyəti də nəzərə alındıqda hesablama yükü təxminən 5,4 milyard parametr aktivləşməsinə bərabər olur.
Thinking Machines Lab-ın açıqladığı sınaq nəticələrinə əsasən, Inkling 2 Mini proqramlaşdırma üzrə DeepSWE v1.1 testində 48,2 faiz nəticə göstərib. Şirkət bunun 100 milyarddan az parametrə malik açıq çəkili modellər arasında ən yüksək göstəricilərdən biri olduğunu bildirir.
Bununla belə, şirkət vurğulayır ki, təkrarlanan hesablama mexanizmi modelin faktoloji biliklərini avtomatik artırmır. Onun məlumatları yadda saxlamaq imkanları oxşar ölçülü modellərlə müqayisəolunandır. Bu məhdudiyyəti aradan qaldırmaq üçün axtarış və xarici alətlərdən istifadə nəzərdə tutulur.
Inkling 2 Mini-nin model çəkiləri Hugging Face platformasında Apache 2.0 lisenziyası ilə pulsuz yayımlanıb. Modeli Ollama vasitəsilə lokal kompüterdə işə salmaq da mümkündür.
Yeni model internetə çıxışın məhdud olduğu şəraitdə proqramlaşdırma tapşırıqlarını yerinə yetirmək və məlumatları bulud xidmətlərinə göndərmədən süni intellektdən istifadə etmək baxımından alternativ təqdim edir. Bununla belə, onun real tətbiqlərdə sürəti və imkanları istifadə olunan kompüterin texniki göstəricilərindən asılıdır.
