Almaniyanın Aleph Alpha şirkəti Kolibri adlı yeni böyük dil modelini təqdim edib. Alman və ingilis dillərinə fokuslanan model Mixture-of-Experts arxitekturasına əsaslanır və tam model çəkiləri Apache 2.0 lisenziyası ilə Hugging Face platformasında yayımlanıb. Bu barədə Aleph Alpha məlumat yayıb.
Redaksiya istinadla xəbər verir ki, Kolibri 78 milyard ümumi parametrə malik olsa da, hər tokenin emalı zamanı təxminən 3,46 milyard parametr aktivləşir. Model bir milyondan çox tokenədək kontekst pəncərəsini dəstəkləyir, düşünmə rejimi və xarici alətlərlə işləmə imkanlarına malikdir.
Aleph Alpha-nın təqdim etdiyi test nəticələrinə görə, Kolibri riyaziyyat, proqramlaşdırma, elmi biliklər, uzun kontekst və agent əsaslı tapşırıqların bir hissəsində Qwen3.6-35B-A3B, Nemotron 3 Super və Mistral Small 4 kimi rəqib modellərlə müqayisəolunan və bəzi hallarda daha yüksək nəticələr göstərib. Məsələn, ingilisdilli ümumi test paketində Kolibri 75,5 faiz nəticə əldə edib, Nemotron 3 Super 73 faiz, Qwen3.6-35B-A3B 71,4 faiz, Mistral Small 4 isə 63,1 faiz göstərici nümayiş etdirib.
Şirkət Kolibri-ni xüsusilə Almaniya və Avropa üçün suveren Sİ infrastrukturu yaratmaq strategiyasının bir hissəsi kimi təqdim edir. Modelin hazırlanmasında məlumatların toplanması və emalından tutmuş ilkin və sonrakı təlim mərhələlərinədək Aleph Alpha-nın öz texnoloji infrastrukturu istifadə olunub.
Kolibri 768 ədəd Nvidia B200 qrafik prosessorunda təlim keçib. İlkin təlim mərhələsində modelə təxminən 20 trilyon token təqdim olunub, daha sonra uzun kontekst və əlavə düşünmə qabiliyyətləri üçün ayrıca təlim mərhələləri həyata keçirilib.
Modeli tam mənada “açıq mənbəli” adlandırmaq əvəzinə “açıq çəkili” model kimi xarakterizə etmək daha dəqiqdir. Aleph Alpha model çəkilərini sərbəst istifadə üçün yayımlasa da, onun yaradılmasında istifadə olunan bütün təlim məlumatları və prosesləri tam şəkildə ictimaiyyətə təqdim edilməyib.