Bu həftə Allen Institute for AI (Ai2) tərəfindən başlatılan yeni açıq mənbə təşəbbüsü, böyük dil modellərinin (LLM) çıxışlarının təlim məlumatları ilə necə uyğunlaşdığını anlamağa kömək etməyi hədəfləyir.
Redaksiya.az xarici mətbuata istinadla xəbər verir ki, OLMoTrace aləti istifadəçilərə dil modeli çıxışlarını birbaşa orijinal təlim məlumatlarına izləməyə imkan tanıyır. Bu, müəssisə AI-nın qəbulunda ən əhəmiyyətli maneələrdən birini, yəni AI sistemlərinin qərar vermə prosesində şəffaflığın olmamasını aradan qaldırır. OLMo, Açıq Dil Modeli üçün qısaltmadır və Ai2-nin açıq mənbə LLM-lər ailəsinin adıdır. Şirkətin Ai2 Playground saytında istifadəçilər, yeni buraxılmış OLMo 2 32B modeli ilə OLMoTrace-i sınaqdan keçirə bilərlər. Açıq mənbə kodu GitHub-da da mövcuddur və hər kəsin istifadəsi üçün pulsuzdur.
OLMoTrace, model çıxışları ilə onları formalaşdıran çox milyard tokenli təlim məlumatları arasındakı əlaqəni birbaşa göstərir. Ai2-nin tədqiqatçısı Jiacheng Liu, VentureBeat-ə verdiyi müsahibədə, “Bizim məqsədimiz istifadəçilərə dil modellərinin niyə bu cür cavablar verdiyini anlamağa kömək etməkdir,” dedi. OLMoTrace, modelin öz çıxışını izləyərək, istifadəçilərə modelin öyrənmə mənbəyinin birbaşa sübutunu təqdim edir. Liu, “OLMoTrace, model çıxışları ilə təlim sənədləri arasındakı uyğunluqları göstərir,” dedi.
OLMoTrace, müəssisə AI tətbiqləri üçün əhəmiyyətli üstünlüklər təqdim edir. Liu, “OLMoTrace-in müəssisə və biznes istifadəçilərinə modellərin təlimində nələrin istifadə edildiyini daha yaxşı anlamağa kömək edəcəyini düşünürük,” dedi. Bu texnologiya, model çıxışlarını orijinal mənbələrlə yoxlamaq, hallusinasiyaların mənşəyini anlamaq, modelin debugging prosesini yaxşılaşdırmaq və tənzimləmə uyğunluğunu artırmaq üçün bir sıra kritik imkanlar təqdim edir.
OLMoTrace, müəssisə AI sistemlərinin daha məsuliyyətli olmasına doğru əhəmiyyətli bir addım təmsil edir. Liu, “OLMoTrace, hər hansı bir modeldə işləyə bilər, əgər siz modelin təlim məlumatlarına sahibsinizsə,” qeyd etdi. AI idarəetmə çərçivələrinin qlobal miqyasda inkişaf etməsi ilə, OLMoTrace kimi alətlər, xüsusilə tənzimlənən sahələrdə, algoritmik şəffaflığın artan tələbləri ilə birlikdə müəssisə AI yığınlarının vacib komponentləri halına gələcək.
Sevinc Kərimova