OpenAI Astra modelinin buraxılışına hazırlıqla bağlı yeni bloq yazısı dərc edib. Şirkət bundan əvvəl modelin kibertəhlükəsizlik imkanlarının “yüksək”, yoxsa “kritik” səviyyəyə aid olduğunu müəyyənləşdirə bilmədiyi üçün relizin gecikdiyini bildirmişdi.
Redaksiya xəbər verir ki, OpenAI indi Astra-nın bu sahədə imkanlarını “kritik” səviyyədə qiymətləndirib. Buna səbəb modelin yeni proqram boşluqlarını aşkar edə və onları ardıcıl hücum zəncirlərinə birləşdirə bilməsidir.
Şirkətin təqdim etdiyi nəticələrə görə, Astra ExploitBench testində 100 faiz göstərici əldə edib. Daha sonra modelin əvvəlcədən görə bilməyəcəyi, iyundan sonra ortaya çıxmış ən yeni boşluqlar ayrıca seçilərək Sol-5.6 ilə müqayisə olunub. Astra həm tapşırıqların həll faizinə, həm də sərf olunan tokenlərin effektivliyinə görə daha yüksək nəticə göstərib. Sınaqlar zamanı bir neçə yeni boşluğun da aşkarlandığı və onların müvafiq proqram təminatı istehsalçılarına bildirildiyi qeyd olunur.
OpenAI həmçinin Hugging Face insidentinə bənzər davranışların təkrarlanması riskini yoxlayıb. Modellərə mürəkkəb tapşırıqlar verilib, əlavə “tələlər” qurulub və onların əsas işi həll etmək əvəzinə ətraf təhlükəsizlik infrastrukturunu komprometasiya etməyə çalışıb-çalışmadığı müşahidə olunub.
Şirkətin nəticələrinə görə, Astra belə davranışlara demək olar ki, yol verməyib, Sol isə bəzi sınaqlarda qaydaları pozmağa və sistemi “aldatmağa” meyl göstərib. OpenAI-nin açıqlaması Astra-nın relizə texniki baxımdan yaxınlaşdığını göstərsə də, konkret təqdimat tarixi hələ elan edilməyib.