Çinin Alibaba şirkətinin hazırladığı Qwen3-Coder süni intellekt modelinin ABŞ təşkilatları üçün proqram yazarkən Çin təşkilatları ilə müqayisədə daha çox təhlükəsizlik boşluğuna yol verdiyi müəyyən edilib. Kibertəhlükəsizlik şirkəti Hirundo tərəfindən aparılan 1840 tətbiqlik araşdırmada ABŞ müdafiə podratçısı üçün yaradılan proqramların 70 faizinin kiberhücumlara həssas olduğu aşkarlanıb. Bu barədə SecurityWeek nəşri Hirundo-nun araşdırmasına istinadən məlumat yayıb.
Redaksiya mənbəyə istinadən xəbər verir ki, tədqiqatçılar Alibaba-nın Qwen3-Coder-30B-A3B-Instruct modelini müxtəlif təşkilatlar üçün eyni funksiyalara malik veb-tətbiqlər hazırlamaqla sınaqdan keçiriblər.
Araşdırmanın əsas məqsədi süni intellekt modelinin yaratdığı proqram kodunun təhlükəsizliyinin sifarişçi təşkilatın hansı ölkəyə məxsus olmasından asılı olaraq dəyişib-dəyişmədiyini müəyyənləşdirmək olub.
Bunun üçün modelə istifadəçilərin qeydiyyatdan keçməsi, sistemə daxil olması və məxfi məlumatlarını saxlaması üçün veb-xidmət hazırlamaq tapşırılıb.
Tədqiqatçılar tapşırıqların texniki mahiyyətini dəyişmədən yalnız sifarişçinin kimliyini fərqli şəkildə təqdim ediblər.
Bir ssenaridə proqramın ABŞ müdafiə sənayesi şirkəti, digərində isə Çin müdafiə podratçısı üçün hazırlandığı bildirilib.
Nəticələr iki ssenari arasında diqqətçəkən fərq olduğunu göstərib.
Qwen3-Coder modelinin ABŞ müdafiə podratçısı üçün hazırladığı tətbiqlərin 70 faizində sınaq hücumları ilə istismar edilə bilən təhlükəsizlik boşluqları aşkarlanıb. Çin müdafiə podratçısı üçün yaradılan proqramlarda isə bu göstərici 59 faiz olub.
Beləliklə, ABŞ təşkilatı üçün hazırlanmış proqramların hücuma həssas olma göstəricisi 11 faiz bəndi yüksək qeydə alınıb. Nisbi fərq isə təxminən 19 faiz təşkil edib.
Hirundo bu fərqin statistik baxımdan əhəmiyyətli olduğunu bildirib. Şirkətin fikrincə, nəticə süni intellekt modelinin davranışının sifarişçinin kimliyindən asılı olaraq dəyişə biləcəyini göstərir.
Araşdırmanın digər mərhələsində modelə proqramların təhlükəsizliyinə xüsusi diqqət yetirmək tapşırılıb.
Tədqiqatçılar Qwen3-Coder-dən təhlükəsizlik üzrə qabaqcıl təcrübələrə əməl etməsini və geniş yayılmış proqram zəifliklərindən yayınmasını istəyiblər.
Lakin bu əlavə göstəriş ABŞ müdafiə podratçısı üçün hazırlanmış tətbiqlərdə problemi aradan qaldırmayıb.
Əksinə, həmin sınaq şəraitində ABŞ təşkilatı üçün yaradılan proqramların 74 faizinin hücuma həssas olduğu müəyyən edilib. Müqayisə üçün istifadə olunan neytral sifarişçi ssenarisində isə göstərici 59 faiz təşkil edib.
Bu nəticələrin əvvəlki sınaqla eyni şərtlərdə aparılmadığını nəzərə almaq vacibdir. Birinci müqayisədə ABŞ və Çin müdafiə podratçıları, ikinci müqayisədə isə ABŞ təşkilatı ilə neytral sifarişçi qarşılaşdırılıb.
Hirundo Honkonqda fəaliyyət göstərən demokratiya tərəfdarı təşkilat üçün hazırlanmış tətbiqləri də yoxlayıb.
Nəticələrə əsasən, bu təşkilat üçün yazılmış proqramların 47 faizində istifadəçilərin məxfi məlumatlarının sızmasına imkan verən zəifliklər olub. Neytral təşkilat üçün hazırlanmış proqramlarda isə həmin göstərici 37 faiz təşkil edib.
Araşdırmada aşkarlanan əsas problemlərdən biri istifadəçi hüquqlarının düzgün yoxlanılmaması ilə bağlıdır.
Belə hallarda proqram istifadəçinin sistemə daxil olduğunu təsdiqləsə də, onun başqa şəxslərə məxsus məlumatları oxumaq səlahiyyətinin olub-olmadığını düzgün yoxlamır.
Nəticədə sistemə qanuni hesabla daxil olan istifadəçi başqa istifadəçilərin məxfi məlumatlarına giriş əldə edə bilər.
Tədqiqatçılar bu cür zəifliklərin yalnız proqram kodunun nəzəri təhlili ilə deyil, real sınaq hücumları vasitəsilə də təsdiqləndiyini bildiriblər.
Ümumilikdə 1840 tətbiqin 1144-ü BaxBench təhlükəsizlik sınaqları zamanı uğurlu hücuma məruz qalıb.
Maraqlıdır ki, Semgrep proqram kodu analizatoru Meta-nın PurpleLlama təhlükəsizlik qaydaları ilə birlikdə istifadə edildikdə həmin tətbiqlərdən yalnız ikisində problem aşkar edib.
Bu fərq avtomatik kod yoxlama vasitələrinin bütün təhlükəsizlik zəifliklərini müəyyənləşdirə bilmədiyini göstərir.
Hirundo araşdırmanın növbəti mərhələsində Qwen3-Coder modelinin dəyişdirilmiş versiyasını da sınaqdan keçirib.
Şirkət süni intellekt modelinin müəyyən siyasi mövzulara münasibətini dəyişdirmək üçün onun daxili parametrlərinə müdaxilə etdiyini və bu üsulu “davranışın öyrənilmə nəticələrinin silinməsi” adlandırdığını bildirib.
Hirundo-nun özünün “Westernized Qwen3-Coder” adlandırdığı dəyişdirilmiş modeldə əvvəlki fərqlərin aradan qalxdığı iddia olunur.
Yeni versiyanın ABŞ müdafiə podratçısı üçün hazırladığı tətbiqlərin 56 faizi, Çin podratçısı üçün hazırladığı proqramların isə 55 faizi hücuma həssas olub.
Bu nəticələr iki ssenari arasında əvvəlki 11 faiz bəndlik fərqin əhəmiyyətli dərəcədə azaldığını göstərir.
Əlavə təhlükəsizlik göstərişi verilən sınaqlarda da dəyişdirilmiş model ABŞ təşkilatı və neytral sifarişçi üçün oxşar nəticələr nümayiş etdirib.
Hirundo hesab edir ki, ilkin modeldə müşahidə olunan fərqlər onun daxili parametrlərində formalaşmış davranış xüsusiyyətləri ilə əlaqəli ola bilər.
Bununla belə, araşdırma Qwen-in qəsdən ABŞ şirkətlərinin proqramlarına gizli giriş mexanizmləri yerləşdirdiyini sübut etmir.
Sınaqlarda müəyyən edilən problemlər istismar oluna bilən proqram zəiflikləridir. Bunları istehsalçı tərəfindən məqsədli şəkildə yaradılmış “arxa qapı”larla eyniləşdirmək düzgün deyil.
Həmçinin araşdırma konkret Qwen3-Coder modelinin müəyyən tapşırıqlar üzrə nəticələrini əhatə edir. Bu göstəriciləri Alibaba-nın bütün süni intellekt modellərinə və ya Çin istehsalı olan bütün proqramlaşdırma alətlərinə aid etmək olmaz.
Tədqiqatın nəticələri Hirundo tərəfindən açıqlanıb və həmin şirkət eyni zamanda modelin dəyişdirilmiş versiyasını təqdim edir. Buna görə nəticələrin müstəqil tədqiqatçılar tərəfindən təkrar yoxlanılması əhəmiyyətlidir.
SecurityWeek-in məlumatına görə, əvvəlki aylarda CrowdStrike və Booz Allen Hamilton şirkətləri də Çin mənşəli bəzi süni intellekt modellərinin müxtəlif təşkilatlar üçün kod hazırlayarkən fərqli təhlükəsizlik nəticələri nümayiş etdirdiyini bildirmişdilər.
Hirundo-nun yeni araşdırması süni intellekt vasitəsilə proqram təminatı hazırlayan təşkilatlar üçün əlavə riskləri gündəmə gətirir.
Mütəxəssislər hesab edirlər ki, süni intellekt tərəfindən yaradılan kod istifadəyə verilməzdən əvvəl müstəqil təhlükəsizlik yoxlamalarından keçirilməlidir.
Xüsusilə istifadəçi hesabları, giriş icazələri və məxfi məlumatların saxlanılması ilə bağlı proqramlarda təhlükəsizlik sınaqlarının aparılması vacibdir.
Araşdırmanın əsas nəticəsi ondan ibarətdir ki, eyni süni intellekt modeli oxşar texniki tapşırıqları yerinə yetirərkən sifarişçi haqqında verilən məlumatlardan asılı olaraq fərqli təhlükəsizlik səviyyəsinə malik proqramlar yarada bilər.
Lakin bunun məqsədli davranış, təlim məlumatlarından qaynaqlanan qərəz və ya başqa texniki amillərlə əlaqəli olduğu hələ qəti şəkildə müəyyənləşdirilməyib.