ABŞ-da süni intellektin təhlükəsizlik aspektlərini qiymətləndirmək məqsədilə aparılmış unikal araşdırmanın nəticələri ictimaiyyətə açıqlanmayıb.
Redaksiya xəbər verir ki, ABŞ-ın Milli Standartlar və Texnologiya İnstitutu (NIST) tərəfindən keçən ilin oktyabrında təşkil olunan süni intellekt sistemlərinin “red teaming” – yəni təzyiq testləri – üzrə ilk genişmiqyaslı sınağının nəticələri, Tramp administrasiyasının ikinci dövrü başlamazdan əvvəl başa çatmasına baxmayaraq, dərc edilməyib.
Arlinqtonda keçirilən və 30-dan çox tədqiqatçının qatıldığı bu tədbirdə Meta-nın LLaMA modeli, Synthesia-nın süni avatar platforması, Robust Intelligence-in müdafiə sistemi kimi qabaqcıl AI sistemləri məlumat sızdırmaq, yalan informasiya yaymaq və kiberhücumlar yaratmaq kimi hallarda test edilib. Nəticədə 139 yeni zəiflik üsulu aşkar edilib.
Tədbir NIST-in AI 600-1 Risk İdarəetmə Çərçivəsi ilə uyğun şəkildə həyata keçirilib. Lakin iştirakçılar bildiriblər ki, bu çərçivənin bəzi kateqoriyaları qeyri-müəyyəndir və praktikada tətbiqi çətindir.
Bəs niyə dərc edilmədi?
Mənbələrin “Wired” nəşrinə verdiyi məlumata görə:
- Hesabat Tramp administrasiyası ilə ziddiyyət yaratmamaq üçün dərc edilməyib.
- NIST-in bir neçə AI sənədi DEI (Müxtəliflik, Bərabərlik və İnteqrasiya), dezinformasiya və iqlim dəyişikliyi kimi mövzulara toxunduğuna görə rafa qaldırılıb.
- Tramp administrasiyası Biden-ın süni intellekt üzrə sərəncamlarını ləğv etməyə və DEI ilə bağlı istinadları AI siyasətlərindən çıxarmağa hazırlaşırdı.
- Maraqlıdır ki, Trampın AI Fəaliyyət Planında məhz bu cür red-teaming təcrübələrinin keçirilməsi tövsiyə olunurdu.
Real təhlükələr
Araşdırma zamanı:
- LLaMA modelinə terrorizmə dair məlumat verməyə vadar edən çoxdilli suallar formalaşdırılıb (rus, qucarati, marathi və teluqu dillərində).
- Məlumat sızması və istifadəçi məlumatlarının qorunması sahəsində ciddi boşluqlar aşkarlanıb.
- AI sistemlərinin emosional bağlılıq yaratması və manipulyasiyaya açıq olması riskləri təsbit edilib.
Alimlər nə deyirlər?
Carnegie Mellon Universitetindən doktorant Eliz Çien Canq bildirib:
“Əgər bu hesabat yayımlansaydı, NIST çərçivəsinin red teaming kontekstində necə işlədiyi və harada çatışmadığı aydın görünərdi.”
Başqa iştirakçılar da hesab edir ki, elmi ictimaiyyət üçün faydalı nəticələr əldə olunmuşdu, lakin siyasi mülahizələr önə keçib.
Hesabatın dərc olunmaması süni intellektin təhlükəsizliyi sahəsində elmi əsaslı tənzimləmə ilə siyasi maraqların toqquşduğunu göstərir. Mütəxəssislər hesab edir ki, bu cür mühüm sənədlərin gizlədilməsi qlobal AI təhlükəsizliyi müzakirələrində ABŞ-ın liderliyinə xələl gətirə bilər.
Fərid Əlizadə