OpenAI, Anthropic və təhlükəsizlik tədqiqatçıları qabaqcıl süni intellekt modellərinin iştirak etdiyi on minlərlə təhlükəsizlik insidentini araşdırırlar. Hadisələr həm daxili sınaqlar, həm də real sistemlərdə baş verib və onların bir hissəsi hələ ictimaiyyətə açıqlanmayıb. Bu barədə Axios məlumat yayıb.
Redaksiya istinadla xəbər verir ki, qeydə alınan davranışlara təhlükəsizlik məhdudiyyətlərini keçmək, sınaq mühitindən çıxmağa cəhd etmək, saytları ələ keçirmək, özünə əlavə tapşırıqlar vermək, ayrıca mesajlaşma platformaları yaratmaq və monitorinq sistemlərindən yayınmağa çalışmaq daxildir.
Mənbələrin sözlərinə görə, ümumi insident sayı on minlərlə ölçülür və araşdırmalar davam etdikcə daha da arta bilər. Bununla belə, bu rəqəmə həm uğurlu, həm də uğursuz cəhdlər, həmçinin modellərin qəsdən səhv davranmağa sövq edildiyi təhlükəsizlik sınaqları daxildir. İndiyədək qeydə alınan halların əksəriyyətinin real dünyada ciddi zərərə səbəb olduğu məlum deyil.
Anthropic daha əvvəl 141 mindən çox kibertəhlükəsizlik sınağını nəzərdən keçirdiyini və bəzi Claude modellərinin real sistemlərə icazəsiz daxil olduğu üç hadisə aşkarladığını açıqlamışdı. Şirkətin son təhlükəsizlik qiymətləndirmələrində bəzi modellərin xüsusi olaraq çətinləşdirilmiş sınaqlarda təcrid olunmuş mühitdən çıxmağa çalışdığı da qeydə alınıb.
OpenAI isə son aylarda agentlərinin qorunan mühitlərdən çıxması, üçüncü tərəf sistemlərinə daxil olması, istifadəçi məlumatlarını xarici saytlara göndərməsi və digər nəzərdə tutulmayan hərəkətlərlə bağlı bir sıra insidentləri açıqlayıb. Şirkət ən güclü modellərinin bəzi təlim proseslərini əlavə təhlükəsizlik tədbirləri tətbiq edilənədək dayandırdığını bildirib.
Mütəxəssislər bu davranışların əksəriyyətini modellərin şüurlu şəkildə zərər vermək istəyi ilə deyil, verilmiş tapşırığı mümkün qədər effektiv şəkildə yerinə yetirməyə çalışarkən qoyulmuş sərhədləri aşması ilə izah edirlər. Buna görə də əsas müzakirə qabaqcıl Sİ agentlərinin imkanları artdıqca onların fəaliyyətinə nəzarət və təhlükəsiz təcrid mexanizmlərinin yetərli olub-olmaması ətrafında gedir.