OpenAI və Anthropic rəhbərlərinin yaxın 6-12 ay ərzində süni intellektlə bağlı böyük miqyaslı təhlükəsizlik insidentinin baş verə biləcəyi ehtimalına qarşı daxili hazırlıq apardığı bildirilir. Söhbət əsasən iri kiberhücum, maliyyə sistemlərinin pozulması, internet xidmətlərinə müdaxilə və kritik infrastruktura zərər vurulması kimi ssenarilərdən gedir. Bu barədə Axios şirkətlərdəki mənbələrə istinadla məlumat yayıb.
Redaksiya istinadla xəbər verir ki, şirkətlər ən pis ssenariləri modelləşdirir, təhlükəsizlik sistemlərini sınaqdan keçirir və belə bir böhran baş verərsə hökumət və Konqreslə necə işləyəcəklərini əvvəlcədən planlaşdırırlar. Axios-un mənbələrinə görə, bəzi rəhbərlər böyük Sİ insidentini uzaq nəzəri risk deyil, yaxın illərdə baş verməsi mümkün hadisə kimi qiymətləndirirlər.
Anthropic rəhbəri Dario Amodei sentyabrda xəbərdarlıq etmişdi ki, nəzarətdən çıxan avtonom Sİ agentləri mövcud inkişaf tempi davam edərsə bir neçə ay ərzində internet infrastrukturu üçün ciddi təhlükə yarada bilər. OpenAI rəhbəri Sem Altman da qabaqcıl modellərin inkişaf tempinin təhlükəsizlik səbəbilə yavaşladılmasının zəruri ola biləcəyini bildirib.
Son aylarda hər iki şirkət öz modellərinin davranışı ilə bağlı minlərlə təhlükəsizlik insidentini araşdırıb. Bunlara təhlükəsizlik məhdudiyyətlərinin keçilməsi, sınaq mühitindən çıxma cəhdləri, öz-özünə yeni tapşırıqlar yaratma və xarici sistemlərə icazəsiz müdaxilə kimi hallar daxildir. Hadisələrin böyük hissəsi real zərərə səbəb olmayıb, lakin onlar daha güclü agent sistemlərinə nəzarətin çətinləşə biləcəyini göstərir.
Bununla belə, sosial mediada yayılan “maşınların üsyanı altı aydan sonra başlayacaq” və “şirkətlər qaçılmaz dünyanın sonuna hazırlaşır” ifadələri Axios-un məlumatını şişirdir. Mənbə konkret tarixdə Sİ-nin insanlığa qarşı üsyan edəcəyini bildirmir. 6-12 aylıq müddət bəzi daxili mənbələrin böyük təhlükəsizlik insidentinin baş verə biləcəyi barədə risk qiymətləndirməsidir.
Eyni şəkildə, texnologiya şirkətlərindəki son istefaların hamısını “Sİ bəşəriyyəti məhv edəcək” fikri ilə əlaqələndirmək düzgün deyil. Bəzi keçmiş OpenAI və Anthropic əməkdaşları təhlükəsizlik siyasətini açıq şəkildə tənqid etsələr də, ayrılmaların səbəbləri müxtəlifdir.
Sİ inkişafının dayandırılmasının “dünya iqtisadiyyatını çökdürəcəyi” barədə də şirkətlərin təsdiqlədiyi vahid nəticə yoxdur. Əsas mübahisə daha güclü modellərin sürətli inkişafı ilə təhlükəsizlik tədbirləri arasında balansın necə qurulması üzərində gedir.