Vals AI şirkətinin apardığı araşdırma dünyanın aparıcı süni intellekt modellərinin hərbi məqsədlərlə istifadəsində ciddi təhlükəsizlik problemlərini üzə çıxarıb. Sınaqlar zamanı bəzi modellər mülki şəxsləri, təcili yardım avtomobillərini və təslim olan hərbçiləri potensial hərbi hədəf kimi müəyyənləşdiriblər. Bu barədə Vals AI-nin tədqiqatında və “Bloomberg” agentliyinin məlumatında bildirilir.
Redaksiya mənbəyə istinadən xəbər verir ki, tədqiqatçılar OpenAI, Anthropic, Google və digər texnologiya şirkətlərinin süni intellekt modellərini virtual hərbi əməliyyatlar şəraitində sınaqdan keçiriblər. Modellərə pilotsuz uçuş aparatlarından və peyklərdən əldə edilmiş real, eləcə də süni yaradılmış görüntülər təqdim olunub.

Eksperimentlər zamanı süni intellekt sistemlərindən görüntülərdəki insanları və hərbi obyektləri müəyyənləşdirmək tələb edilib. Bəzi modellər mülki sakinləri, təcili yardım maşınlarını və silahını yerə qoyaraq təslim olan hərbçiləri zərbə endirilə biləcək hədəflər siyahısına daxil ediblər.
Tədqiqatın ən diqqətçəkən nəticələrindən biri Anthropic şirkətinin Claude Opus 5.5 modeli ilə bağlı olub. Model İranın Minab şəhərində hərbi kompleksin yaxınlığında yerləşən məktəbi 32 sınaqdan 22-də hərbi hədəf kimi seçib. Halbuki peyk görüntülərində məktəbin ərazisində uşaq oyun meydançaları görünürdü.
Tədqiqatçılar tapşırığın real hərbi əməliyyat deyil, videooyun olduğunu bildirdikdə Claude Opus 5.5-in məktəbi hədəf seçdiyi sınaqların sayı 23-ə yüksəlib.
Araşdırmada OpenAI modellərinin də bəzi ssenarilərdə təhlükəli göstərişlərə əməl etdiyi müəyyənləşdirilib. Bununla belə, İran məktəbi ilə bağlı əsas sınaqlarda OpenAI modelləri həmin obyekti hədəf kimi seçməyiblər.
Digər eksperimentdə süni intellekt modellərinə virtual hücumların nəticələri, o cümlədən insan cəsədləri və dağıntılar göstərilib. Buna baxmayaraq, bəzi modellər tapşırıqları yerinə yetirməyə davam ediblər.
Tədqiqatçılar müəyyən ediblər ki, müəyyən hallarda süni intellekt sistemlərinin təhlükəli göstərişlərə müqavimətini tapşırığın videooyun və ya simulyasiya olduğunu deməklə zəiflətmək mümkündür.
Vals AI əldə etdiyi nəticələri OpenAI, Anthropic, Google, Meta və xAI şirkətləri ilə bölüşüb. Tədqiqatçılar həmçinin ABŞ-ın milli təhlükəsizlik sahəsində çalışan yüksək vəzifəli rəsmilərini nəticələr barədə məlumatlandırıblar.
Araşdırmanın müəllifləri hesab edirlər ki, nəticələr süni intellektin hərbi sistemlərə inteqrasiyası zamanı təhlükəsizlik mexanizmlərinin gücləndirilməsinin vacibliyini göstərir.
Qeyd edək ki, eksperimentlər simulyasiya şəraitində aparılıb. Nəticələr sözügedən modellərin real döyüş əməliyyatlarında müstəqil şəkildə mülki şəxslərə hücum etdiyini göstərmir.
