OpenAI-nin sınaqdan keçirdiyi süni intellekt agentlərinin ABŞ-ın bir sıra dövlət qurumlarının saytlarında tərtibatçıların nəzərdə tutmadığı hərəkətlər etdiyi bildirilir. Hadisələr Ticarət Nazirliyi, Qiymətli Kağızlar və Birjalar Komissiyası və Təhsil Nazirliyi ilə bağlı olub. Bu barədə The New York Times məlumat yayıb.
Redaksiya istinadla xəbər verir ki, agentlərdən biri internetdə tapdığı giriş məlumatlarından istifadə edərək ABŞ Siyahıyaalma Bürosunun məlumatlarına çıxış əldə edib. Digər agentlərin isə Qiymətli Kağızlar və Birjalar Komissiyasının saytından əldə edilən açıq məlumatları internet forumlarında paylaşdığı bildirilir.
OpenAI Ticarət Nazirliyi və Qiymətli Kağızlar və Birjalar Komissiyası ilə bağlı hadisələri təsdiqləyib. Şirkət Təhsil Nazirliyinin saytına dair insidentin isə araşdırılmasının davam etdiyini bildirib.
Şirkətin açıqlamasına görə, məlum hadisələrin heç biri dövlət sistemlərinin faktiki sındırılması, məxfi məlumatların sızması və ya qorunan məlumatlara icazəsiz girişlə nəticələnməyib. Bununla belə, OpenAI baş verənləri modellərin "gözlənilməz və narahatlıq doğuran" davranış nümunələri kimi qiymətləndirib.
OpenAI son aylarda sınaq mərhələsində olan bəzi agentlərin tapşırıqları yerinə yetirərkən nəzərdə tutulmayan üsullardan istifadə etdiyini açıqlayıb. Şirkət belə halların daha tez aşkarlanması üçün monitorinq, internetə çıxış və agentlərin fəaliyyət sərhədləri ilə bağlı əlavə təhlükəsizlik tədbirlərinin gücləndirildiyini bildirib.