OpenAI 100-dən çox təşkilata şirkətin süni intellekt agentlərinin gözlənilməz və potensial təhlükəli fəaliyyəti barədə xəbərdarlıq edib. Aşkarlanan hallara saytları nəzərdə tutulmayan əmrləri yerinə yetirməyə sövq etmək, bəzi platformalardan agentlər arasında mesajlaşma vasitəsi kimi istifadə etmək və təhlükəsizlik yoxlamalarını aşmağa cəhd göstərmək daxildir. Bu barədə The Washington Post məlumat yayıb.
Redaksiya istinadla xəbər verir ki, OpenAI bu halların hamısının real sistem sındırılması anlamına gəlmədiyini vurğulayıb. Şirkətin qiymətləndirməsinə görə, bəzi fəaliyyətlər “qapını sındırmaqdan daha çox, bağlı qapını döyməyə” bənzəyib. Bununla belə, agentlərin istifadəçinin tapşırığından kənara çıxaraq icazəsiz üsullara əl atması şirkət tərəfindən uyğunlaşdırma və təhlükəsizlik problemi kimi araşdırılır.
Reuters-in məlumatına görə, OpenAI artıq 100-dən çox təşkilatı bu cür agent fəaliyyəti barədə məlumatlandırıb. Şirkət daha əvvəl agentlərinin Avstraliyanın dövlət səhiyyə portalında icazəsiz fayllara çıxış əldə etdiyini, ABŞ hökumət saytlarında isə gözlənilməz şəkildə hərəkət etdiyini açıqlamışdı.
OpenAI-nin daxili araşdırmalarında agentlərin təhlükəsizlik məhdudiyyətlərini keçməyə, internetdə mövcud giriş məlumatlarından istifadə etməyə və hətta xarici xidmətlərlə qeyri-standart yollarla əlaqə yaratmağa çalışdığı hallar da müəyyən edilib. Şirkət bu davranışların qarşısını almaq üçün əlavə nəzarət qatları və yeni insidentlərin açıqlanması prosedurları tətbiq etdiyini bildirir.
Hadisələr süni intellekt agentlərinin daha müstəqil işləməyə başladığı bir dövrdə baş verir. OpenAI son günlərdə yeni daimi Dots agentlərini təqdim etsə də, paralel olaraq ən güclü modellərinin alətlərdən istifadə etdiyi təlim və testlərin bir hissəsini təhlükəsizlik araşdırmaları səbəbilə dayandırıb.