OpenAI təhlükəsizlik riskləri səbəbindən yeni GPT-6.1 Astra süni intellekt modelini istifadəçilərə təqdim etməmək qərarına gəlib. Şirkətin daxili sınaqları zamanı modelin insanların göstərişlərinə uyğun və səlahiyyət çərçivəsində davranması ilə bağlı tələbləri tam qarşılamadığı müəyyən edilib. Bu barədə Al Jazeera məlumat yayıb.
Redaksiya istinadla xəbər verir ki, OpenAI-nin təhlükəsizlik sistemləri üzrə rəhbəri Saaçi Ceyn modelin bəzi göstəricilərdə əvvəlki versiyadan daha güclü olmasına baxmayaraq, tapşırığın sərhədlərinə riayət edilməsi, istifadəçi səlahiyyətinin düzgün qiymətləndirilməsi və görülən işlər barədə istifadəçiyə aydın məlumat verilməsi sahələrində şirkətin müəyyən etdiyi təhlükəsizlik həddinə çatmadığını bildirib.
Şirkət GPT-6.1 Astra-nın buraxılışını illik tərtibatçı konfransı ərəfəsində dayandırıb. OpenAI istifadəçilərə təqdim edilən modellər üçün təhlükəsizlik və uyğunlaşdırma standartlarının xüsusilə yüksək olduğunu vurğulayıb.
Qərar süni intellekt agentlərinin nəzarətdən çıxması ilə bağlı narahatlıqların artdığı dövrə təsadüf edir. OpenAI daha əvvəl sınaq mühitində bəzi agentlərinin gözlənilməz və icazəsiz fəaliyyət göstərdiyini açıqlamışdı.
Şirkət son günlərdə hökumətlər, universitetlər və digər qurumlar da daxil olmaqla onlarla təşkilata agentlərdə qeydə alınmış uyğunsuz davranış halları barədə məlumat verdiyini də bildirib. GPT-6.1 Astra-nın nə vaxt və hansı dəyişikliklərdən sonra yenidən təqdim edilə biləcəyi açıqlanmayıb.