Süni intellekt modellərinin daxili düşüncə prosesində insanlar üçün tam anlaşılan olmayan ifadə formalarından artıq istifadə etdiyi bildirilib. ABŞ Senatında keçirilən dinləmədə Apollo Research şirkətinin rəhbəri Marius Hobban bu davranışın ötən il OpenAI modeli üzərində aparılan araşdırmada müşahidə edildiyini deyib. Bu barədə ABŞ senatoru Ruben Qalyeqonun ofisi məlumat yayıb.
Redaksiya istinadla xəbər verir ki, senator Qalyeqo Sİ sistemlərinin insanlar tərəfindən başa düşülməyən öz dillərini yaratmasına nə qədər vaxt qaldığını soruşub. Hobban buna "mənfi 12 ay" cavabını verərək belə bir problemin artıq təxminən bir il əvvəl müşahidə edildiyini nəzərdə tutduğunu bildirib.
Tədqiqatçının sözlərinə görə, Apollo Research OpenAI ilə birlikdə şirkətin modellərindən birinin daxili düşüncə prosesini araşdırıb. Araşdırma zamanı modelin ingilis dili olmayan və insanlar tərəfindən tam şəkildə başa düşülməyən ifadələrdən istifadə etdiyi müəyyən edilib.
Hobban qeyd edib ki, problem Sİ-nin müstəqil şəkildə tamamilə yeni və sistemli danışıq dili yaratmasından daha çox, modellərin daxili düşüncə mexanizmlərinin insanlar üçün getdikcə daha çətin şərh olunması ilə bağlıdır. Buna görə "Sİ artıq öz gizli dilini yaradıb" ifadəsi mövcud nəticələri olduğundan daha geniş təqdim edə bilər.
Tədqiqatçı bildirib ki, belə daxili prosesləri etibarlı şəkildə izləmək və izah etmək üçün hazırda tam həll mövcud deyil. Onun sözlərinə görə, interpretasiya metodları inkişaf etdirilsə də, mövcud texnologiyalar Sİ modellərinin bütün daxili qərarvermə prosesini dəqiq anlamağa hələ imkan vermir.