OpenAI daxili araşdırmadan sonra təhlükəsizlik və uyğunlaşdırma istiqamətində çalışan üç tədqiqatçı ilə əməkdaşlığa son verib. Şirkət onların həssas korporativ məlumatları müəyyən edilmiş prosedurlardan kənar şəkildə xarici süni intellekt təhlükəsizliyi təşkilatı ilə paylaşdıqlarını bildirib. Söhbət Jasmin Vanq, Tomek Korbak və Mikita Balesnidən gedir. Bu barədə The Wall Street Journal məlumat yayıb.
Redaksiya istinadla xəbər verir ki, OpenAI açıqlamasında üç şəxsin həssas məlumatlarla davranış qaydalarını pozduğunu və bunun şirkət daxilində etimadın pozulmasına səbəb olduğunu bildirib. Şirkət xarici təşkilatın adını açıqlamasa da, Korbak daha əvvəl müstəqil Sİ təhlükəsizliyi qurumları METR və Redwood Research ilə OpenAI arasında texniki əlaqələndirici kimi fəaliyyət göstərib.
İşdən çıxarılan əməkdaşların hər üçü son dövrdə süni intellekt təhlükəsizliyi ilə bağlı açıq müzakirələrdə fəal iştirak edirdi. Balesni yüksək səviyyəli Sİ sistemlərinin bəşəriyyət üçün ciddi risk yarada biləcəyini açıq şəkildə bildirmiş, Korbak isə üçüncü tərəf təhlükəsizlik auditorlarının OpenAI və digər şirkətlərə nəzarət etməsinin vacibliyini müdafiə etmişdi. Vanq da qabaqcıl Sİ sistemlərinin sürətli inkişafı ilə bağlı təhlükəsizlik narahatlıqlarını dilə gətirmişdi.
Hadisə OpenAI-nin agent sistemlərinin təhlükəsizliyi ilə bağlı təzyiqlərin artdığı dövrə təsadüf edir. Şirkət son aylarda Sİ agentlərinin sınaq mühitlərində gözlənilməz davranışları ilə bağlı bir neçə insidenti araşdırıb və üçüncü tərəf ekspertlərini bəzi halların qiymətləndirilməsinə cəlb edib.
Sosial şəbəkələrdə OpenAI-nin Safety Systems istiqamətində çalışan və şirkətin Preparedness Framework sənədlərinin hazırlanmasında iştirak etmiş Devid Robinsonun da ayrıldığı barədə məlumatlar yayılıb. Lakin hazırda onun şirkətdən ayrılmasının WSJ-də açıqlanan daxili araşdırma və üç əməkdaşın işdən çıxarılması ilə əlaqəli olduğuna dair etibarlı təsdiq yoxdur.