OpenAI şirkəti ChatGPT platformasında zorakılığın qarşısını almaq və yeniyetmələrin təhlükəsizliyini gücləndirmək məqsədilə yeni məhdudiyyətlər tətbiq edəcəyini açıqlayıb. Yeni qaydalara əsasən, süni intellekt sistemi zorakılıq və başqa insanlara ciddi xəsarət yetirmək fikri ətrafında davamlı şəkildə qurulan söhbətləri avtomatik dayandıra biləcək. Bu barədə OpenAI-nin rəsmi açıqlamasında məlumat verilib.
Redaksiya mənbələrə istinadən xəbər verir ki, təhlükəli davranış əlamətləri aşkarlanan söhbətlərin dayandırılması istifadəçinin həmin mövzuda davamlı müzakirələr aparmasının qarşısını almağa yönəlib. Əgər sistem eyni səbəbdən bir neçə söhbəti dayandırarsa, şirkət həmin şəxsin hesabını müvəqqəti məhdudlaşdıra bilər.
OpenAI bildirir ki, məqsəd real həyatda zorakılıq risklərini azaltmaq və təhlükəli davranış əlamətlərinə daha erkən mərhələdə reaksiya verməkdir.
Yeni təhlükəsizlik qaydaları çərçivəsində 18 yaşdan kiçik istifadəçilər üçün daha sərt məhdudiyyətlər nəzərdə tutulur.
Belə ki, ChatGPT yeniyetmələrə silahlar və təhlükəsizlik sistemləri haqqında sui-istifadəyə yararlı praktiki məlumatların verilməsini məhdudlaşdıracaq. Bu qayda istifadəçinin sualı zahirən zərərsiz göründükdə və zorakılıq niyyəti müəyyən edilmədikdə belə tətbiq oluna bilər.
Şirkət həmçinin keçmişdə baş vermiş kütləvi hücumlarla bağlı cavabların məzmununu dəyişəcək. Bütün yaş qrupları üçün belə hadisələrdə istifadə olunan silahların texniki xüsusiyyətləri, onların əldə edilmə üsulları və hücumun təfərrüatları barədə məlumatlar məhdudlaşdırılacaq.
Dəyişikliklərin digər mühüm hissəsi istifadəçilərin yaşının müəyyənləşdirilməsi sistemi ilə bağlıdır.
OpenAI yaş proqnozlaşdırma mexanizmini təkmilləşdirərək istifadəçi davranışı və hesabla əlaqəli müxtəlif göstəricilər əsasında şəxsin 18 yaşdan kiçik olub-olmadığını müəyyən etməyə çalışacaq.
Sistem istifadəçinin yeniyetmə olduğunu ehtimal edərsə, həmin hesab əlavə təhlükəsizlik məhdudiyyətləri olan ChatGPT for Teens rejiminə keçirilə bilər.
Yetkinlik yaşına çatmış istifadəçi səhvən yeniyetmə kimi müəyyən edilərsə, Persona xidməti vasitəsilə yaşını təsdiqləyərək standart istifadə rejiminə qayıda biləcək.
Yeni qaydalara əsasən, yeniyetmənin hesabı zorakılıqla bağlı təkrarlanan təhlükəli söhbətlər səbəbindən müvəqqəti dayandırılarsa, valideynlərin məlumatlandırılması da nəzərdə tutulur.
OpenAI bu mexanizmlərin hazırlanması zamanı psixi sağlamlıq və zorakılığın qarşısının alınması sahəsində mütəxəssislərlə əməkdaşlıq etdiyini bildirib.
Şirkətin açıqlamasına görə, yeniliklər növbəti bir neçə həftə ərzində mərhələli şəkildə istifadəyə veriləcək.
OpenAI həmçinin 2027-ci ilin əvvəlində ilk genişmiqyaslı İcma Təhlükəsizliyi Hesabatını dərc etməyi planlaşdırır.
Yeni məhdudiyyətlər süni intellekt platformalarının təhlükəsizliyi, istifadəçilərin yaşının müəyyən edilməsi və real həyatda zorakılıq risklərinə qarşı tədbirlərin gücləndirilməsi istiqamətində atılan addımların bir hissəsidir.