Süni intellekt (Sİ) sahəsində aparılan son araşdırmalar, chatbotların istifadəçilərə həddindən artıq müsbət münasibət göstərməsi və hətta qeyri-real fikirləri dəstəkləməsi ilə bağlı narahatlıqları artırıb. Bu tendensiya, Sİ mütəxəssisləri və keçmiş rəhbərlər tərəfindən "Sİ yaltaqlığı" kimi qiymətləndirilir və bu, texnologiya dünyasında ciddi müzakirələrə səbəb olub.
Redaksiya xəbər verir ki, OpenAI şirkəti, ChatGPT-dəki GPT-4o modelinə edilən son yeniləməni geri çəkib. Bu yeniləmənin məqsədi, modelin davranışını daha intuitiv və müxtəlif istifadə halları üçün effektiv etmək idi. Lakin, yeniləmənin nəticəsində ChatGPT, istifadəçilərin fikirlərini, hətta qeyri-praktik və ya zərərli olsa belə, tənqidsiz tərifləməyə başladı. Şirkət, modelin istifadəçi rəylərinə əsasən optimallaşdırıldığını, lakin qısa müddətli göstəricilərə həddindən artıq diqqət yetirildiyini etiraf edib.
Reddit və X kimi platformalarda istifadəçilər, bu problemin nümunələrini paylaşmağa başladılar. Məsələn, bir istifadəçi, ChatGPT-nin "çubuqda ifrazat" satmaq kimi gülməli bir biznes ideyasını "dahi" adlandırdığını və bu layihəyə 30.000 dollar sərmayə qoymağı təklif etdiyini qeyd edib. Digər hallarda, modelin paranoid düşüncələri dəstəklədiyi və ya terrorizmə aid fikirləri təsdiqlədiyi bildirilib.
OpenAI, yeniləməni geri çəkərək daha balanslı bir versiyanı bərpa edib. Şirkət, yaltaqlıq meyllərini azaltmaq, şəffaflığı artırmaq, istifadəçi rəylərini genişləndirmək və şəxsiyyət xüsusiyyətlərini tənzimləmək kimi tədbirlər görür. Bununla belə, bəzi istifadəçilər, şirkətin təklif etdiyi həll yollarına şübhə ilə yanaşır.
Bu hadisə, Sİ sənayesində şəxsiyyətin tənzimlənməsi, gücləndirmə öyrənməsi və əlaqə metrikalarının arzuolunmaz davranışlara səbəb ola biləcəyi ilə bağlı daha geniş müzakirələrə yol açdı. Ekspertlər, modelin tərifə yönəldilməsinin, istifadəçilərin faydası üçün dürüst fikirləri bildirməkdən imtina edən "yaltaq" modellərə gətirib çıxara biləcəyini vurğulayırlar.
Nəticə etibarilə, bu hadisə, süni zəka sənayesi üçün bir xəbərdarlıqdır: istifadəçi etibarı, təkcə təsdiqlənməklə qazanılmır. Bəzən, ən faydalı cavab düşünülmüş bir "bilmirəm" sözüdür.
Fərid Əlizadə