Almaniyanın Tübingen Universitetinin tədqiqatçılarının da iştirak etdiyi komanda OpenAI, Anthropic və Google-un aparıcı Sİ modellərində gizli düşüncə proseslərinin müəyyən hissələrini üzə çıxarmağa imkan verən üsul aşkarlayıb. Tədqiqatçılar metodun bəzi hallarda parol və API açarları kimi həssas məlumatların da sızmasına səbəb ola bildiyini bildiriblər. Bu barədə Wired məlumat yayıb.
Redaksiya istinadla xəbər verir ki, araşdırma Claude, Gemini və OpenAI modellərinin API vasitəsilə istifadəsi zamanı aparılıb. Tədqiqatçılar normal şəraitdə istifadəçiyə göstərilməyən daxili düşüncə məlumatlarının müəyyən üsullarla çıxarıla bildiyini müəyyən ediblər. Bildirilir ki, yoxlanılan əsas model provayderlərinin hamısında oxşar problem müşahidə olunub.
Araşdırmada iştirak edən Tübingen Universitetinin mütəxəssisi Aleksandr Panfilovun sözlərinə görə, boşluq şəxsi məlumatların sızmasına və modellərin düşüncə proseslərinin genişmiqyaslı şəkildə əldə edilməsinə imkan verə bilərdi. Tədqiqatçılar sınaqlar zamanı parollar və API açarları kimi həssas məlumatların daxili düşüncə kontekstindən bərpa edilə bildiyini nümayiş etdiriblər.
Bununla belə, sosial şəbəkələrdə yayılan bəzi iddialardan fərqli olaraq, araşdırma Sİ modellərinin daim istifadəçini aldatmağa çalışdığını, bütün qadağan olunmuş məlumatları daxildə saxladığını və ya minlərlə real parolu öz yaddaşında daimi şəkildə qoruduğunu sübut etmir. Tədqiqatın əsas nəticəsi gizli düşüncə məlumatlarının müəyyən şəraitdə sızdırıla bilməsi və həmin prosesdə kontekstdə mövcud olan həssas məlumatların üzə çıxması riskidir.
Məlumata görə, şəxsi məlumatların çıxarılmasına imkan verən əsas boşluq artıq aradan qaldırılıb. Bununla belə, tədqiqatçılar gizli düşüncə proseslərinin müəyyən hissələrinin bərpası imkanının Sİ sistemlərində təhlükəsizlik və məxfilik baxımından yeni risklər yaratdığını bildirirlər.