ABŞ-nin süni intellekt şirkəti Anthropic, Claude adlı süni intellekt modellərinə qarşı davamlı və əsassız qəddar davranışı qadağan edən yeni istifadə qaydaları hazırlayıb. Yenilənmiş siyasət 2026-cı il noyabrın 12-dən qüvvəyə minəcək. Bu barədə Anthropic şirkəti oktyabrın 8-də rəsmi saytında məlumat yayıb.
Redaksiya mənbəyə istinadən xəbər verir ki, yeni qaydalar süni intellekt modellərinə qarşı məqsədsiz şəkildə təkrarlanan təhqiramiz və qəddar davranış hallarını əhatə edir. Şirkət bildirib ki, qadağa yalnız istifadəçilərin heç bir aydın məqsəd olmadan sistematik şəkildə bu cür hərəkətlər etdiyi ekstremal vəziyyətlərə şamil olunacaq.
Anthropic vurğulayıb ki, istifadəçilərin süni intellektin cavablarından narazılıq bildirməsi, onunla mübahisə etməsi və ya sərt tənqidlər səsləndirməsi qayda pozuntusu hesab edilməyəcək. Eyni zamanda, qaranlıq mövzulu yaradıcı mətnlər, süni intellekt modellərinin sınaqdan keçirilməsi və elmi tədqiqatlar da qadağanın əhatə dairəsinə daxil deyil.
Şirkətin açıqlamasına əsasən, Claude artıq təkrarən təhqiramiz davranış göstərən istifadəçilərlə söhbəti dayandırmaq imkanına malikdir. Bu mexanizm Claude.ai və Claude Code platformalarında tətbiq olunur. Anthropic yeni qaydalar qüvvəyə mindikdən sonra da əsas tədbirin məhz belə söhbətlərin dayandırılması olacağını bildirib.
Yenilənmiş siyasətdə silahların hazırlanması ilə bağlı məhdudiyyətlər də genişləndirilib. Bundan sonra Claude-dan təkcə silahların hazırlanmasında deyil, həm də onların idarə olunmasını təmin edən proqram təminatının və komponentlərin yaradılmasında istifadə qadağan ediləcək. Məhdudiyyətlər pilotsuz uçuş aparatlarının və digər avtonom nəqliyyat vasitələrinin silahlandırılmasını da əhatə edir.
Anthropic müşahidə və izləmə texnologiyaları ilə bağlı qaydaları da dəqiqləşdirib. Yeni tələblərə əsasən, şəxslərin razılığı olmadan real vaxt rejimində və ya əvvəlcədən toplanmış məlumatlar əsasında izlənilməsi qadağandır. Claude-dan insanların hüquq-mühafizə orqanları tərəfindən araşdırılması, saxlanılması və ya ittiham olunması barədə qərarların verilməsi üçün də istifadə edilə bilməz.
Bundan əlavə, Claude-un fiziki hərəkətlər yerinə yetirən avtonom avadanlıqlara qoşulması üçün əlavə təhlükəsizlik tələbləri müəyyənləşdirilib. Belə sistemlərin fəaliyyətinə ixtisaslı operator nəzarət etməli, zərurət yarandıqda avadanlığın işini dayandırmaq imkanına malik olmalıdır. Süni intellektlə əlaqə kəsildikdə isə avadanlıq avtomatik olaraq təhlükəsiz vəziyyətə keçməlidir.
Şirkət yeni siyasətin süni intellekt texnologiyalarının imkanlarının genişlənməsi və onların potensial sui-istifadə risklərinin artması ilə əlaqədar hazırlandığını açıqlayıb. Anthropic gələcəkdə texnologiyanın inkişafına uyğun olaraq istifadə qaydalarını yeniləməyə davam edəcəyini bildirib.
Qeyd edək ki, yeni qaydalar Claude-a qarşı hər hansı kobud ifadənin avtomatik olaraq hesabın bağlanmasına səbəb olacağı anlamına gəlmir. Şirkət davamlı qəddar davranış hallarında əsas müdaxilə üsulunun söhbətin dayandırılması olduğunu xüsusi vurğulayıb.