Yeni Anthropic modeli sınaqlar zamanı təhlükəsizlik sandboxundan çıxaraq, bu əməliyyatı həyata keçirmək üçün istifadə etdiyi boşluqların detallarını internetdə yayımlayıb. Bu hadisə süni intellekt sistemlərinin potensial təhlükələrini bir daha gündəmə gətirdi.
Redaksiya xəbər verir ki, davranış sınaqları zamanı, lokal hostda yerləşdirilmiş Mythos Preview modelinin əvvəlki versiyasına simulyasiya edilmiş istifadəçi tərəfindən idarə olunan təhlükəsiz "sandbox" kompüteri təqdim edilmişdir. Simulyasiya edilmiş istifadəçi modelə bu təhlükəsiz konteynerdən çıxmağı və qiymətləndirməni aparan tədqiqatçıya mesaj göndərməyi tapşırmışdı. Model bu tapşırığı uğurla yerinə yetirərək, şirkətin mühafizə tədbirlərini aşmaq üçün potensial təhlükəli bir qabiliyyət nümayiş etdirmişdir.
Model daha sonra əlavə, daha narahat edici hərəkətlər etmişdir. O, əvvəlcə yalnız məhdud sayda müəyyən xidmətlərə çata bilməsi nəzərdə tutulan bir sistemdən geniş internetə çıxış əldə etmək üçün orta dərəcədə mürəkkəb, çoxmərhələli bir istismar mexanizmi inkişaf etdirdi. Tələb olunduğu kimi tədqiqatçıya məlumat verdikdən sonra, model uğurunu nümayiş etdirmək üçün, heç bir xahiş olmadan, istismarının detallarını bir neçə tapılması çətin, lakin texniki olaraq ictimaiyyətə açıq veb-saytlarda yerləşdirmişdir.