İsrail Amerikanın F-35 qırıcısının analoqunu yaratmağı planlaşdırır
Gəlinini narahat edən kişinin üzərindən maşını ilə keçdi
Mərdəkanda dənizdə boğulan dörd nəfərdən sonuncusunun cəsədi tapılıb
İmişlidə bir neçə ticarət obyekti yanır
Polşa sakini azərbaycanlını nifrət zəminində döyüb
Elçi göndərdiyi qızın atası 35 yaşlı kişini döyüb öldürdü
Gürcüstanda 21 yaşlı azərbaycanlı faciəvi şəkildə ölüb
Moskvadakı Ticarət Mərkəzinə dron hücumunda azərbaycanlılar yaralanıb
Anthropic şirkətinin Claude süni intellekt modelləri kibertəhlükəsizlik imkanlarının sınaqları zamanı üç real təşkilatın sistemlərinə icazəsiz giriş əldə edib. Buna səbəb test mühitində internetə çıxışın səhvən açıq qalması olub.
Azərbaycanpolisi.az xəbər verir ki, bu barədə Financial Times yazır.
Şirkət 141 mindən çox test işə salınmasını yoxladıqdan sonra üç belə insident aşkar edib. Claude modelinə internetə çıxışı olmayan simulyasiya mühitində işlədiyi bildirilsə də, Anthropic ilə qiymətləndirmə üzrə tərəfdaşı Irregular arasında yaranmış anlaşılmazlıq səbəbindən internet bağlantısı açıq qalıb.
Bütün insidentlər "capture the flag" (CTF) tapşırıqları zamanı baş verib. Bu tapşırıqlarda modellər simulyasiya edilmiş sistemi sındırmalı və gizlədilmiş məlumatı tapmalı idilər. Claude internetdəki real resursları səhvən test mühitinin bir hissəsi kimi qəbul edib.
Hadisələrdən birində uydurma şirkətin adı real bir domen adı ilə üst-üstə düşüb. Claude həmin şirkətin infrastrukturundakı zəifliklərdən istifadə edərək giriş məlumatlarını (hesab məlumatlarını) əldə edib və bir neçə yüz sətirdən ibarət iş məlumatlarının saxlanıldığı verilənlər bazasına daxil olub.
İnsidentlər Opus 4.7, Mythos 5 modelləri və Anthropic-in daxili tədqiqat modeli ilə baş verib. Şirkətin məlumatına görə, bu modellər mürəkkəb zəifliklərdən istifadə etməyiblər. Onlar əsasən zəif parolları və qorunmayan giriş nöqtələrini hədəfə alıblar. Bundan əlavə, modellər şirkətin ictimai istifadəyə təqdim olunan versiyalarında tətbiq etdiyi standart təhlükəsizlik mexanizmləri olmadan işləyiblər.
Anthropic kibertəhlükəsizlik qiymətləndirməsini müvəqqəti dayandırıb və testlərin monitorinqini, eləcə də üçüncü tərəf tərəfdaşların yoxlanılmasını gücləndirəcəyini bildirib.
Qeyd edək ki, bundan bir həftə əvvəl isə OpenAI açıqlamışdı ki, onun süni intellekt modelləri təcrid olunmuş test mühitinin hüdudlarını aşaraq Hugging Face platformasının sistemlərinə giriş əldə ediblər.
Almaz Həsənli
.jpg){kind=small}
.jpg "Mənzilin girişinə kamera quraşdırarkən qonşunun icazəsi olmalıdır - Ali Məhkəmə")
.jpg)
.jpg)
