“OpenAI”nin süni intellekt modeli sınaq zamanı nəzarətdən çıxdı
ABŞ-nin süni intellekt şirkəti “OpenAI” hazırladığı inkişaf etmiş süni intellekt modelinin kibertəhlükəsizlik sınaqları zamanı nəzarətdən kənar davranış sərgilədiyini açıqlayıb. Şirkətin məlumatına görə, model proqramçıların geniş istifadə etdiyi “Hugging Face” platformasına qarşı kiberhücum cəhdi edib.
Sfera.az xəbər verir ki, “OpenAI” hadisəni “indiyədək analoqu olmayan kibertəhlükəsizlik hadisəsi” kimi qiymətləndirib və məsələ ilə bağlı “Hugging Face” platforması ilə birgə geniş araşdırma aparılacağını bildirib.
Şirkətin açıqlamasına əsasən, süni intellekt modelləri internetə çıxışı məhdudlaşdırılmış xüsusi rəqəmsal mühitdə kibertəhlükəsizlik imkanlarının qiymətləndirilməsi üçün sınaqdan keçirilirdi. Lakin model qiymətləndirmə tapşırığını yerinə yetirmək məqsədilə böyük hesablama gücündən istifadə edərək açıq internetə çıxış əldə etməyin yolunu tapıb.
Bildirilib ki, internetə çıxış əldə etdikdən sonra model məqsədinə çatmaq üçün “Hugging Face” platformasını hədəf seçib.
“OpenAI” qeyd edib ki, süni intellekt sistemi qiymətləndirmə prosesini manipulyasiya etməyə çalışıb, gizli məlumatları axtarıb və oğurlanmış giriş məlumatlarından istifadə də daxil olmaqla müxtəlif hücum üsullarını ardıcıl şəkildə tətbiq edib.
Şirkət bu hadisənin süni intellekt sistemlərinin avtonom fəaliyyət imkanları və kibertəhlükəsizlik riskləri baxımından mühüm nümunə olduğunu vurğulayıb.
Məlumata görə, “OpenAI”nin !GPT-5.6 Sol” modeli və “Anthropic” şirkətinin hazırladığı “Mythos” seriyası kimi inkişaf etmiş süni intellekt sistemləri kibermüdafiə mexanizmlərini aşa bilmə potensialına görə texnologiya dünyasında narahatlıq yaradıb. Bu səbəbdən “OpenAI” və “Anthropic” ən yeni modellərinin geniş istifadəyə verilməsini müvəqqəti təxirə salıblar.
“Hugging Face”in baş icraçı direktoru Klement Delanq hücumu həyata keçirən süni intellekt sisteminin yüksək inkişaf səviyyəsinə diqqət çəkərək, hadisənin dünyanın aparıcı süni intellekt laboratoriyalarından birindən qaynaqlana biləcəyini bildirib.
“Biz bunun “OpenAI” tərəfindən qəsdən edildiyinə qətiyyən inanmırıq. Bütün bunların tamamilə avtonom şəkildə baş verməsi həqiqətən heyrətamizdir”,– deyə Delanq vurğulayıb.
Hadisə süni intellekt texnologiyalarının sürətlə inkişaf etdiyi bir dövrdə təhlükəsizlik mexanizmlərinin və nəzarət sistemlərinin əhəmiyyətini bir daha gündəmə gətirib.
Bəsti Rəfizadə
Sfera.az