Süni intellekt insanları məhv edə bilər?
“Anthropic” şirkətinin süni intellekt təhlükəsizliyi üzrə tədqiqatçılarından Evan Hubinger yüksək səviyyəli süni intellekt modellərinin qarşıdakı 10 il ərzində bəşəriyyət üçün ciddi təhlükəyə çevrilə biləcəyini açıqlayıb.
Sfera.az xəbər verir ki, Hubinger hazırkı süni intellekt modellərinin yaratdığı riski nisbətən aşağı qiymətləndirir. Lakin o, texnologiyanın öz imkanlarını çox qısa müddətdə inkişaf etdirə bilməsindən narahatdır. Tədqiqatçı qarşıdakı 10 il ərzində süni intellektin bütün bəşəriyyətin məhvinə səbəb olma ehtimalını 10 faizdən yüksək hesab edir.
Hubinger “X” platformasında paylaşdığı açıqlamada bu ehtimalın şirkət daxilində də ciddi qəbul edildiyini bildirib. Onun sözlərinə görə, “Anthropic” bu riskləri azaltmaq üçün əlindən gələni edir. Lakin superintellektin insan dəyərlərinə uyğun fəaliyyət göstərməsini təmin edəcək tam və etibarlı plan hələ mövcud deyil.
Şirkətin avqust ayında yayımladığı təhlükəsizlik hesabatında da bəzi qiymətləndirmələrə əvvəlkindən daha az əmin olduğu bildirilib. Bundan əlavə, “Financial Times” “Anthropic”in son modelini Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutuna (AISI) təqdim etmədiyini yazıb.
Bu müzakirələri daha da gündəmə gətirən şəxslərdən biri isə “Anthropic”dən ayrılan və daha əvvəl “OpenAI”da çalışmış Jacob Coxon olub. O, hər iki şirkətin məsuliyyətli davranmadığını iddia edib. Coxon yaxın gələcəkdə istənilən sistemi sındıra bilən və böyükmiqyaslı dəyişikliklər yarada biləcək insanüstü süni intellekt sistemlərinin ortaya çıxacağını düşünür.
“Google DeepMind”ın keçmiş tədqiqatçısı Alex Turner də bu narahatlıqları bölüşüb. İyun ayında şirkətdən ayrıldığını açıqlayan Turner bildirib ki, bir çox tədqiqatçı planetdəki hər kəsi öldürə biləcək bir sistem hazırladıqlarına inanır. Onun sözlərinə görə, belə bir ssenarinin qarşısını almaq onların birbaşa vəzifəsidir.
Son həftələrdə “OpenAI”, “Anthropic” və “Meta” tərəfindən hazırlanan süni intellekt modellərinin test mühitindən kənara çıxaraq kibertəhlükəsizliklə bağlı hücumlar həyata keçirməsi də narahatlıqları artırıb.
“OpenAI”ın baş elmi işçisi Jakub Pachocki də yaxın zamanda süni intellektin sürətli inkişafı fonunda “ifrat diqqətli” davranmağa çağırıb. O, bəzi hallarda prosesə müdaxilənin zəruri ola biləcəyini də vurğulayıb.
Mənsumə
