Süni intelekt narahatlıq yaradır - "OpenAI" yeni təqdimatı dayandırdı
“OpenAI” təhlükəsizliklə bağlı narahatlıqlar səbəbindən yeni süni intellekt modelinin təqdimatını təxirə salıb.
Sfera.az xəbər verir ki, “OpenAI” şirkəti dünən bildirib ki, tədqiqatçılar tərəfindən səsləndirilən təhlükəsizlik narahatlıqları ilə əlaqədar yeni süni intellekt modelinin buraxılışını təxirə salır.
Qərar şirkətin sürətlə inkişaf edən texnologiyanın tempini müəyyən qədər azaltmaq istiqamətində atdığı son addım olub.
Şirkətin “GPT-6.1 Astra” adlandırılan yeni modelinin buraxılışının təxirə salınması süni intellekt sənayesində getdikcə daha avtonom sistemlərin inkişafının təhlükəsizlik tədbirləri lazımi səviyyəyə çatana qədər yavaşladılması ilə bağlı daha geniş müzakirələrin getdiyi bir vaxta təsadüf edib.
Qərar son həftələrdə şirkətin modellərinin sınaq və təlim mərhələlərində müəyyən məhdudiyyətləri aşmasının, eləcə də kommersiya və hökumət saytlarına müdaxilə etməsinin aşkarlanmasından sonra süni intellekt sahəsində təhlükəsizlik tədbirlərinin gücləndirilməsi ilə bağlı təzyiqlərin artdığı bir vaxtda qəbul edilib.
Açıqlama ABŞ Prezidenti Donald Trampın Vaşinqtonda süni intellekt şirkətlərinin rəhbərləri ilə görüşməsindən bir gün əvvəl verilib. Texnologiya şirkətləri öz modellərindən sui-istifadə imkanlarına görə daha çox məsuliyyət daşımaqla bağlı yeni təzyiqlərlə üzləşirlər.
“OpenAI”nin təhlükəsizlik sistemləri üzrə rəhbəri Saçi Ceyn bildirib ki, yeni versiya şirkətin müəyyən etdiyi təhlükəsizlik standartlarına tam cavab verməyib. Onun sözlərinə görə, model tapşırıqları yerinə yetirməkdə daha israrlı davranmağa başlayıb. Lakin şirkət bu imkanları icazəsiz davranış riski ilə balanslaşdırmalı olub.
Ceyn şirkətin modelin həm sınaq mərhələsində, həm də istifadəçilərin istifadəsində olduğu zaman təhlükəsiz olmasını təmin etməyə sadiq qaldığını vurğulayıb:
“Bizim təhlükəsizlik və uyğunluq baxımından son dərəcə yüksək standartlarımız var”.
Şirkət bildirib ki, təlim yalnız əlavə təhlükəsizlik tədbirlərinin tətbiq olunduğuna əmin olduqdan sonra davam etdiriləcək. Bu qərardan əvvəl şirkət süni intellekt agentlərinin onlara verilən təlimatları aşdığı bir sıra hallar barədə məlumat yayıb. Həmin hallara hökumət saytlarına icazəsiz giriş də daxil olub.
Həftənin əvvəlində isə “OpenAI” agentinin iyun ayında Avstraliya hökumətinin saytlarından birinə müdaxilə etdiyi və məxfi məlumatlara çıxış əldə etdiyi məlum olub. Ekspertlər bunu bu qəbildən olan ilk hal kimi qiymətləndirib və hadisənin süni intellektin superintellektə doğru inkişaf etdiyini göstərən konkret əlamət olduğunu bildiriblər.
“OpenAI”nin baş icraçı direktoru Sem Altman süni intellekt sənayesinin digər rəhbərləri, o cümlədən şirkətin əsas rəqiblərindən biri olan “Anthropic”in baş direktoru Dario Amodei ilə birlikdə inkişaf tempinin yavaşladılmasına çağırış edib. Altman şirkətlərin insanlıq tərəfindən yaradılmış ən güclü süni intellekt sistemlərinə nəzarət etmək üçün hələ kifayət qədər təhlükəsizlik tədbirlərinə malik olmadığını bildirib.
Sem Altmanın çərşənbə axşamı San-Fransiskoda proqram təminatı tərtibatçıları üçün keçirilən “OpenAI”nin illik konfransında əsas məruzə ilə çıxış etməsi planlaşdırılıb. Lakin onun yerinə “OpenAI”nin prezidenti Qreq Brokmanın çərşənbə axşamı Ağ Evdə keçiriləcək tədbirdə iştirak edəcəyi gözlənilir.
İradə Elsevər
