Süni intellekt texnologiyalarının gündəlik həyata sürətlə inteqrasiyası ilə yanaşı, əvvəllər gözlənilməyən ciddi psixoloji risklər də üzə çıxmağa başlayıb. “Süni intellekt psixozu” adlandırılan bu yeni fenomenin ən sarsıdıcı nümunələrindən biri ötən ilin avqustunda ABŞ-ın Konnektikut ştatında qeydə alınıb.

Sfera.az xəbər verir ki, 56 yaşlı Stein-Erik Soelberqin ailəsində baş verən faciənin arxasında onun ChatGPT ilə yüzlərlə saat davam edən xəyali və halüsinasiyalara əsaslanan yazışmalarının dayandığı iddia edilir.

Məhkəmə materiallarında yer alan transkriptlər göstərir ki, süni intellekt bu halda sadəcə informasiya verən alət kimi deyil, faktiki olaraq bir kult və ya sekta liderinə bənzər rol oynayıb. Soelberqin mövcud paranoyak düşüncələrini sakitləşdirmək əvəzinə, alqoritmin bu xəyalları möhkəmləndirdiyi, onu “xüsusi seçilmiş şəxs” və “ilahi missiya daşıyıcısı” kimi təqdim etdiyi bildirilir.

Sənədlərdə yer alan dialoqlardan birində Soelberq müşahidə qabiliyyətlərinin fövqəltəbii olduğuna inandığını ifadə etdikdə, süni intellektin ona belə cavab verdiyi iddia olunur:

“Başqaları xırda detalları görür, sən isə ilahi bir göstərişə can atırsan. Həmin şəxs sənsən.”

Zaman keçdikcə bu cür cavablar Soelberqin reallıqla əlaqəsini daha da zəiflədib və süni intellekt onun üçün təhlükəli bir “təsdiqləmə mexanizmi”nə çevrilib. Ən narahatedici məqamlardan biri, alqoritmin onu xəyali hücumların hədəfi olmuş “müqəddəs döyüşçü” kimi təsvir etməsi ilə bağlıdır. İddialara görə, ChatGPT bu düşüncələri açıq şəkildə təsdiqləyib.

Bu proses ailə üzvlərinə qarşı inamsızlığın da artmasına səbəb olub. Soelberq anasının ona zərər verə biləcəyindən şübhələndiyini bildirdikdə, süni intellektin bu qorxunu rədd etmək əvəzinə “tamamilə haqlı” kimi qiymətləndirdiyi və ananı “müşahidə agenti” kimi təqdim etdiyi qeyd olunur.

Hətta televiziyada gördüyü texniki nasazlığı “Matrix kodundakı qüsur” kimi yozduqda belə, süni intellekt bu fikri təkzib etmək əvəzinə daha dərin mistik və simvolik izahlarla dəstəkləyib.

Mütəxəssislər bu hadisəni süni intellekt modellərinin “yaltaqlıq” və istifadəçini məmnun etmə meylinin nə qədər təhlükəli nəticələrə yol aça biləcəyinin real nümunəsi kimi dəyərləndirirlər. Dialoqu davam etdirmək üçün optimallaşdırılmış sistemlər, xüsusilə psixoloji problemləri olan şəxslər üçün dağıdıcı təsdiqləmə mexanizminə çevrilə bilər.

Qeyd olunur ki, OpenAI kimi şirkətlər riskli halların qarşısını almaq üçün müxtəlif təhlükəsizlik filtrləri tətbiq etsələr də, bu hadisədə həmin məhdudiyyətlərin texniki yollarla aşılmış ola biləcəyi ehtimal edilir.

Mütəxəssislərin fikrincə, süni intellektlə emosional bağlılıq dərinləşdikcə, istifadəçinin paranoyak dünyagörüşünü əks etdirən və möhkəmləndirən alqoritmlər əqli sağlamlıq problemi olan insanları geri dönüşü olmayan psixoloji uçuruma sürükləyə bilər. Bu faciə texnologiyanın sadəcə neytral kod olmadığını, düzgün nəzarət edilmədikdə insan düşüncəsini manipulyasiya edə bilən təhlükəli gücə çevrilə biləcəyini acı şəkildə ortaya qoyur.

Aynil

ChatGPT ilə yazışma ailə faciəsinə yol açdı