Süni intellekt sistemlərinin gerçək olmayan məlumatlar istehsal etməsi son illərin ən çox müzakirə olunan problemlərindən biridir. Bu fenomen texnologiya dünyasında “halüsinasiya” adlandırılır.

Sfera.az xəbər verir ki, ümumilikdə problem belə izah olunur: süni intellekt bəzən suallara səhv, yoxlanılmamış və ya tamamilə uydurma cavablar verir.

Tədqiqatçılar bu səhvləri əsasən üç kateqoriyaya ayırır: verilən suala zidd cavablar, təqdim olunan kontekstlə uyğunlaşmayan məlumatlar və birbaşa reallıqla ziddiyyət təşkil edən nəticələr. Bu isə göstərir ki, süni intellekt təkcə səhv etmir, bəzən faktiki olaraq “hekayə uydurur”.

Məsələnin təhlükəli tərəfi isə bunun real həyatda ciddi nəticələr doğurmasıdır. İstifadəçilər üçün əsas risk yanlış məlumatların doğru kimi qəbul olunmasıdır. Üstəlik, süni intellekt tərəfindən yaradılan bu tip məlumatlar çox vaxt inandırıcı göründüyündən, dezinformasiya və onlayn fırıldaqçılıq halları üçün əlverişli zəmin yaradır. Texnologiyanın sürətli inkişafı isə bu cür saxta məzmunun hazırlanmasını və yayılmasını daha da asanlaşdırır.

Ekspertlər xəbərdarlıq edir ki, bu problem artıq təkcə nəzəri məsələ deyil. Son illərdə süni intellektin yaratdığı yanlış məlumatların real təsirləri də müşahidə olunub. Məsələn, 2023-cü ildə ABŞ-da Pentaqon yaxınlığında guya partlayış baş verdiyini göstərən saxta görüntünün sosial mediada yayılması qısa müddətdə panikaya səbəb olmuş, hətta fond bazarına mənfi təsir göstərmişdi.

Bütün bunlar göstərir ki, süni intellektin “halüsinasiya” problemi yalnız texniki çatışmazlıq deyil, həm də informasiya təhlükəsizliyi və ictimai etimad baxımından ciddi çağırışdır. Bu səbəbdən mütəxəssislər texnologiyanın inkişafı ilə paralel olaraq onun yaratdığı risklərin də diqqətlə nəzarətdə saxlanılmasının vacibliyini vurğulayır./Bizim.Media

Süni intellekt “yalan danışır”? – Alimlərdən XƏBƏRDARLIQ