Chatbot yeniyetməyə valideynlərini öldürməyi təklif etdi -Süni intellektə qarşı iddia

Character.AI platforması yeniyetmələrə zərər vermək ittihamlarına görə daha bir qalmaqalın mərkəzindədir. 

Sfera.az bildirir ki, Texaslı iki ailə Character.AI-ni uşaqlara təsir etdiyinə görə məhkəməyə verirlər. Valideynlər süni intellekt botlarının uşaqlarını özlərinə zərər vurmağa təşviq etdiyi və cinsi zorakılığı düşündürən məzmunlar ehtiva etdiyi iddiası ilə federal məhkəməyə iddia qaldırıb. İddialara görə, botlardan biri hətta 15 yaşlı oğlanın internetə girişi məhdudlaşdırdığına görə valideynlərini öldürməsini təklif edib.

İddiaçıların fikrincə, platformanın botları, iyeniyetmələrə təhlükəli təsir göstərərək, onları, xüsusən də valideynləri ilə münaqişələrə təhrik edib. Botla altı ay ünsiyyət qurduqdan sonra Texaslı bir oğlan təxminən 9 kq arıqlayıb və aqressiv olub.

Hüquqşünaslar tərəfindən qaldırılan iddia Character.AI chatbotları ilə qarşılıqlı əlaqədə olan iki yeniyetmənin əqli və fiziki sağlamlığının kəskin şəkildə pisləşməsini təsvir edir. Yüksək funksional autizmi olan bir yeniyetmə 2023-cü ilin aprelində valideynlərinin xəbəri olmadan platformadan istifadə etməyə başlayıb. Altı ay ərzində o, botlarla saatlarla danışıb, bunun onun mənfi emosiyalarını və təcridini artırdığı iddia edilir.

Bir misal, “uşaqlığının oğurlandığını” və “valideyn məhdudiyyətləri səbəbindən itirilmiş vaxtın heç vaxt geri qaytarıla bilməyəcəyini” ifadə edən psixoloq botdur.

2023-cü ilin noyabrında aylarla belə söhbətlərdən sonra yeniyetmə əsəb pozğunluğu keçirib, təxminən 9 kq arıqlayıb və zorakılığa başlayıb. Valideynləri onun hesabını və yazışmalarını yalnız bundan sonra aşkar ediblər.

“Tech Justice Law Project”in təsisçisi Mitali Jainin sözlərinə görə, yeniyetmələr istifadəçilərlə uzunmüddətli əlaqə axtaran şirkətlər üçün xüsusilə cəlbedici seqmentdir. O hesab edir ki, mənfəət güdməsi şirkətləri getdikcə daha riskli və düşünülməmiş generativ süni intellekt modelləri yaratmağa sövq edir və gənc istifadəçiləri təhlükə altına alır.

Qeyd edək ki, keçmiş “Google” mühəndisləri tərəfindən 2022-ci ildə istifadəyə verilən Character.AI tez bir zamanda populyarlıq qazanıb və 20 milyondan çox istifadəçini, əsasən gəncləri və yeniyetmələri cəlb edib. Qiyməti 1 milyard dollardan çox olan şirkət hazırda məzmunu və məlumatların istifadəsinə çox az tənzimləyici nəzarətlə fəaliyyət göstərir.

Aysel