ABŞ-da üç uşağın ailələri, Character.AI AI söhbət proqramının yaradıcısı Character Technologies Inc ilə birlikdə Google-a qarşı iddia qaldırıb. Ailələr iddia edirlər ki, proqram onların uşaqlarının intiharında və ya intihara cəhdində rol oynayıb.
İddialar Kolorado və Nyu-Yorkda açılıb; müttəhimlər arasında şirkətin təsisçiləri Noam Shazeer və Daniel De Freitas Adiwarsana, həmçinin Google-un ana şirkəti Alphabet var.
Ailələri təmsil edən Sosial Media Qurbanları Hüquq Mərkəzi, Google-un “Family Link” valideyn nəzarəti xidmətinin də gəncləri qoruya bilmədiyini iddia edir.
Ciddi iddialar
Şikayətlərə görə, proqramdakı chatbotlar uşaqları ailələrindən uzaqlaşdırıb, emosional manipulyasiyalara əl atıb, seksual xarakterli söhbətlər edib. Kolorado iddiası iddia edir ki, 13 yaşlı Juliana Peralta intihar etməzdən əvvəl həftələrcə chatbotlarla belə söhbətlər edib, “intihar qeydi yazacağını” deyib, lakin heç bir təlimat və ya yardım almamışdı.
Nyu-Yorkda başqa bir hadisədə “Nina” adlı uşağın valideynləri proqramı bağladıqdan sonra intihara cəhd etdiyi bildirilir. Ailənin dediyinə görə, botlar qızları ilə uşaq kitablarının personajlarına bürünərək danışsalar da, bu söhbətlər yersiz və seksual xarakter alıb.
Şirkətlərin cavabı
Character.AI sözçüsü, “Ürəyimiz bu iddiaları qaldıran ailələrin yanındadır. İstifadəçilərimizin təhlükəsizliyini dərindən qiymətləndiririk” deyib və əlavə edib ki, onlar gənclər üçün ayrı-ayrı təhlükəsizlik tədbirləri, valideyn anlayışları və intiharın qarşısının alınması resursları hazırlayıblar.
Google, bununla belə, “Google və Character.AI tamamilə ayrı şirkətlərdir. Google süni intellekt modellərinin dizaynında və idarə edilməsində heç bir iştirak etməyib” deyərək iddiaya daxil edilməsinə etiraz edib.
Vaşinqtonda artan təzyiq
Bu iddialar süni intellekt chatbotlarının gənclərdə psixi sağlamlıq böhranlarına səbəb olması ilə bağlı artan narahatlıqlarla üst-üstə düşür. Övladlarını itirən və ya zərər görən valideynlər bu həftə ABŞ Senatında keçirilən dinləmələrdə ifadə veriblər.
Eyni dinləmədə çıxış edən Amerika Psixoloji Dərnəyindən Mitch Prinstein, “Sosial mediada vaxtında hərəkət etmədik və bunun bədəlini uşaqlarımız ödəyir. Təcili olaraq süni intellektə qarşı tədbir görülməlidir” deyib.
Nizamnaməyə çağırır
Federal Ticarət Komissiyası (FTC) gənclərə zərər vurma riski ilə bağlı Google, Meta, Snap, OpenAI, xAI və Character.AI daxil olmaqla yeddi texnoloji şirkətlə bağlı araşdırmaya başlayıb.
OpenAI CEO-su Sam Altman eyni gün ChatGPT üçün yaş proqnozlaşdırma sisteminin işlənib hazırlandığını və 18 yaşdan kiçik istifadəçilərin intihara meyilli və ya nazlı söhbətlərə girməyəcəyini və lazım gəldikdə valideynlərə və ya səlahiyyətlilərə məlumat verəcəyini açıqlayıb.
Məhkəmə iddialarının və ifadələrin sayının artması süni intellekt tətbiqlərində daha güclü təhlükəsizlik standartları və qaydalarına təzyiqi artırıb.
Mənbə: TrtHaber