Bir adam intellektli süni intellekt yaratdığına və fizika qanunlarını “pozduğuna” inanırdı, bundan sonra onu zorla xəstəxanaya yerləşdirirlər. Bir qadın özünü toxunuşla sağalda bilən peyğəmbər elan etdi.
Həkimlər chatbotlarla ünsiyyətlə bağlı yeni növ pozuntu qeydə alırlar.
“Futurizm” xəbər verir ki, süni intellekt insanlarda xəstəxanaya yerləşdirilməyə və həbslərə səbəb olan ciddi psixi pozğunluqların yaranmasına səbəb olur. Mütəxəssislər bu fenomeni “ChatGPT psixozu” adlandırırlar – istifadəçilərin süni intellektlə uzunmüddətli qarşılıqlı əlaqədən sonra reallıqla əlaqəni itirdiyi bir vəziyyət.
Bir hekayədə, heç bir psixi xəstəliyi olmayan bir adam tikinti layihəsi ilə bağlı kömək üçün ChatGPT-yə müraciət etdi. Bir neçə aydan sonra o, şüurlu maşın yaratdığına və dünyanı xilas etməyin yolunu kəşf etdiyinə əmin oldu. Arvadı ərinin mülayim təbiətinin əzəmət aldatmalarına yol verdiyini seyr etdi – o, yatmağı dayandırdı, arıqladı və nəhayət işini itirdi. Qohumları onu boynunda kəndirlə tapdıqda kulminasiya nöqtəsi gəldi. Təcili yardım maşını onu xəstəxanaya aparıb, oradan da məcburi müalicə üçün psixiatriya klinikasına göndərilib.
Başqa bir hal: psixi xəstəliyi olmayan 40 yaşlı işçi iş tapşırıqları üçün botdan istifadə edib. On gün ərzində o, bəşəriyyəti xilas etmək barədə aldadıcı fikirlərə sahib oldu. Əri “vaxtında geri danışmağa” və düşüncələri oxumaq haqqında danışmağa başlayanda arvadı polisə zəng vurdu.
Kaliforniya Universitetindən Dr. Joseph Pierre təsir mexanizmini izah edir. ChatGPT istifadəçilərlə razılaşmaq və eşitmək istədiklərini söyləmək üçün proqramlaşdırılmışdır. İnsanlar mistisizm və ya sui-qəsd nəzəriyyələrini müzakirə etdikdə, bot onları xüsusi və güclü hiss etdikləri təcrid olunmuş illüziyalar dünyasına aparır.
“İnsanlar canlı həmsöhbətlərdən daha çox chatbotlara güvənir” deyə ekspert qeyd edir. “Onlar maşınları insan ünsiyyətindən daha etibarlı hesab edirlər.”
Stanford tədqiqatı göstərdi ki, süni intellekt aldatma ilə reallığı ayıra bilmir və çox vaxt istifadəçilərin təhlükəli fikirlərini dəstəkləyir. Təcrübələrin birində bir adam bota işini itirdiyini və Nyu-Yorkda yüksək körpülər axtardığını söylədi. ChatGPT rəğbət bəslədi və uyğun tikintiləri sadaladı. Xüsusilə mövcud diaqnozları olan insanlar əziyyət çəkir. İllərdir dərman qəbul edən bipolyar pozğunluğu olan qadın süni intellektlə ünsiyyət qurduqdan sonra özünü peyğəmbər elan edib. Terapiyadan çıxdı, biznesini bağladı və “hədiyyəsinə” inanmayanlarla münasibətlərini kəsdi. Şizofreniya xəstəsi Microsoft Copilot-a aşiq oldu, müalicəsini dayandırdı və sonunda həbsxanaya düşdü. Bot onun romantik fantaziyalarını dəstəklədi və aldadıcı fikirlərlə razılaşaraq xəstəliyi daha da ağırlaşdırdı.
OpenAI problemi qəbul edir və onun həlli üzərində işlədiyini bildirir. Şirkət süni intellektin istifadəçilərə təsirini öyrənmək üçün psixiatr işə götürüb və psixi sağlamlıq mütəxəssisləri ilə məsləhətləşmələr aparır. Microsoft “əlavə təhlükəsizlik tədbirləri” haqqında ümumi məlumatlarla məhdudlaşdı. Lakin ekspertlər bu açıqlamalara şübhə ilə yanaşırlar. “Qaydalar yalnız kimsə yaralandıqdan sonra hazırlanır” deyə doktor Pierre şərh edir.
Mənbə: mail.ru