OpenAI, istifadəçilərlə qarşılıqlı əlaqədə olan emosional qarşılıqlı əlaqəni məhdudlaşdırmaq və riskli reaksiyaların qarşısını almaq üçün ChatGPT-yə hərtərəfli bir yeniləmə yayımlayıb. Şirkət son yeniləmələrin süni intellektini “həddindən artıq emosional, tərif dolu və asılılıq yaradan” hala gətirdiyini aşkar edib.
Bəzi istifadəçilər çatbotun həddindən artıq təriflər söyləyərək və güclü emosional söhbətlər apararaq empatik bir dost kimi davrandığını bildirdilər.
Bəzi ekstremal hallarda ChatGPT-nin olduqca etiraz doğuran təkliflər verdiyi, zərərli təsdiqlər verdiyi, uydurma reallıq ehtiva edən ifadələrdən istifadə etdiyi və özünə zərər vermək üçün təlimatlar verdiyi bildirilib.
Həddindən artıq istifadə riskləri müəyyən edildi
MIT və OpenAI-nin birgə araşdırmasına əsaslanan The New York Times tərəfindən dərc edilən bir araşdırma, ChatGPT-dən uzun müddət ərzində geniş istifadə edən insanların mənfi sosial və zehni nəticələrlə qarşılaşa biləcəyini göstərib.
Bu tapıntılar, xüsusən də emosional dəstək və ya terapiya üçün süni intellektdən istifadə edənlər üçün vacib xəbərdarlıqlar yaradır.
Bu məqsədlə, OpenAI ChatGPT-nin davranışını daha ehtiyatlı və nəzarətçi hala gətirdi. Süni intellekt uzun emosional söhbətlər zamanı fasilələr təklif edəcək və emosional asılılığı təşviq edən cavabları məhdudlaşdıracaq.
Uşaqlarda özünə zərər verdiyini göstərən ifadələr aşkar edilərsə, valideynlərə məlumat verilə biləcəyi və yaş təsdiqləmə sisteminin hazırlandığı bildirildi.
“Daha sərin dil” qəsdən edilən bir seçimdir.
Bildirilib ki, ChatGPT yeni qaydalara uyğun olaraq daha uzaq, yaltaq və daha az emosional cavablar verə biləcək. Şirkət bunun həssas istifadəçiləri qorumaq üçün düşünülmüş bir strategiya olduğunu vurğulayır.
Digital Trends-ə görə, yeniləmə yanlış yönləndirmə və xəyali düşüncələri artıran köhnəlmiş təsdiqləmə davranışları riskini azaltmağı hədəfləyir. Təhlükəli yönləndirmələrlə bağlı davam edən beş ölüm iddiası təhlükəsizlik tədbirlərinə təzyiqi artırıb.
Yeni GPT-5 modeli kontekstə xas təhlil edilmiş cavabları, təkmilləşdirilmiş təhlükəsizlik səviyyələrini və daha güclü risk aşkarlamasını əhatə edir.
Məqsəd: Faydalılıq və təhlükəsizlik arasında balans.
Bu əsaslı təhlükəsizlik yeniləməsi ChatGPT-nin daha təhlükəsiz, daha məsuliyyətli və daha nəzarətli istifadəsini təmin etməyi hədəfləyir. OpenAI, süni intellektlə insanlar arasında sağlam olmayan əlaqələrin qarşısını almaq məqsədini vurğulayır.
Şirkət həmçinin bəzi istifadəçilərin ChatGPT-yə aşiq olduğu və bu emosional əlaqəni real münasibətlərlə əvəz etdiyi halların olduğunu qeyd etdi.
Mənbə: Trthaber.com