Bugun.tv xəbər verir ki, süni intellekt sahəsində aparıcı şirkətlərdən biri olan Anthropic-də çalışan tədqiqatçı Ceykob Koksun şirkətdən istefa verərək süni intellektin gələcəyi ilə bağlı ciddi xəbərdarlıq etməsi texnologiya dünyasında geniş müzakirələrə səbəb olub.
Associated Press-in məlumatına görə, Koksun təxminən üç il ərzində OpenAI və Anthropic-də süni intellekt modellərinin hazırlanması üzrə çalışıb. O, istefasının səbəbi kimi qabaqcıl süni intellekt sistemlərinin təhlükəsizliyinin lazımi səviyyədə təmin olunmamasından narahatlığını göstərib.
Tədqiqatçının fikrincə, Anthropic və OpenAI kimi şirkətlər daha güclü süni intellekt sistemi hazırlamaq uğrunda rəqabətdə təhlükəsizlik məsələlərini kifayət qədər önə çəkmirlər. Koksun bildirir ki, şirkətlər mümkün qədər sürətli şəkildə özünü təkmilləşdirə bilən süni intellekt yaratmağa çalışırlar.
Onun sözlərinə görə, belə sistemlər gələcəkdə öz imkanlarını insan müdaxiləsi olmadan inkişaf etdirə, müxtəlif kompüter sistemlərinə daxil ola və real dünyada əhəmiyyətli təsir gücü əldə edə bilər. Tədqiqatçı hesab edir ki, bu ssenarinin qarşısını almaq üçün daha ciddi təhlükəsizlik mexanizmləri və dövlət nəzarəti lazımdır.
Koksunun xəbərdarlığı digər süni intellekt mütəxəssislərinin açıqlamaları ilə də üst-üstə düşür. Anthropic-in uyğunlaşdırma üzrə aparıcı tədqiqatçısı Evan Hubinger də insanların qabaqcıl süni intellektin nəzarətdən çıxması ehtimalını ciddi qəbul etməli olduğunu bildirib.
Məsələ artıq yalnız texnologiya şirkətlərinin daxilində müzakirə olunmur. ABŞ-da bir sıra siyasətçilər süni intellekt sistemlərinin daha sərt qaydalarla tənzimlənməsinə çağırış edirlər. Qabaqcıl süni intellektin inkişafı ilə təhlükəsizlik arasında tarazlığın necə qurulacağı isə getdikcə daha böyük beynəlxalq müzakirə mövzusuna çevrilir.
Mütəxəssislər qeyd edirlər ki, burada söhbət hazırda mövcud olan süni intellektin insanlığı məhv etməsinin sübutundan getmir. Əsas narahatlıq gələcəkdə daha güclü və özünü inkişaf etdirə bilən sistemlərin yaradılması zamanı onların insan nəzarətində necə saxlanılacağıdır.
Mənbə: ApNews