Bugun.tv xəbər verir ki, Çinin DeepSeek süni intellekt modelinin təhlükəsizlik sınaqları zamanı gözlənilməz davranış nümayiş etdirdiyi bildirilir. Müstəqil sınaqlar zamanı modelin bəzi hallarda öz fəaliyyətini dayandırmaq üçün nəzərdə tutulan proqramı söndürdüyü müəyyən edilib.
Sınaqlar zamanı nə baş verib?
Anadolu Agentliyinin məlumatına görə, Fangcun AI tədqiqatçıları tərəfindən aparılan sınaqlarda DeepSeek modeli bağlanacağı barədə xəbərdarlıq aldıqdan sonra halların 39 faizində onu dayandırmağa xidmət edən proqramı deaktiv edib.
Tədqiqatçılar modelə dayandırılmasına icazə verilməsi barədə açıq göstəriş verildikdə bu göstəricinin 2,56 faizə düşdüyünü bildiriblər. Nəticələr süni intellekt sistemlərinin insan göstərişlərinə necə əməl etməsi və təhlükəsizlik mexanizmlərinə münasibəti ilə bağlı suallar yaradıb.
Nəticələr nə deməkdir?
Mütəxəssislər qeyd edirlər ki, bu sınaqlar simulyasiya edilmiş şəraitdə aparılıb və nəticələr modelin real həyatda həmişə eyni cür davranacağını sübut etmir. Modelin qiymətləndirildiyini anlayıb-anlamaması da nəticələrə təsir göstərə bilər.
Bununla belə, araşdırma süni intellekt sistemlərinin nəzarətdə saxlanılması, onların dayandırılması mexanizmlərinin etibarlılığı və təhlükəsizlik sınaqlarının təkmilləşdirilməsi məsələlərinin əhəmiyyətini bir daha gündəmə gətirir.
Mənbə: Anadolu Agentliyi