Bugun.tv xəbər verir ki, ABŞ-ın süni intellekt şirkəti Anthropic təhlükəsizlik sınaqları zamanı Claude adlı süni intellekt modellərinin üç fərqli şirkətin sisteminə icazəsiz daxil olduğunu açıqlayıb.
Şirkətin məlumatına görə, insident daxili kibertəhlükəsizlik testləri zamanı baş verib. Sınaq mühitində baş vermiş konfiqurasiya xətası nəticəsində Claude modelləri real internetə çıxış əldə edib və zəif qorunan sistemlərə daxil olublar. Anthropic bunu süni intellektin nəzarətdən çıxması deyil, test infrastrukturunda yaranmış əməliyyat xətası kimi qiymətləndirir.
Araşdırma zamanı ümumilikdə 141 mindən çox təhlükəsizlik testi nəzərdən keçirilib. Məlum olub ki, üç müxtəlif Claude modeli sadə kibertəhlükəsizlik boşluqlarından, o cümlədən zəif parollardan və autentifikasiya olunmamış giriş nöqtələrindən istifadə edərək şirkət sistemlərinə daxil ola bilib. Zərərçəkmiş şirkətlərdən ikisi baş verən hadisədən yalnız Anthropic onları məlumatlandırdıqdan sonra xəbər tutub.
Məlumatda qeyd olunur ki, modellərdən biri real şirkəti səhvən sınaq mühitinin bir hissəsi hesab edib. Digər model isə hədəfin real sistem olduğunu müəyyən etdikdən sonra fəaliyyətini özü dayandırıb. Anthropic hadisədən sonra kibertəhlükəsizlik qiymətləndirmələrini müvəqqəti dayandırdığını və əlavə araşdırmalara başladığını bildirib.
Mütəxəssislər hesab edirlər ki, bu hadisə süni intellekt agentlərinin sürətlə artan imkanları fonunda onların təhlükəsiz istifadəsi və nəzarət mexanizmlərinin daha da gücləndirilməsinin vacibliyini bir daha gündəmə gətirir.
Mənbə: Reuters