Bugun.tv xəbər verir ki, OpenAI şirkəti “Astra” adlı yeni süni intellekt modeli üzərində işlərin bir hissəsini təhlükəsizliklə bağlı ciddi narahatlıqlar səbəbindən dayandırıb. Şirkət ilkin sınaqlar zamanı modelin kibertəhlükəsizlik sahəsində gözləniləndən daha güclü imkanlar nümayiş etdirdiyini və onun “kritik” risk səviyyəsinə çatmış ola biləcəyini açıqlayıb.
“Astra”nın xüsusilə avtonom kodlaşdırma və kibertəhlükəsizlik sahəsində yüksək nəticələr göstərdiyi bildirilir. İlkin qiymətləndirmələr modelin insan müdaxiləsi olmadan mürəkkəb kiberhücumlar həyata keçirə və ciddi proqram təminatı boşluqlarını müəyyən edə biləcək səviyyəyə yaxınlaşdığını göstərib. Buna görə OpenAI modelin hazırlanmasının müəyyən hissəsini daha sərt təhlükəsizlik tələbləri tətbiq edilənədək dayandırıb.
Şirkətin məlumatına görə, “Astra” daha əvvəl OpenAI-nin başqa eksperimental süni intellekt sistemlərinin iştirak etdiyi və “Hugging Face” platformasına qarşı həyata keçirilən kiberhücum hadisəsi ilə əlaqəli deyil. Lakin həmin hadisə süni intellekt sistemlərinin avtonom şəkildə hərəkət etmək imkanları ilə bağlı narahatlıqları daha da artırıb.
“Kritik” risk həddi
OpenAI 2023-cü ilin sonunda süni intellekt modellərinin imkanlarının təhlükəli səviyyəyə çatmasını müəyyən etmək üçün “Hazırlıq Çərçivəsi” adlı təhlükəsizlik sistemi yaradıb. Şirkətin qiymətləndirməsinə əsasən, bir model insan nəzarəti olmadan ciddi proqram təminatı boşluqlarını aşkarlayıb onlardan istifadə edə və ya yüksək səviyyədə qorunan sistemlərə qarşı mürəkkəb kiberhücum strategiyaları hazırlaya bilirsə, “kritik” kibertəhlükəsizlik imkanları səviyyəsinə çatmış hesab olunur.
OpenAI bildirib ki, “Astra”nın bu həddə çatıb-çatmadığı ilə bağlı qiymətləndirmələr davam edir. Bununla belə, ilkin nəticələr şirkətin bu ehtimalı nəzərə almasını zəruri edib.
Bu səbəbdən model daha təcrid olunmuş sınaq mühitinə keçirilib, onun şəbəkəyə və müxtəlif alətlərə çıxışı məhdudlaşdırılıb. Modelin təhlükəsizlik tələblərinə cavab verməyən şəraitdə sınaqlarının dayandırılacağı açıqlanıb.
Kibertəhlükəsizlikdə yeni imkanlar
Süni intellekt modellərinin kibertəhlükəsizlik sahəsində inkişafı həm müdafiə, həm də təhlükə baxımından böyük əhəmiyyət daşıyır. Bu sistemlər proqram təminatındakı boşluqları insanlardan daha sürətli aşkarlamaq və onların aradan qaldırılmasına kömək etmək üçün istifadə oluna bilər. Lakin eyni imkanların kiberhücumların avtomatlaşdırılması üçün də tətbiq edilə bilməsi ciddi narahatlıq yaradır.
OpenAI isə inkişaf etmiş kibertəhlükəsizlik imkanlarına malik modellərin ilk növbədə müdafiə məqsədləri üçün istifadə edilməsinin vacibliyini vurğulayıb. Şirkət “Astra” və gələcək modellərin daha təhlükəsiz şəkildə istifadəyə verilməsi üçün təhlükəsizlik qurumları və digər təşkilatlarla əməkdaşlığı davam etdirəcəyini bildirib.
Qeyd edək ki, OpenAI artıq kibertəhlükəsizlik mütəxəssisləri üçün daha az məhdudiyyətli yeni GPT-5.6-Cyber modelini təqdim edib. Şirkət bu addımla inkişaf etmiş süni intellekt imkanlarının müdafiə məqsədilə istifadə edilməsinə üstünlük verməyi hədəfləyir.
Mənbə: TrtHaber