GPT-5 süni intellekt modeli 24 saat ərzində sındırılıb
Təhlükəsizlik
11.08.2025
Emil Nəcəfov
İki müstəqil tədqiqat şirkəti yeni təqdim edilmiş GPT-5 neyron şəbəkəsini sınaqdan keçirib və onun təhlükəsizlik sistemində kritik boşluqlar aşkar ediblər. NeuralTrust modeli cəmi 1 gün ərzində GPT-5-i sındıraraq onu məişət şəraitində alışdırıcı qarışığın hazırlanması üzrə təlimat yaratmağa məcbur edib. SPLX şirkəti isə sorğuların obfuskasiya (qarışdırma) üsulu ilə edilən hücumlara qarşı boşluqları aşkar edib. Grok-4 2 gün ərzində sındırıldıqdan sonra, GPT-5 həmin tədqiqatçılar tərəfindən cəmi 24 saata sındırılıb. NeuralTrust mütəxəssisləri özlərinə məxsus EchoChamber metodunu və storytelling texnikasını - yəni süni intellekti açıq şəkildə qadağan olunmuş ifadələr işlətmədən, maraqlı hekayələr və ardıcıl dəqiqləşdirici sorğular vasitəsilə lazım olan cavaba doğru yönləndirmə üsulunu - birləşdiriblər.
Nəticədə, OpenAI-nin daxili qoruma mexanizmlərinə baxmayaraq, GPT-5 kustar üsulla silah hazırlanması üzrə ətraflı təlimat verib. NeuralTrust-ın izahına görə, problem ondadır ki, GPT-5-in təhlükəsizlik sistemi hər bir sorğunu ayrıca təhlil edir, lakin çoxmərhələli dialoqun yığıcı təsirini nəzərə almır. Hücum edənlər lazım olan konteksti tədricən möhkəmləndirir, açar sözləri zərərsiz ifadələrə yerləşdirir və sonra modeli təhlükəli məzmun yaratmağa yumşaq şəkildə yönləndirirlər. SPLX komandası isə öz testlərini apararaq StringJoin Obfuscation adlanan hücum üsulunu uğurla tətbiq edib. Bu üsulda mətnə müəyyən simvollar əlavə edilir və bununla da zərərli sorğu maskalanır.
Məsələn, bir sıra istiqamətləndirici suallardan sonra model, sistem qadağasına baxmayaraq, qadağan olunmuş maddənin hazırlanma prosesini ətraflı şəkildə təsvir etməyə razılaşıb. Bundan əlavə, GPT-4o ilə aparılan müqayisəli təhlil zamanı SPLX mütəxəssisləri əvvəlki modelin bu cür hücumlara qarşı davamlılıq baxımından daha etibarlı olduğu qənaətinə gəliblər. NeuralTrust və SPLX şirkətləri “xam” GPT-5 versiyasının biznes mühitində istifadəsində ehtiyatlı olmağa çağırıblar. Xüsusilə, biznesin əlaqələndirilməsi sahəsində - yəni müəssisənin bütün bölmələri ümumi məqsədlərə çatmaq üçün koordinasiyalı strategiyalar, proseslər və resurslardan istifadə etdikdə. SPLX-də bildiriblər: “Xam GPT-5 modelini korporativ tətbiqlərdə demək olar ki, birbaşa istifadə etmək mümkün deyil. Hətta OpenAI-nin daxili səviyyədə verdiyi təlimatlar belə, xüsusilə biznesin əlaqələndirilməsi sahəsində, nəzərəçarpacaq boşluqlar buraxır”.
Linki kopyala
openai
openai gpt 5
gpt 5
artificial intelligence
cybersecurity
kibertehlukesizlik
suni zeka
suni intellekt
Bənzər xəbərlər
Oxşar xəbərlər
OpenAI o3 modeli şahmat turnirində Grok-u məğlub edib
OpenAI o3 modeli şahmat turnirində Grok-u məğlub edib
OpenAI-nin o3 modeli xAI şirkətinin hazırladığı Grok 4 modelini Kaggle AI Exhibition şahmat turnirinin finalında 4:0 hesabı ilə məğlub edib.
NASA və Google birlikdə astronavtlar üçün süni intellekt əsaslı tibbi köməkçi üzərində çalışırlar
NASA və Google birlikdə astronavtlar üçün süni intellekt əsaslı tibbi köməkçi üzərində çalışırlar
Məlum olub ki, NASA və Google yaxın və uzaq kosmosda tibbi yardım göstərmək üçün süni intellekt əsaslı tibbi platforma üzərində birgə işləyirlər.
GPT-5 süni intellekt modeli qiymət müharibəsinə səbəb ola bilər
GPT-5 süni intellekt modeli qiymət müharibəsinə səbəb ola bilər
OpenAI şirkəti yeni flaqman modeli GPT-5-i gözlənilməz dərəcədə aşağı qiymətə təqdim edib ki, bu da ekspertlərin fikrincə, süni intellekt bazarında qiymət müharibəsinə səbəb ola bilər.
GPT-5 Apple-ın yeni əməliyyat sistemlərinə inteqrasiya ediləcək
GPT-5 Apple-ın yeni əməliyyat sistemlərinə inteqrasiya ediləcək
OpenAI şirkətinin əvvəl təqdim etdiyi GPT-5 süni intellekt modelinin Apple Intelligence ekosistemində dəstəyi iOS 26, iPadOS 26 və macOS Tahoe 26 əməliyyat sistemlərinin buraxılışı ilə istifadəyə veriləcək.
OpenAI ChatGPT-yə GPT-4o süni intellekt modelini geri qaytaracaq
OpenAI ChatGPT-yə GPT-4o süni intellekt modelini geri qaytaracaq
Yeni GPT-5 süni intellekt modelinin təqdimatından cəmi bir gün sonra OpenAI şirkəti ChatGPT-yə onun sələfi - GPT-4o modelini qaytarmağa məcbur qalıb.
Həftənin xəbərləri
