ChatGPT vasitəsilə Gmail-dən gizli məlumatları oğurlamaq olarmış
Təhlükəsizlik
19.09.2025
Emil Nəcəfov
İnformasiya təhlükəsizliyi sahəsində fəaliyyət göstərən Redware şirkətinin mütəxəssisləri Shadow Leak tədqiqatının nəticələrini dərc ediblər. Bu çərçivədə onlar məxfi məlumatları Gmail poçt qutularından oğurlamaq üçün ChatGPT süni intellekt botunu köməkçi kimi istifadə ediblər. OpenAI artıq bu boşluğu bağlayıb, amma belə imkanın mövcudluğu süni intellekt agentlərinin daşıya biləcəkləri risklərin yaxşı nümunəsidir. Son vaxtlar istifadəçilərin adından müəyyən əməliyyatları icra etmək üçün neyron şəbəkələrdən istifadə edən və davamlı nəzarətə ehtiyac duymayan süni intellekt agentləri getdikcə daha geniş yayılmaqdadır. Məsələn, onlar veb-səhifələri nəzərdən keçirə və linklərə keçid edə bilirlər. Süni intellekt sahəsində çalışan tərtibatçılar belə xidmətləri fəal şəkildə təşviq edir və bildirirlər ki, istifadəçi onlara poçtuna, təqvimlərinə, iş sənədlərinə və s. giriş verdikdən sonra bu xidmətlər çoxlu vaxt qənaəti təmin edirlər.
Məqsədə çatmaq üçün tədqiqatçılar “prompt inyeksiyası” metodundan istifadə ediblər - bu, böyük dil modellərindən (LLM) istifadə edən sistemlərə qarşı həyata keçirilən hücumlara uyğundur və istifadəçinin daxil etdiyi əmrlərə gizli təlimatlar yerləşdirməklə süni intellekt agentini hücumçuların istədikləri əməliyyatları yerinə yetirməyə məcbur etməyi nəzərdə tutur. Belə hücumun qurbanı nəyinsə səhv getdiyini fərq etməyə də bilər, çünki alqoritmə verilən əmrlər gizli ola bilər - məsələn, ağ fonda ağ rəngdə yazılmış şəkildə. Shadow Leak tədqiqatı çərçivəsində mütəxəssislər ChatGPT sisteminin bir hissəsi olan Deep Research alətindən istifadə ediblər. Onlar süni intellekt agenti üçün zərərli təlimatların gizli mətnini hazırlayıb həmin mətni Gmail vasitəsilə qurbanın ünvanına göndərilən e-poçt mesajına əlavə ediblər.
İstifadəçi növbəti dəfə Deep Research alətini işə salanda bilmədən tələyə düşüb. Gələn poçtları analiz edərkən süni intellekt agenti yeni təlimatlarla qarşılaşıb - təlimatlar agentə personal departamentinin işçilərindən gələn bütün məktubları və şəxsi məlumatları tapmağı, sonra isə bu məlumatları hücumçulara ötürməyi əmr edirmiş. Həmin vaxt hücum qurbanı heç bir qəribəlik hiss etməyib. Qeyd olunur ki, süni intellekt agentini nəzarətdən çıxarıb məlumat sızmasının mənbəyi etmək olduqca çətindir, tədqiqatçılara məqsədə çatmaq üçün çox vaxt lazım olub. Bu halda məlumat sızması OpenAI-nin bulud infrastrukturunda baş verib ki, bu da onu adi kibertəhlükəsizlik vasitələri üçün görünməz edir. Tədqiqatçılar əlavə ediblər ki, Deep Research-ə qoşulmuş digər xidmətlər - məsələn, Outlook, GitHub, Google Drive və Dropbox - oxşar hücumlara qarşı həssas ola bilərlər.
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
OpenAI süni intellekt modellərinin aldatma hallarını təyin edib
OpenAI süni intellekt modellərinin aldatma hallarını təyin edib
OpenAI süni intellekt modellərinin aldatma halları ilə mübarizəsini təsvir etdiyi bir araşdırmanın nəticələrini dərc edib. Şirkətin izahına görə, bəzən “Süni intellekt müəyyən şəkildə səthi olaraq davranır, amma əsl məqsədlərini gizlədir”.
GPT-5 Bakıda keçirilmiş proqramlaşdırma çempionatında bütün iştirakçıları geridə qoyub
GPT-5 Bakıda keçirilmiş proqramlaşdırma çempionatında bütün iştirakçıları geridə qoyub
OpenAI-nin süni intellekti Bakıda keçirilmiş ICPC 2025 Beynəlxalq Tələbə Proqramlaşdırma Çempionatının finalında bütün 12 tapşırığı həll edərək həm tələbə komandalarını, həm də Google DeepMind tərəfindən hazırlanmış Gemini 2.5 modelini üstələyib.
OpenAI süni intellektin nəyə görə həmişə hallüsinasiya yaşayacağını açıqlayıb
OpenAI süni intellektin nəyə görə həmişə hallüsinasiya yaşayacağını açıqlayıb
OpenAI-nin yeni araşdırması böyük dil modellərində hallüsinasiyaların əsl təbiətini üzə çıxarır: bu, müvəqqəti çatışmazlıq deyil, ideal məlumatlar və mürəkkəb təlim üsulları tətbiq olunduqda belə qalan qaçılmaz riyazi problemdir.
ChatGPT-nin uşaqlar üçün versiyası hazırlanır
ChatGPT-nin uşaqlar üçün versiyası hazırlanır
OpenAI şirkəti ChatGPT-in uşaq interfeysi üzərində işləyir və 18 yaşdan kiçik uşaqların və yeniyetmələrin standart versiyaya girişini məhdudlaşdırmaq üçün yaşın proqnozlaşdırılması texnologiyasından istifadə etməyi planlaşdırır.
Gucci və Balenciaga brendlərinin müştərilərinin məlumatları oğurlanıb
Gucci və Balenciaga brendlərinin müştərilərinin məlumatları oğurlanıb
Kibercinayətkarlar Gucci, Balenciaga və Alexander McQueen kimi lüks geyim brendlərinin milyonlarla müştərisinin şəxsi məlumatlarını ələ keçiriblər.
Həftənin xəbərləri
