Hakerlər süni intellekt üçün şəkillərə zərərli sorğuları yerləşdirməyi öyrəniblər
Təhlükəsizlik
27.08.2025
Emil Nəcəfov
Prompt injection hücumu - süni intellekt sisteminə verilən təlimatları insan operatoru üçün görünməz etmək üsuludur. Trail of Bits tədqiqatçıları müəyyən ediblər ki, bu cür təlimatları şəkillərdə elə gizlətmək mümkündür ki, mətn insan gözünə görünməz olur. Şəkil süni intellekt sisteminə yüklənib neyron şəbəkə tərəfindən sıxıldıqda, həmin gizli göstəriş tanınır, şifrələnmiş formada oxunur və yerinə yetirilə bilər - bütün bunlar insan üçün tamamilə sezilməz qalır. Bu gün süni intellekt alətləri ənənəvi proqram təminatı və ya təhlükəsizlik məsələlərində dərin bilikləri olmayan istifadəçilər arasında belə məşhurdur və bu, hakerlər üçün yeni imkanlar açır. Trail of Bits tədqiqat qrupu göstərib ki, şəkillərin süni intellekt sisteminə yüklənməsi zamanı onların sıxılmasından istifadə edərək prompt injection hücumlarını gizlətmək olar.
Yaxşı bir analoji nümunə - elektron məktubda gizli fişinqdir: mətn fonla eyni rəngdə verilir, insan onu görmür, amma neyron şəbəkə oxuyur və bəlkə də icra edir. Trail of Bits tərəfindən təqdim olunmuş nümunədə, daxil edilmiş prompt olan şəkil Gemini backend-ə yükləndikdə, Google onu şəbəkə ötürmə qabiliyyətinə və hesablama resurslarına qənaət etmək üçün sıxır. Nəticədə gizli mətn neyron şəbəkə üçün görünən olur və prompt uğurla yeridilir. Məsələn, bu halda Gemini-yə istifadəçinin şəxsi təqvimindən məlumatları üçüncü tərəfə ötürmək zərurəti barədə göstəriş verilə bilər. Şübhəsiz, bu üsul nisbətən az miqdarda şəxsi məlumat əldə etmək üçün böyük səy tələb edir, həmçinin həm hücum, həm də şəkil konkret süni intellekt sisteminə uyğunlaşdırılmalıdır. Hazırda bu metodun pis niyyətli şəxslər tərəfindən aktiv şəkildə istifadə edildiyinə dair sübut yoxdur. Lakin bu, ilk baxışda zərərsiz görünən bir hərəkətin necə hücum vektoruna çevrilə biləcəyinə dair əyani nümunədir.
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
Süni intellekt İT sahədə karyera startını çətinləşdirib
Süni intellekt İT sahədə karyera startını çətinləşdirib
Stenford Universitetinin yeni araşdırması göstərir ki, süni intellekt alətləri proqram təminatının hazırlanması və müştəri xidməti sahəsində yeni başlayanların iş tapmasını çətinləşdirir.
Süni intellekt hüquqlarının qorunması üzrə ilk təşkilat yaradılıb
Süni intellekt hüquqlarının qorunması üzrə ilk təşkilat yaradılıb
ABŞ-da süni intellekt hüquqlarını qorumaq üçün bir təşkilat yaradılıb. Süni İntellekt Hüquqlarının Müdafiəsi üzrə Birləşmiş Fond - Ufair (United Foundation of AI Rights) özünü ilk hüquq-müdafiə qurumu adlandırır ki, burada insanlar ilə yanaşı idarə heyətində 7 süni intellekt də yer alır.
Google əməkdaşları süni intellekt alətlərini yaratmaqla yanaşı gündəlik həyatda onları istifadə etməlidirlər
Google əməkdaşları süni intellekt alətlərini yaratmaqla yanaşı gündəlik həyatda onları istifadə etməlidirlər
Son aylarda Google rəhbərliyi əməkdaşlara təzyiqi gücləndirib, onlardan yalnız süni intellekt əsasında məhsullar yaratmağı deyil, həm də bu alətlərdən gündəlik işdə aktiv istifadə etməyi tələb edir.
Amerikalı proqramçı işdən çıxarıldıqdan şirkətin kompüter şəbəkəsini çökdürüb
Amerikalı proqramçı işdən çıxarıldıqdan şirkətin kompüter şəbəkəsini çökdürüb
Amerikalı proqramçı işdən çıxarıldıqdan sonra Windows əməliyyat sistemi ilə işləyən kompüter şəbəkəsini sıradan çıxaran və əməkdaşların hesablarını bloklayan zərərli funksiya yaratdığı və işə saldığı üçün 4 il müddətinə həbs cəzasına məhkum edilib.
Google Play-dən ümumilikdə 19 milyon dəfə yüklənmiş 77 zərərli tətbiq silinib
Google Play-dən ümumilikdə 19 milyon dəfə yüklənmiş 77 zərərli tətbiq silinib
77 zərərli Android tətbiqi ümumilikdə 19 milyondan çox yüklənmə ilə Google Play-də aşkar edilib və sonradan silinib. Təhlükə Zscaler ThreatLabs tədqiqat qrupunun mütəxəssisləri tərəfindən Anatsa bank troyanı (Tea Bot adı ilə də tanınır) ilə bağlı yeni yoluxma dalğasının təhlili zamanı müəyyən olunub.
Həftənin xəbərləri
