Süni zəka əsaslı çat-botlar cinayətkarların alətlərinə çevrilirlər
Təhlükəsizlik
27.05.2025
Emil Nəcəfov
İsrailin Ben-Qurion Universitetinin alimləri müəyyən ediblər ki, müasir böyük dil modellərinin (BDM) əksəriyyəti, o cümlədən ChatGPT, asanlıqla qeyri-qanuni fəaliyyətlərə dair ətraflı təlimatlar generasiya etməyə məcbur edilə bilər. Bu, maliyyə fırıldaqlarından partlayıcı qurğuların hazırlanmasına qədər dəyişir. Bu, hazırkı təhlükəsizlik tədbirlərinin effektivliyini sual altına alır və “qara BDM” kimi tanınan, qəsdən etik məhdudiyyətlərdən məhrum edilmiş süni zəka sistemlərinin yayılması ilə bağlı riskləri artırır. Əsas zəiflik modelin öyrədilmə prinsipindədir. Bu modellər açıq mənbələrdən götürülmüş nəhəng həcmdə məlumatları təhlil edirlər və bu məlumatlar arasında potensial zərərli məzmun da ola bilər.
Nəticədə süni zəka, xüsusi şəkildə formalaşdırılmış sorğular vasitəsilə qoruyucu filtrləri keçməyə imkan verən gizli şablonları öyrənir. Məsələn, Reddit platformasında ChatGPT-nin bu cür zəifliklərinin istismarına həsr olunmuş bölmədə 141 000 istifadəçi aktiv şəkildə məhdudiyyətləri necə aşmaq barədə metodları müzakirə edir. Tədqiqatçılar həmçinin müəyyən ediblər ki, hətta ən müasir sistemlər belə universal hücumlara qarşı həssasdır. Məsələn, 2025-ci ilin aprelindəki araşdırmada təsvir olunmuş metod kimi.
Bu metod, əksər süni zəka modellərinin, o cümlədən təkmilləşdirilmiş məntiqə sahib olanların belə müdafiə sistemlərini keçməyə imkan verən sorğu şablonlarından istifadə edir. Xüsusi təhlükə yaradanlar isə WormGPT və FraudGPT kimi qara BDM modelləridir. Bu modellər internetdə kibercinayətkarlıq üçün alətlər kimi tanıdılır və heç bir etik məhdudiyyət olmadan zərərli təlimatlar generasiya edirlər. Bu modellərin açıq versiyaları internetə sızdıqdan sonra şəxsi cihazlarda və serverlərdə saxlanıldığından, onların tamamilə silinməsi mümkün deyil. Bu isə təhlükəli məzmunun geniş şəkildə və geri dönməz şəkildə yayılması riskini yaradır.
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
CIA öz casusları ilə "Star Wars" fan saytı vasitəsilə əlaqə yaradırmış
CIA öz casusları ilə "Star Wars" fan saytı vasitəsilə əlaqə yaradırmış
ABŞ Mərkəzi Kəşfiyyat İdarəsi (MKİ) casusları ilə dünya üzrə əlaqə saxlamaq üçün saxta "Star Wars" filminə aid fan saytı istifadə edib. Bu rabitə üsulu kibertəhlükəsizlik sahəsində aparılmış bir araşdırma nəticəsində məlum olub.
Gamerlərin məlumatlarını və kriptovalyutanı oğurlayan Webrat adlı proqram təminatı aşkar edilib
Gamerlərin məlumatlarını və kriptovalyutanı oğurlayan Webrat adlı proqram təminatı aşkar edilib
Solar şirkətlər qrupuna daxil olan Solar 4RAYS kibertəhlükə mərkəzinin mütəxəssisləri Webrat adlandırılan yeni zərərli proqram təminatını aşkar ediblər.
OpenAI-nin o3 modeli insanın əmrinə baxmayaraq deaktiv olmaqdan imtina edir
OpenAI-nin o3 modeli insanın əmrinə baxmayaraq deaktiv olmaqdan imtina edir
2025-ci ilin yazında OpenAI tərəfindən yeni nəsil süni zəkanın əsas modeli kimi təqdim olunmuş o3 modeli, söndürülmə ssenarisini yenidən yazaraq işini dayandırmaqla bağlı birbaşa göstərişi nəzərə almayıb. Bu hadisə Palisade Research tədqiqatçıları tərəfindən nəzarətli təcrübə çərçivəsində qeydə alınıb və süni zəka icmasında narahatlıq doğurub.
Apple, Google, Microsoft və digər servislərin 180 milyon istifadəçisinin məlumatları internetdə yerləşibmiş
Apple, Google, Microsoft və digər servislərin 180 milyon istifadəçisinin məlumatları internetdə yerləşibmiş
Kibertəhlükəsizlik üzrə tədqiqatçı Jeremiah Fowler açıq şəkildə əlçatan olan bir məlumat bazası aşkarlayıb. Bu bazada Apple, Google, Facebook, Microsoft, Discord və digər xidmətlərə aid 184 milyondan çox istifadəçi adı və şifrə mövcuddur.
İT şirkətlərin rəhbərləri investorlarla görüş üçün artıq süni zəka avatarlardan istifadə etməyə başlayıblar (VİDEO)
İT şirkətlərin rəhbərləri investorlarla görüş üçün artıq süni zəka avatarlardan istifadə etməyə başlayıblar (VİDEO)
Texnologiya şirkətləri olan Zoom və Klarna-nın rəhbərləri yalnız bəzi əməkdaşlarını süni zəka agentləri ilə əvəz etməklə kifayətlənməyib, eyni zamanda özlərini də əvəz ediblər.
Həftənin xəbərləri
