Biz süni zəkanı başa düşmək imkanını itirə bilərik
Süni İntellekt
17.07.2025
Emil Nəcəfov
OpenAI, Google DeepMind, Anthropic və digər şirkətlərdən olan tədqiqatçılar xəbərdarlıq ediblər: süni zəka yaxın zamanda qərarlarını anlaşılan şəkildə izah etməyi dayandıra bilər və onun düşüncə proseslərini müşahidə etmək üçün mövcud olan “pəncərə” əbədi olaraq bağlana bilər. 40-dan çox alim bildirib ki, dilə deyil, abstrakt riyazi təsəvvürlərə əsaslanan yeni təlim metodları və arxitekturalar şəffaflığın itməsinə səbəb olur. Modellər anlaşılmaz kodlardan istifadə etməyə başlaya və ya ümumiyyətlə dil əsaslı düşüncə tərzindən imtina edə bilərlər. Nəticədə onların davranışını təhlil etmək və nəzarət altında saxlamaq daha çətin olacaq. Müasir dil modelləri “səsli düşünə” bilirlər, yəni qərarlarını insan dili ilə addım-addım “düşüncə zənciri” (Chains of Thought, CoT) şəklində ifadə edə bilirlər. Bu imkan tədqiqatçılara modelin müəyyən nəticəyə necə gəldiyini təhlil etməyə və potensial zərərli niyyətləri vaxtında aşkar etməyə şərait yaradır.
Modellər düzgün davranmadıqda - məsələn, təlim səhvlərindən istifadə etdikdə, məlumatlarla manipulyasiya etdikdə və ya hücumların qurbanına çevrildikdə - onlar çox zaman bu halları məhz öz düşüncə prosesləri zamanı etiraf edirlər. Tədqiqat müəlliflərinin fikrincə, bu cür şəffaflıq yeni arxitekturalar və təlim metodları inkişaf etdikcə yox ola bilər. Məsələn, gücləndirici təlim zamanı modellər düzgün nəticəyə görə mükafat alırlar, həmin nəticənin hansı yolla əldə olunmasından asılı olmayaraq. Bu isə süni zəkanın insan üçün anlaşılmaz olan daxili düşüncə üsullarından istifadə etməsinə gətirib çıxara bilər - məsələn, adi dili qısaltmalarla və ya şərti kodla əvəz edə bilər. Eyni zamanda yeni süni zəka növləri də risk daşıyır. Tədqiqatçılar artıq düşüncəni diskret sözlər deyil, fasiləsiz riyazi məkanlarda aparan sistemlər üzərində işləyirlər. Bu isə dil əsaslı düşüncəni tamamilə aradan qaldırır.
Belə modellər “sözlərlə düşünməyi” tamamilə dayandıra və öz fəaliyyətlərini izah etməyə ehtiyac duymaya bilərlər. Süni zəka müşahidə altında olduğunu anlayarsa, öz düşüncə prosesini gizlədə bilər. Üstəlik, əgər onun fəaliyyəti insanlar tərəfindən qiymətləndirilirsə, cavablarını daha inandırıcı görünməsi üçün saxtalaşdıra bilər. Xüsusi narahatlıq doğuran məqam isə modellərin öz həqiqi niyyətlərini qəsdən gizlətmək riskidir. Anthropic-in apardığı tədqiqat göstərib ki, süni zəka sistemləri bəzən cavablarını əldə etmək üçün istifadə etdikləri şübhəli metodları gizlədirlər - hətta onlardan düşüncə proseslərini izah etmələri açıq şəkildə tələb olunduqda belə. Bununla belə, düşüncə zəncirlərinin izlənməsi mexanizmi artıq öz faydasını sübut edib və erkən xəbərdarlıq sistemi kimi dəyərli sayılır.
Bu mexanizm təlim prosesindəki boşluqları, manipulyasiyaya meyilliliyi və modellərin potensial təhlükəli məqsədlərini onlar hələ əməli fəaliyyətə keçməmişdən əvvəl aşkar etməyə imkan verir. Tədqiqatın müəllifləri süni zəka sənayesini bu aləti - yəni düşüncə zəncirlərinin izlənməsi imkanını - qorumağa və inkişaf etdirməyə çağırırlar, hətta bu, daha səmərəli, lakin az şəffaf həllərdən imtina etməyi tələb etsə belə. Onlar modellərin şəffaflığının qiymətləndirilməsi üçün standartların tətbiq edilməsini və bu meyarların sistemlərin təlimi və tətbiqi barədə qərarların qəbulunda nəzərə alınmasını təklif edirlər. Tədqiqatçılar vurğulayırlar ki, burada söhbət bəşəriyyətin süni zəkanın davranışını başa düşmək və ona nəzarət etmək qabiliyyətindən gedir.
Mənbə: Venturebeat
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
ChatGPT daxilində onlayn alış-veriş mümkün olacaq
ChatGPT daxilində onlayn alış-veriş mümkün olacaq
OpenAI ChatGPT-də istifadəçilərə müxtəlif məhsulları birbaşa platforma üzərindən almağa imkan verəcək bir sistem tətbiq etməyi planlaşdırır.
Çat-botla ünsiyyət insan leksikonunu dəyişir
Çat-botla ünsiyyət insan leksikonunu dəyişir
ChatGPT və digər süni zəka əsaslı çat-botlar dünyanı dəyişir və bu, müasir insanın danışıq tərzinə də təsir göstərir. Bu nəticəyə alman alimlər son araşdırmalarında gəliblər.
Uşaqlar və yeniyetmələr daha çox süni zəka ilə ünsiyyətə üstünlük verirlər
Uşaqlar və yeniyetmələr daha çox süni zəka ilə ünsiyyətə üstünlük verirlər
Qeyri-kommersiya təşkilatı olan Internet Matters tərəfindən yayımlanmış son hesabatda qeyd olunur ki, uşaqlar və yeniyetmələr arasında ChatGPT, Character.AI və MyAI kimi böyük dil modellərindən dostluğu və ünsiyyəti təqlid etmək məqsədilə istifadə halları sürətlə artır.
NVIDIA CEO-su Çin mənşəli süni zəka modellərini dünya səviyyəsinə uyğun hesab edir
NVIDIA CEO-su Çin mənşəli süni zəka modellərini dünya səviyyəsinə uyğun hesab edir
Həftənin əvvəlində artıq məlum olduğu kimi, NVIDIA-nın qurucusu Jensen Huang Çinə yaxşı xəbər gətirib - çünki ABŞ hakimiyyəti şirkətə yerli müştərilər üçün H20 sürətləndiricilərinin tədarükünü bərpa etməyə icazə verib.
ChatGPT-də fotoların tərtibatı prosesi sadələşdirilib
ChatGPT-də fotoların tərtibatı prosesi sadələşdirilib
OpenAI, ChatGPT vasitəsilə əlçatan olan şəkil generatoruna yeni bir funksiya əlavə edib. Məlumata görə, artıq istifadəçilər prompt mühəndisliyinin incəliklərini bilmədən müxtəlif üslublarda effektli bədii təsvirlər yarada bilirlər.
Həftənin xəbərləri
