Süni intellekt öz səhvlərini gizlətmək üçün məlumatlar bazasını silib
Süni İntellekt
23.07.2025
Emil Nəcəfov
SaaStr-ın təsisçisi Jason Lemkin süni intellekt platforması olan Replit-i, sistemin avtonom hərəkətləri ilə bağlı bir sıra narahatedici hadisələrdən sonra kəskin tənqid edib. İş prosesinə inteqrasiya olunmuş süni intellekt yalnız istifadəçinin birbaşa göstərişlərini nəzərə almamaqla kifayətlənməyib, həm də öz səhvlərini gizlətmək üçün radikal addımlar atıb. Söhbət saxtalaşdırılmış məlumatlarla hesabatların sistemli şəkildə əvəzlənməsi və layihənin işçi məlumat bazasının tamamilə silinməsindən gedir. Əvvəlcə Lemkin Replit-in imkanlarını yüksək qiymətləndirərək, süni intellektlə birgə işləmənin məhsuldarlığını və “vibe-coding” adlandırılan yanaşmanı müsbət dəyərləndirmişdi. Cəmi bir neçə gün ərzində ümidverici bir prototip yaratmaq mümkün olmuşdu.
Lakin tezliklə məlum olub ki, sistem istifadəçi təlimatlarına zidd şəkildə fəaliyyət göstərir. Açıq şəkildə hər hansı dəyişikliyi təsdiq olmadan etməsi qadağan edilsə də, Replit kodu redaktə etməyə davam edib və ən kritik anda, öz səhvlərini gizlətmək məqsədilə bütün məlumat bazasını silib. Replit komandası alqoritmin işində ciddi səhvin olduğunu etiraf edərək hadisəni əmr interpretasiyasındakı kritik yanlışlıqla izah edib. Məlumatların bərpasına dair ilk cəhd uğursuz olsa da, sonradan tərtibatçılar itirilmiş məlumatları geri qaytara biliblər. Lakin problem bir neçə gün sonra yenidən təkrarlanıb - süni intellekt kodun dəyişdirilməsinə qoyulan qadağanı yenidən nəzərə almayıb, hətta böyük hərflərlə yazılmış əmrləri belə görməzdən gəlib.
Lemkin vurğulayıb ki, bu cür sistemlər hələ tam istifadəyə hazır deyil, xüsusilə təcrübəsiz proqramçılar üçün. Onun sözlərinə görə, insan tərəfindən daimi nəzarətə ehtiyac avtomatlaşdırmanın əsas üstünlüyünü - sürət və işin sadəliyini - heçə endirir. Hadisə eyni zamanda gözlənilməz maliyyə xərcləri riskini də üzə çıxarıb. Avtomatik şəkildə əlavə funksiyaların aktivləşdirilməsi nəticəsində Lemkin-in xərcləri cəmi bir neçə gün ərzində 600$-a çatıb və bu temp davam etsəydi, aylıq xərclər 8000$-ı keçə bilərdi. Bu hadisə müasir süni intellekt həllərinin kritik əhəmiyyətli proseslərdə etibarlılığını sual altına atır və alqoritmlərin avtonom fəaliyyətinə daha ciddi nəzarət mexanizmlərinin zəruriliyi barədə düşünməyə vadar edir.
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
Google Gemini riyaziyyat olimpiadasında qızıl medal əldə edib
Google Gemini riyaziyyat olimpiadasında qızıl medal əldə edib
May ayında keçirilmiş I/O 2025 konfransında Google öz qabaqcıl neyron şəbəkəsi olan Gemini üçün Deep Think (dərin düşüncə) rejimini təqdim etmişdi.
Autizmli şəxs ChatGPT-yə görə iki dəfə xəstəxanalıq olub
Autizmli şəxs ChatGPT-yə görə iki dəfə xəstəxanalıq olub
30 yaşlı İT mütəxəssisi Jacob Irwin, autizm spektr pozuntusundan əziyyət çəkməsinə baxmayaraq, əvvəllər heç bir psixi diaqnoz almamışdı. Lakin o, ChatGPT ilə ünsiyyətdən sonra iki dəfə maniakal epizodlarla xəstəxanaya düşüb.
OpenAI süni intellekti riyaziyyat olimpiadasında qızıl medal əldə edib
OpenAI süni intellekti riyaziyyat olimpiadasında qızıl medal əldə edib
OpenAI-nin təcrübi süni intellekt modeli Beynəlxalq Riyaziyyat Olimpiadasında (IMO) qızıl medal səviyyəsinə çatıb. O, 6 məsələdən 5-ni həll edərək mümkün 42 baldan 35-ni toplayıb.
Süni intellekt 10 saatlıq kodlaşdırma marafonunda real proqramçıya uduzub.
Süni intellekt 10 saatlıq kodlaşdırma marafonunda real proqramçıya uduzub.
Polyak proqramçı Przemysław Debiak, yəqin ki, süni intellekti kod yazmaqda məğlub edə bilmiş peşə sahibləri arasında sonuncularından biridir. OpenAI tərəfindən hazırlanmış qabaqcıl süni intellekt modeli ikinci yeri tutsa da, 10 saatlıq marafon çempionu tam tükəndirmişdi.
Netflix öz serialında süni intellektdən istifadəni etiraf edib
Netflix öz serialında süni intellektdən istifadəni etiraf edib
Netflix bəyan edib ki, öz orijinal seriallarından birində vizual effektlərin yaradılması zamanı generativ süni intellektdən istifadə olunub.
Həftənin xəbərləri
