Reddit-də süni zəka botlarının iştirakı ilə qanunsuz təcrübə keçirilib
Süni İntellekt
30.04.2025
Emil Nəcəfov
Reddit platforması Sürix Universitetindən olan bir qrup tədqiqatçını əbədi olaraq bloklayıb. Buna səbəb həmin tədqiqatçıların bir neçə ay ərzində gizli şəkildə süni zəka botlarından istifadə edərək istifadəçilərə psixoloji təsir göstərmələri olub. Alimlərin özlərinin “neyroşəbəkələrin inandırıcılığını öyrənmək” adlandırdıqları bu təcrübə qalmaqala səbəb olub və Reddit hazırda məhkəmə iddiası qaldırmaq imkanını nəzərdən keçirir. Tədqiqat çərçivəsində botlar özlərini psixoloq-məsləhətçi və zorakılıq qurbanı kimi təqdim ediblər. Onlar r/changemymind adlı Reddit icmasında 1700-dən çox şərh yazıblar və 10 000-dən çox karma toplayıblar. Onlar ifşa olunana qədər bu fəaliyyət davam edib.
The Verge nəşrinin yazdığına görə, Reddit-in baş hüquqşünası Ben Lee bu təcrübəni təkcə qanunsuz deyil, həm də etikaya zidd hesab edib. Şəbəkəyə sızan məlumatlara görə, botlar GPT-4o, Claude 3.5 Sonnet və Llama 3.1-405B modellərindən istifadə ediblər. Onlar istifadəçilərin post tarixçələrini analiz edərək mümkün qədər inandırıcı arqumentlər seçməyə çalışıblar. “Bütün hallarda botlarımız şərhləri müəllifin son 100 paylaşımı və cavabı əsasında hazırlayırdı” - deyə sənəddə deyilir. Tədqiqatçılar bildiriblər ki, əgər hər hansı paylaşım etik baxımdan problemli sayılırdısa və ya onun süni zəka tərəfindən yazıldığı açıq şəkildə hiss olunurdusa, həmin paylaşımı fərdi şəkildə silirdilər. Yəni, təcrübənin izlərini gizlədirdilər.
Üstəlik, neyroşəbəkələr üçün yazdıqları sorğularda guya Reddit istifadəçilərinin təcrübədə iştirak etməyə razılıq verdiklərini iddia ediblər, halbuki bu, həqiqətə uyğun deyildi. Tədqiqat zamanı - hər nə qədər qeyri-qanuni olsa da - müəyyən edilib ki, botlar insanlara nisbətən inandırma baxımından dəfələrlə daha effektivdir və qarşı tərəfin fikrinə asanlıqla təsir göstərə bilirlər. Tədqiqatın müəlliflərinin fikrincə, əgər süni zəka botları pis niyyətli şəxslərin əlinə keçərsə, seçkilərə müdaxilə etmək və ya ictimai rəyə təsir göstərmək üçün istifadə oluna bilər. Tədqiqatçılar onlayn platformalara süni zəka tərəfindən yaradılan məzmunun yoxlanması üçün etibarlı mexanizmlər hazırlamağı tövsiyə edirlər. Lakin taleyin istehzası ondadır ki, elə bu tədqiqatın özü də zərərli fəaliyyətin və manipulyasiyanın nümunəsinə çevrilib.
Mənbə: The Verge
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
Alibaba şirkəti Qwen 3 flaqman süni zəka modelləri ailəsi Qwen 3-ü təqdim edib
Alibaba şirkəti Qwen 3 flaqman süni zəka modelləri ailəsi Qwen 3-ü təqdim edib
Bu həftənin əvvəlində Çin şirkəti Alibaba Group Holdings yeni flaqman süni zəka modelləri ailəsi olan Qwen 3-ü təqdim edib. Bu modellər nəticə əldə etmək üçün müasir “ekspertlərin qarışığı” (mixture of experts) metodundan istifadə edir və bu nəticələr hibrid məntiqi sistemlərin göstəriciləri ilə müqayisə olunur.
SEO keçmişdə qalır: Saytlar süni zəkaya əsasən optimizasiyaya başlayıblar
SEO keçmişdə qalır: Saytlar süni zəkaya əsasən optimizasiyaya başlayıblar
İri şirkətlər və reklam agentlikləri istifadəçilərin məlumatı Google vasitəsilə deyil, ChatGPT, Claude və Gemini kimi çat-botlarla axtardıqları yeni reallığa fəal şəkildə uyğunlaşmağa başlayıblar.
Beynəlxalq Kosmik Stansiyada süni zəka istifadəyə verilib
Beynəlxalq Kosmik Stansiyada süni zəka istifadəyə verilib
Meta və Booz Allen şirkətləri birgə şəkildə Beynəlxalq Kosmik Stansiya (BKS) üçün Space Llama adlı süni zəka sistemini hazırladıqlarını elan ediblər.
Bütün məşhur süni zəka modellərini bir üsul ilə asanlıqla "sındırmaq" mümkündür
Bütün məşhur süni zəka modellərini bir üsul ilə asanlıqla "sındırmaq" mümkündür
Generativ süni zəka modellərinə sorğular tərtib etməyin universal texnikası olan Policy Puppetry ən böyük və ən məşhur sistemləri sındırmaq vasitəsi kimi çıxış edə bilir - bunu süni zəka təhlükəsizliyi sahəsində ixtisaslaşmış HiddenLayer şirkətinin mütəxəssisləri bildirirlər.
ABŞ Avropa Birliyindən sərt süni zəka qanunlarından imtina etməyi tələb edir
ABŞ Avropa Birliyindən sərt süni zəka qanunlarından imtina etməyi tələb edir
Avropa Birliyi süni zəka tərtibatçıları üçün alqoritmlərin şəffaflığına, risklərin azaldılmasına və müəllif hüquqlarının qorunmasına dair tələbləri sərtləşdirəcək qaydalar toplusu hazırlayır.
Həftənin xəbərləri
