Anthropic-in CEO-su: "Süni zəka üzərində etibarlı nəzarət sisteminin hazırlanmasına 5-10 il vaxt lazım olacaq"
Süni İntellekt
25.04.2025
Emil Nəcəfov
Anthropic şirkətinin baş direktoru Dario Amodei xəbərdarlıq edib ki, süni zəka hələ də insanlıq üçün bir “qara qutu” olaraq qalır - biz süni zəkanın qərarları necə və niyə qəbul etdiyini tam anlamırıq. O, ümumi süni zəkanı (AGI) “data mərkəzində həbs olunmuş dahilər birliyi” ilə müqayisə edib və belə sistemlərin daxili məntiqi dərindən başa düşülmədən istifadəyə verilməsinin təhlükəli olduğunu bildirib. Gələcəkdə Anthropic öz süni zəka modellərində bir növ “beyin skan edilməsi” apararaq onların zəif cəhətlərini - yalan danışmağa meyldən tutmuş nəzarətə can atmağa qədər - aşkar etməyi planlaşdırır.
Dario Amodei:
“Süni Zəkanın Şərh Edilməsinin Təcili Zərurəti” adlı esse yazısında Amodei qeyd edib ki, Anthropic artıq modellərin işləmə məntiqini izləməkdə ilk uğurları əldə edib, lakin vurğulayır ki, getdikcə daha mürəkkəb qərarların şifrəsini açmaq üçün genişmiqyaslı tədqiqatlara ehtiyac olacaq. Amodei yazır: “Bu cür sistemlərin iş prinsiplərini dərindən anlamadan istifadəyə verilməsi ciddi narahatlıq doğurur. Onlar iqtisadiyyatın, texnologiyanın və milli təhlükəsizliyin əsas dayağına çevriləcəklər və belə bir şəraitdə onların daxili mexanizmlərini bilməmək insanlıq üçün qəbuledilməz olacaq”.
Anthropic süni zəka modellərinin “içəridən” necə işlədiyini və niyə müəyyən qərarlar verdiyini anlamaq üçün cəhdlərə başlayan ilk şirkətlərdən biridir. Bu sahə “mexaniki interpretasiya” adlanır. Süni zəka modelləri getdikcə daha yaxşı və sürətli olur, lakin onların daxili işləmə prinsipləri hələ də yaradıcılar üçün böyük ölçüdə naməlum sahə olaraq qalır. Məsələn, OpenAI yaxın zamanda bəzi tapşırıqlarda daha yaxşı nəticələr göstərən o3 və o4-mini modellərini təqdim edib, lakin bu modellər eyni zamanda daha tez-tez halüsinasiyalar göstərirlər. Şirkət isə bunun səbəbini bilmir.
Amodei öz essesində yazıb: “Süni zəkanın generativ sistemi bir işi, məsələn, maliyyə sənədini ümumiləşdirdikdə, biz dəqiq şəkildə başa düşmürük ki, o niyə məhz belə bir seçim edir - niyə bir sözləri seçir, digərlərini yox, və ya niyə bəzən səhv edir, halbuki adətən dəqiq olur”. Amodei qeyd edir ki, əgər bu cür modellərin necə işlədiyini başa düşməsək ümumi süni zəkanın yaradılması (və ya onun ifadəsi ilə desək, “data mərkəzində həbs olunmuş dahilər birliyi”) riskli ola bilər. Anthropic-in rəhbəri daha əvvəl texnologiya sektorunun 2026-2027-ci illərdə AGI-ya çata biləcəyini ehtimal edirdi.
Lakin indi o hesab edir ki, bu süni zəka modellərinin işləmə prinsiplərini tam anlamağa hələ çox uzaqdayıq. Gələcəkdə Anthropic indiki süni zəka modellərində bir növ “beyin skan edilməsi” və ya “MRT” aparmağı planlaşdırır. Şirkət ümid edir ki, belə yoxlamalar süni zəkanın işindəki müxtəlif problemləri - məsələn, yalan danışmağa meyl, nəzarət etmək istəyi və digər zəif cəhətləri - aşkar etməyə kömək edəcək. Amodei hesab edir ki, bu cür metodların hazırlanması 5-10 il çəkə bilər. Anthropic artıq öz modellərinin necə işlədiyini daha yaxşı anlamağa kömək edən bir neçə mühüm kəşf edib. Məsələn, onlar süni zəkanın “düşüncə yollarını” izləməyin yollarını tapıblar və bu yolları “zəncirlər” adlandırırlar. Belə “zəncirlərdən” biri modellərə ABŞ-ın hansı şəhərinin hansı ştatda yerləşdiyini müəyyən etməyə kömək edir.
Tədqiqatçılar hələlik cəmi bir neçə belə “zəncir” aşkarlayıblar, lakin ehtimal edirlər ki, süni zəka modellərinin daxilində onların milyonlarla sayı mövcuddur. Anthropic bu sahə üzrə çalışan bir startapa da investisiya yatırır. Hazırda süni zəkanın iş prinsiplərini anlamaq təhlükəsizlik baxımından vacib hesab edilsə də, Amodei düşünür ki, gələcəkdə modelin cavablarını necə formalaşdırdığını izah edə bilmək biznes baxımından üstünlüyə çevrilə bilər. O, OpenAI və Google DeepMind şirkətlərinə interpretasiya sahəsini daha fəal şəkildə araşdırmağı təklif edib. Bundan əlavə, Anthropic-in rəhbəri hökumətlərə müraciət edərək belə tədqiqatları təşviq edəcək qaydaların tətbiqini istəyib. Amodei həmçinin hesab edir ki, süni zəkanın dünya üzrə nəzarətsiz inkişaf yarışının qarşısını almaq üçün ABŞ Çinə çip satışını məhdudlaşdırmalıdır.
Mənbə: Techcrunch
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
OpenAI bazarda ən yaxşı açıq mənbəli süni zəka modelini təqdim etməyə hədəflənib
OpenAI bazarda ən yaxşı açıq mənbəli süni zəka modelini təqdim etməyə hədəflənib
Mart ayının sonuna yaxın OpenAI bu il ərzində GPT-2-dən sonra ilk açıq mənbəli koda sahib böyük dil modelini təqdim etməyi planlaşdırdığını açıqlamışdı. İndi isə şirkətin süni zəka tərtibatçıları ilə keçirdiyi sessiyalardan həmin model haqqında bəzi detalları ortaya çıxmağa başlayıb.
Yeni tədqiqat süni zəka ilə real həkimləri müqayisə edib
Yeni tədqiqat süni zəka ilə real həkimləri müqayisə edib
Osaka Universitetindən doktor Hirotaka Takita və dosent Daiju Ueda-nın rəhbərlik etdiyi tədqiqat qrupu, generativ süni zəkanın xəstəliklərin diaqnozu sahəsində həkimlərlə müqayisədə nə dərəcədə effektiv olduğunu öyrənmək üçün meta-analiz aparıb.
Anthropic öz süni zəka modelində əxlaq kodeksinin olduğunu müəyyən edib
Anthropic öz süni zəka modelində əxlaq kodeksinin olduğunu müəyyən edib
Anthropic şirkəti Claude adlı süni zəka köməkçisinin davranışını istifadəçilərlə aparılmış 700 000 anonim dialoq əsasında araşdırıb. Nəticələr göstərib ki, Claude əksər hallarda şirkətin bəyan etdiyi dəyərlərə - faydalılıq, dürüstlük və zərərsizliyə - sadiq qalır.
Google DeepMind-ın rəhbəri süni zəkanın gələcəyi haqqında danışıb
Google DeepMind-ın rəhbəri süni zəkanın gələcəyi haqqında danışıb
Google şirkətinin süni zəka sahəsində fəaliyyət göstərən DeepMind laboratoriyasının baş direktoru Demis Hassabis 1 saat ərzində jurnalistlərə Gemini layihəsinin perspektivləri, ümumi süni zəkanın (AGI) inkişaf tempi və neyron şəbəkələrin özünüqavrama səviyyəsinin artımı haqqında danışıb.
BƏƏ dünyada ilk dəfə yeni qanunların yazılmasında süni zəkadan istifadə edəcək
BƏƏ dünyada ilk dəfə yeni qanunların yazılmasında süni zəkadan istifadə edəcək
Birləşmiş Ərəb Əmirlikləri dünyada ilk ölkə olacaq ki, yeni qanunların yazılması, mövcud qanunların yenidən nəzərdən keçirilməsi və dəyişikliklərin edilməsi üçün süni zəkadan istifadə edəcək.
Həftənin xəbərləri
