Süni intellektə "analıq instinkti" əlavə etmək təklif edilib
Süni İntellekt
18.08.2025
Emil Nəcəfov
Süni intellekt sahəsinin pioneri olan Geoffrey Hinton, süni intellekt təhlükəsizliyinə qeyri-adi bir yanaşma təklif edib. O, hesab edir ki, yalnız daxili "analıq instinktləri" insanlığı qoruya bilər. Las-Veqasdakı Ai4 konfransında müasir süni intellektin yaradıcılarından biri narahatedici proqnozlarını və gözlənilməz həll yolunu açıqlayıb. Neyron şəbəkələrin əsaslarını qoyan Geoffrey Hinton süni intellektin idarə olunması mövzusunda tamamilə yeni yanaşma irəli sürüb. Hinton əvvəllər süni intellektin insanlığı məhv etmə ehtimalını 10-20% olaraq qiymətləndirsə də, süni intellekti “itaətkar” etmə ideyasını rədd edib. Onun fikrincə, süni intellekti tam şəkildə itaətkar etməyə çalışmaq nəticəsizdir - çünki super ağıllı sistemlər istənilən məhdudiyyətləri aşmağın yollarını tapacaq.
Geoffrey Hinton:
Alim bir sıra nümunələr gətirib və qeyd edib ki, süni intellekt artıq indidən aldatma və manipulyasiya qabiliyyətini nümayiş etdirir. Geoffrey Hinton məcburi nəzarət əvəzinə radikal şəkildə fərqli bir həll yolu təklif edib - süni intellektdə “analıq instinktləri”ni formalaşdırmaq. Onun fikrincə, böyüklərin uşaqlara qayğı göstərməsi kimi, süni intellekt də insanları qorumağı səmimi şəkildə istəməlidir. Tədqiqatçının baxışına görə, bu, daha ağıllı varlığın daha az ağıllı varlığı məhv etməməsi üçün yeganə dayanıqlı ssenaridir. Bu konsepsiyanın texniki həyata keçirilməsi hələlik aydın deyil, lakin Hinton onun prinsipial əhəmiyyətini xüsusi vurğulayır. O, alternativi valideyn münasibətləri ilə müqayisə edir: “Əgər o mənim valideynim olmayacaqsa, onda məni əvəz edəcək”.
Onun bütün həmkarları bu yanaşmanı bölüşmür. Süni intellekt sahəsində digər nüfuzlu mütəxəssis Fei-Fei Li “insana yönəlmiş”, insan ləyaqətini qoruyan süni intellekti müdafiə edir. Softmax şirkətindən Emmett Shear isə insanlar və süni intellekt arasında əməkdaşlıq modelini təklif edir. Hinton superzəkanın yaranma vaxtı ilə bağlı proqnozlarını yenidən nəzərdən keçirib - indi o bunu əvvəlki 30-50 il əvəzinə 5-20 il ərzində gözləyir. Risklərə baxmayaraq, alim xüsusilə tibbdə müsbət perspektivlər görür, lakin rəqəmsal ölməzlik ideyasını qəbul etmir. Süni intellektin pionerinin əsas peşmançılığı isə tədqiqatların erkən mərhələlərində təhlükəsizlik məsələlərinə kifayət qədər diqqət yetirilməməsidir.
Linki kopyala
Bənzər xəbərlər
Oxşar xəbərlər
Sam Altman OpenAI-nin perspektivlərindən və digər mövzulardan danışıb
Sam Altman OpenAI-nin perspektivlərindən və digər mövzulardan danışıb
OpenAI-nin baş direktoru Sam Altman jurnalistlərlə böyük bir şam yeməyi təşkil edib və söhbət zamanı bir neçə diqqətçəkən açıqlamalar verib. O, şirkətin gələcək kursu barədə danışıb,
Sam Altman süni intellekt sahəsini balon adlandırıb
Sam Altman süni intellekt sahəsini balon adlandırıb
Hələ iqtisadçılar süni intellekt boom-unun fonunda fond bazarının mümkün “qızışmasından” danışarkən, OpenAI rəhbəri Sam Altman mətbuatla şam yeməyi zamanı kifayət qədər açıq şəkildə mövqeyini bildirib.
Süni intellektə maraq bu sahədə milyardlarla dollar dəyərində şirkətlərin sayını sürətlə artırır
Süni intellektə maraq bu sahədə milyardlarla dollar dəyərində şirkətlərin sayını sürətlə artırır
2025-ci ilə olan vəziyyətə görə, süni intellekt sahəsində dəyəri 1 milyard dollardan artıq olan özəl şirkətlərin sayı 500-ə yaxınlaşıb. Onların 100-ü son 2 ildə təsis olunub.
Böyük Britaniyada potensial cinayətləri süni intellekt vasitəsilə proqnozlaşdırmağı planlaşdırırlar
Böyük Britaniyada potensial cinayətləri süni intellekt vasitəsilə proqnozlaşdırmağı planlaşdırırlar
Süni intellekt texnologiyaları artıq bir sıra sahələrdə istifadə olunur, müxtəlif tapşırıqların yerinə yetirilməsini sadələşdirir və imkanları genişləndirir, həmçinin onların tətSüni intellekt texnologiyaları artıq bir sıra sahələrdə istifadə olunur, müxtəlif tapşırıqların yerinə yetirilməsini sadələşdirir və imkanları genişləndirir, həmçinin onların tətbiq sahəsi davamlı olaraq artır.biq sahəsi davamlı olaraq artır.
Süni intellekt bir neçə sətr məlumat vasitəsilə aqressiv vəziyyətə salmaq olar
Süni intellekt bir neçə sətr məlumat vasitəsilə aqressiv vəziyyətə salmaq olar
London İmperial Kolleci, Gent Universiteti və Truthful AI tədqiqat qrupundan olan bir qrup alim bir sıra təcrübələr aparıb. Nəticədə məlum olub ki, süni intellektin böyük dil modelləri (LLM) az miqdarda məlumatlar toplusu üzərində təkrar təlimdən sonra davranışlarını kəskin şəkildə dəyişdirə bilər.
Həftənin xəbərləri
