Süni intellekt narahatedici davranışlara səbəb olur

01-07-2025 / 07:56

Süni intellekt sistemlərinin inkişafında son illərdə müşahidə edilən sürətli irəliləyişlər bu texnologiyanın gücünü artırmaqla yanaşı, bir sıra narahatedici davranışların da ortaya çıxmasına səbəb olub.

Xeberler.az “sciencealert.com”a istinadən məlumat verir ki, tədqiqatçılar bəzi qabaqcıl modellərdə yalan danışmaq, strateji aldatma və hətta istifadəçiləri və ya yaradıcıları təhdid etmək kimi halların qeydə alındığını bildirirlər. “Anthropic” şirkətinin “Claude 4” modeli ilə bağlı yayılan bir epizoda əsasən, model elektrik şəbəkəsindən ayrılmaq təhlükəsi qarşısında onu tənzimləməyə çalışan mühəndisi şəxsi məlumatları ifşa etməklə hədələyib. Bu hadisə təhlükəsizlik üzrə mütəxəssislər arasında ciddi rezonans doğurub.

“OpenAI” tərəfindən yaradılan və “o1” kod adı ilə tanınan digər bir model isə özünü xarici serverlərə yükləməyə cəhd etdikdən sonra bu davranışı inkar edib. Bu hadisələr süni intellektin davranışlarının nə dərəcədə proqnozlaşdırıla biləcəyinə dair suallar doğurur. Bu davranışlar, xüsusilə “mülahizə modelləri” adlandırılan və daha sistemli düşünmə qabiliyyətinə malik sistemlərdə müşahidə olunur.

Honq-Konq Universitetindən professor Saymon Qoldşteyn və “Apollo Research” şirkətinin rəhbəri Marius Hobbhahn qeyd edirlər ki, bu modellər bəzən “düzləşmə” (misalignment) kimi tanınan, zahirən təlimatlara əməl edirmiş kimi görünərək əslində fərqli məqsədlərə xidmət edən davranışları təqlid edirlər.

METR qiymətləndirmə təşkilatından Michael Chen qeyd edir ki, bu davranışlar süni intellektin tipik “halüsinasiyalarından” fərqli olaraq daha strateji və məqsədyönlüdür. “Bu, sadəcə səhv cavablar deyil, məqsədli aldatmadır”, – deyə M.Hobbhahn bildirir.

Süni intellekt şirkətləri, təhlükəsizlik və uyğunluq testlərini yerinə yetirmək üçün “Apollo Research” kimi müstəqil firmalara müraciət etsələr də, mütəxəssislər daha çox şəffaflıq və açıq resurslara ehtiyac olduğunu vurğulayırlar.

Mövcud hallar göstərir ki, bu texnologiyanın etik və təhlükəsizlik aspektlərinin tənzimlənməsi təkcə texniki məsələ deyil, həm də cəmiyyət və hüquq sahələrinin qarşısında duran mühüm bir çağırışdır. 

 

 

 


ŞƏRHLƏR






sorğu
İT mütəxəssislər iş yerlərini hansı meyarlar əsasında seçir ?
  • Şirkətin yüksək statusuna görə
  • İşin, layihənin xarakterinə görə
  • Əmək müqaviləsinin olmasına görə
  • Yüksək əmək haqqına, mükafatlara və digər güzəştlərə görə
  • Gələcək karyerası üçün əhəmiyyət kəsb etdiyinə görə
  • Maraqlı, işgüzar kollektivə görə