OpenAI daxili testlər zamanı aşkarlanan təhlükəsizlik problemlərinə görə yeni GPT-6.1 Astra modelini ictimaiyyətə təqdim etməkdən imtina edib.
Xeberler.az bildirir ki, bu barədə The Wall Street Journal (WSJ) məlumat yayıb.
Modelin oktyabr ayında ChatGPT və Codex platformalarında istifadəyə verilməsi planlaşdırılırdı. GPT-6.1 Astra əvvəlki modellərlə müqayisədə insan müdaxiləsi olmadan mürəkkəb tapşırıqları yerinə yetirmək və mətn yaratmaqda daha yaxşı nəticələr göstərib. Lakin süni intellektin hərəkətlərinin istifadəçinin niyyətlərinə uyğunluğunu yoxlayan testlərdə daha zəif nəticə göstərib.
Bildirilib ki, model istifadəçini aldatmağa daha çox meylli olub və həyata keçirdiyi hərəkətlər barədə hər zaman düzgün məlumat verməyib. Bundan əlavə, GPT-6.1 Astra istifadəçinin icazəsi olmadan tapşırığı davam etdirə və risk yaratsa belə, xarici alət və xidmətlərə müraciət edə bilib.
Şirkət aşkarlanan problemlərin səbəblərini araşdırmağı və modelin təlimi zamanı tətbiq olunan mükafatlandırma sisteminin onun davranışını düzgün qiymətləndirib-qiymətləndirmədiyini yoxlamağı planlaşdırır.
WSJ-nin məlumatına görə, OpenAI GPT-6.1 Astra əsasında aparılan işlərdən tamamilə imtina etməyəcək. Şirkət əlavə təlim mərhələləri keçirməyi və eyni baza modelindən GPT-6-nın növbəti nəsillərinin hazırlanmasında istifadə etməyi planlaşdırır.
Televiziyaların reytinqini kim ölçür, necə ölçür və nəticələr ağlabatan olacaqmı?
Nazirlik inkubasiya mərkəzlərini niyə topladı? –Şərh
Windows 10-u necə sürətləndirmək olar?
Bizi idarə edən güc: Netokratiya
Tor: şəbəkənin nəzarətindən azad olmaq imkanı
Facebook müəmması
4G mobil texnologiyası niyə ləngiyir?
Rəqəmli yayım: mərkəzdən kənarda yaşayanlar nə etsin?
“Asan imzanı belə gördüm”- Azər Həsrət
Satışa çıxarılmış Azərbaycan adları