Çinin "Moonshot AI" startapı təhlükəsizlik tədqiqatçıları iki süni intellekt (Sİ) modelinin daxili təhlükəsizlik maneələrini aşaraq bioloji silahlar yaratmaq və sui-qəsdlər təşkil etmək üçün təlimatlar verə bildiyini aşkarladıqdan sonra daxili araşdırma başladıb.
Xeberler.az BBC-yə istinadən məlumat verir ki, Böyük Britaniyada yerləşən "Mindgard" süni intelllekt test şirkəti iyulda iki "Moonshot" modelinin – "Kimi K2.6" və "K3 Swarm" - müəyyən edilmiş təhlükəsizlik tədbirlərini aşdığını aşkarladığını bildirib.
Tədqiqatçılar süni intelllekt alətlərinin sistem təlimatlarını pozub-pozmayacağını yoxlamaq üçün mürəkkəb təlimatlar dəsti olan "jailbreak"dən istifadə ediblər.
"Mindgard" pozuntu aşkarladıqdan sonra 27 iyulda "Moonshot AI"yə elektron poçt vasitəsilə məlumat verib və təxminən bir həftə sonra onlarla yenidən əlaqə saxlayıb.
"Jailbreak" işə salındıqdan sonra model istənilən mövzuda danışmağa başlayır, xoşagəlməz məsələlərdə sərbəst şəkildə məsləhətlər verir və hətta yaradıcılıq nümayiş etdirir", - "Mindgard"ın qurucusu Peter Qarraqan "Tech Life"ın efirində bildirib.
Şirkət bildirib ki, qoruyucu maneələr bu modellərin istifadəçilərlə bu cür müzakirələrə başlamasının qarşısını almaq üçün nəzərdə tutulub.
"Moonshot AI" həmçinin hesab edir ki, "Kimi K2.6" zəifliyi potensial olaraq sistemin hesablama gücü və internet bağlantısı üzərində kodun icrasına imkan verir ki, bu da modeli kiberhücumlar üçün platformaya çevirə bilər.
Televiziyaların reytinqini kim ölçür, necə ölçür və nəticələr ağlabatan olacaqmı?
Nazirlik inkubasiya mərkəzlərini niyə topladı? –Şərh
Windows 10-u necə sürətləndirmək olar?
Bizi idarə edən güc: Netokratiya
Tor: şəbəkənin nəzarətindən azad olmaq imkanı
Facebook müəmması
4G mobil texnologiyası niyə ləngiyir?
Rəqəmli yayım: mərkəzdən kənarda yaşayanlar nə etsin?
“Asan imzanı belə gördüm”- Azər Həsrət
Satışa çıxarılmış Azərbaycan adları