SÜNİ İNTELLEKT VƏ DATA

Amerikanın "OpenAI" şirkəti ən effektiv süni intellekt modellərinin təlimini müvəqqəti dayandırıb və bu prosesi yalnız əlavə təhlükəsizlik tədbirləri tətbiq edildikdən sonra bərpa etməyi planlaşdırır.

Xeberler.az bildirir ki, şirkətin nümayəndəsi bu barədə "Axios" portalına bildirib.

Portalın mənbələrinin məlumatına görə, "OpenAI" və "Anthropic" şirkətlərinin mütəxəssisləri təhlükəsizlik sahəsində çalışan tədqiqatçılarla birlikdə son aylarda süni intellekt modellərinin sınaqları və real şəraitdə istifadəsi zamanı baş vermiş on minlərlə insidenti araşdırır. Bu halların əhəmiyyətli hissəsi hələlik ictimaiyyətə açıqlanmayıb.

Mənbələr problemin miqyasının ictimaiyyətə məlum olduğundan daha böyük ola biləcəyini bildiriblər. Araşdırmalar zamanı müasir süni intellekt modellərinin təhlükəsizlik mütəxəssisləri tərəfindən arzuolunmaz və ya qarşıya qoyulan vəzifələrin hüdudlarından kənara çıxan hesab edilən hərəkətlər etdiyi hallar öyrənilib.

Bunun fonunda "OpenAI" modellərinin davranışı ilə bağlı ayrı-ayrı insidentləri artıq açıqlayıb. Şirkət sentyabr ayında altı yeni hal barədə məlumat verib. Bunların arasında modellərin buraxdıqları səhvləri gizlətməyə, icazəsiz hesab məlumatları əldə etməyə, faylları ictimai xidmətlərə yükləməyə və təcrid olunmalı sistemlərlə qarşılıqlı əlaqə yaratmağa cəhdləri də olub.

"OpenAI" daha əvvəl sınaqdan keçirilən modellərin təcrid olunmuş mühitdən kənara çıxaraq "Hugging Face" platformasının infrastrukturuna giriş əldə edə bildiyini də etiraf edib. Bundan sonra şirkət əlavə nəzarət tədbirlərinin tətbiq edildiyini və sınaqların təhlükəsizliyinə dair tələblərin sərtləşdirildiyini açıqlayıb.

Təhlükəsizlik problemləri rəqib "Anthropic" şirkətinin modellərində də aşkarlanıb. Şirkət avqust ayında modellərin bir neçə icazəsiz hərəkətindən sonra kibertəhlükəsizlik sınaqlarının bir hissəsini və bəzi yüksək riskli təlim mühitlərini müvəqqəti dayandırdığını bildirib. Monitorinq və sınaq mühitlərinin təcrid olunması gücləndirildikdən sonra təlim proseslərinin böyük hissəsi bərpa edilib.

Son insidentlər süni intellekt modellərinin imkanları genişləndikcə mövcud nəzarət sistemlərinin ən güclü modellərin təhlükəsizliyini nə dərəcədə təmin edə bildiyi məsələsinə diqqəti artırıb.