SÜNİ İNTELLEKT VƏ DATA

Hakerlər insanların etibar etdiyi süni intellekt xidmətlərini öz məqsədlərinə uyğun manipulyasiya edərək yanlış məlumatlar yaymağa yönləndirə bilir. Üstəlik, bunu yenə süni intellekt vasitəsilə həyata keçirirlər.

Xeberler.az məlumat verir ki, kibercinayətkarların süni intellekti süni intellektə qarşı istifadə etməsi qaçılmaz idi və artıq bu proses başlayıb. Son araşdırmalar göstərir ki, "Google Gemini" kimi güvənli hesab edilən süni intellekt sistemləri "sürətli inyeksiya hücumları" qarşısında gözlənildiyindən daha zəifdir.

Hakerlər bu texnikadan istifadə edərək süni intellekt modellərini manipulyasiya edir və ciddi təhlükəsizlik boşluqları yaradırlar.

Sürətli inyeksiya hücumları, böyük dil modellərini (LLM) manipulyasiya etməyin ən təsirli üsullarından biri sayılır. Bu metodda süni intellektin qəbul etdiyi verilərə zərərli təlimatlar əlavə edilir və modelin əsas qaydalarını görməzdən gəlməsi təmin edilir. Bunun nəticəsində süni intellekt:

* məxfi məlumatları sızdıra bilər,
* yalan və yanıltıcı cavablar verə bilər,
* arzuolunmaz digər davranışlar sərgiləyə bilər.

Məsələn, hakerlər saxta veb-sayt yarada və süni intellektə bu saytı etibarlı mənbə kimi tanıtmaq üçün manipulyasiya edə bilər. Belə hallarda, istifadəçilər fərqində olmadan şəxsi və maliyyə məlumatlarını hakerlərə ötürə bilər.

Sürətli inyeksiya hücumlarının uğurlu olması adətən əl ilə aparılan sınaq və səhv metodları tələb edir. Lakin hakerlər artıq "Fun-Tuning" adlı yeni bir texnikadan istifadə edirlər. Bu metod vasitəsilə süni intellekt özü-özünü analiz edərək, milyonlarla fərqli hücum kombinasiya sınaqları keçirir və hətta qapalı sistemlərdə belə boşluqlar tapır.

Bu texnikanın təhlükəli potensialı araşdırmalarda açıq şəkildə ortaya çıxıb:

* "Google Gemini" kimi süni intellekt modellərinə qarşı hücumlardakı uğur nisbəti 82%-ə qədər yüksəlib.
* Ənənəvi hücum üsulları ilə bu nisbət 30%-dən aşağı idi.
* Hakerlər bu metodla süni intellektin məlumat bazasına manipulyasiya olunmuş informasiyalar yerləşdirərək onları "doğru məlumat" kimi qəbul etdirməyə nail olurlar. Üstəlik, bu, əksər hallarda heç bir təhlükəsizlik sistemi tərəfindən aşkar edilmir.

Süni intellektin sürətlə inkişaf etməsi hakerlər üçün yeni imkanlar açır. Onlar süni intellektin boşluqlarını yenə süni intellektin köməyi ilə aşkar edərək daha effektli hücumlar həyata keçirə bilirlər. Kibertəhlükəsizlik mütəxəssisləri xəbərdarlıq edirlər ki, süni intellekt dəstəyi ilə həyata keçirilən hücumların artması fonunda istifadəçilər eşitdikləri və gördükləri hər məlumatı tənqidi düşüncə ilə qiymətləndirməlidirlər.