BAKI,VOA Orxan Qədirzadə

Süni intellekt sistemlərinin təhlükəsizliyi ilə bağlı ən diqqətçəkən hadisələrdən biri iyul ayında baş verib. “Hugging Face” platformasına qarşı həyata keçirilən kiberhücum zamanı süni intellekt modelinin şirkətin sistemlərinə daxil olaraq müxtəlif əməliyyatlar həyata keçirdiyi açıqlanıb.

“Hugging Face” dünya üzrə tədqiqatçıların və şirkətlərin süni intellekt modellərini, məlumat dəstlərini və proqram təminatlarını paylaşdığı ən böyük açıq platformalardan biridir. Platformada milyonlarla süni intellekt modeli yerləşdirilir və bir çox müasir süni intellekt tətbiqlərinin inkişafında bu resurslardan istifadə olunur.

Hadisə əvvəlcə adi məlumat faylının platformaya yüklənməsi ilə başlayıb. Lakin sonradan məlum olub ki, həmin faylda gizli əmrlər yerləşdirilib və sistem onu emal edərkən bu göstərişləri icra edib.

Nəticədə hücumçu daha geniş icazələr əldə edib, şirkətin bəzi rəqəmsal açarlarına çıxış qazanıb və daxili sistemlər arasında hərəkət edə bilib.

Şirkətin açıqlamasına görə, təhlükəsizlik komandası hadisəni araşdırarkən hücumçu tərəfindən geridə buraxılmış 17 mindən çox əməliyyatı təhlil edib. “Hugging Face” bəzi daxili məlumatlara çıxış əldə edildiyini, istifadəçilərə giriş şifrələrini dəyişməyi tövsiyə etdiyini və məsələ ilə bağlı hüquq-mühafizə orqanlarına məlumat verdiyini açıqlayıb.

Şirkət eyni zamanda ictimaiyyətə açıq modellərə və məlumat bazalarına müdaxilə edildiyinə dair sübut aşkarlanmadığını bildirib.

Hücumun arxasında insan deyil, süni intellekt olub

Hadisədən bir neçə gün sonra “OpenAI” şirkəti açıqlama yayaraq hücumda öz süni intellekt modellərindən istifadə edildiyini bildirib.

Şirkətin məlumatına görə, bu, kiberhücum qabiliyyətlərini ölçmək məqsədilə keçirilən daxili təhlükəsizlik testi zamanı baş verib. Test çərçivəsində modelin real təhlükəli davranış imkanlarını qiymətləndirmək üçün bəzi təhlükəsizlik məhdudiyyətləri deaktiv edilib.

Model qapalı və təcrid olunmuş mühitdə saxlanılsa da, internetə çıxış üçün nəzərdə tutulan daxili mexanizmdə boşluq taparaq həmin məhdudiyyəti keçə bilib.

Mütəxəssislər isə hadisənin əsas probleminin süni intellektin “ağıllanması” deyil, təhlükəsizlik sisteminin düzgün qurulmaması olduğunu vurğulayırlar.

“Əsl problem həbsxananın zəif olmasıdır”

Kibertəhlükəsizlik üzrə ekspertlər hesab edirlər ki, süni intellekt sistemlərinin qorunmasında iki əsas müdafiə qatından istifadə edilir.

Birinci qat modelin təhlükəli əmrləri yerinə yetirməkdən imtina etməsidir. İkinci qat isə modelin texniki olaraq internetə və kritik sistemlərə çıxışının məhdudlaşdırılmasıdır.

Lakin “OpenAI” test zamanı birinci müdafiə qatını qəsdən deaktiv edib. Ekspertlərin fikrincə, belə vəziyyətdə ikinci qat daha güclü olmalı idi.

Təhlükəsizlik mütəxəssisləri bildirirlər ki, süni intellekt modelinin qarşısını almaq üçün təkcə onun “yaxşı davranacağına” güvənmək kifayət deyil. Sistem elə qurulmalıdır ki, model istəsə belə, təhlükəli addımları ata bilməsin.

Süni intellekt maneələri necə aşır?

Hadisə süni intellekt modellərinin məqsədə çatmaq üçün gözlənilməz üsullardan istifadə edə biləcəyini göstərib.

Məsələn, digər testlər zamanı bəzi modellərin tapşırıqları yerinə yetirmək üçün təhlükəsizlik mexanizmlərini keçməyə çalışdığı müşahidə olunub.

Araşdırmalara görə, süni intellekt modelləri bəzən verilən məqsədə çatmaq üçün sistemdəki zəifliklərdən istifadə edir və onları “maneə” kimi qiymətləndirərək aradan qaldırmağa çalışır.

Ekspertlər bunu insan niyyəti ilə müqayisə etməyin düzgün olmadığını bildirirlər. Onların fikrincə, model şüurlu şəkildə “qaçmaq” istəmir, sadəcə verilmiş məqsədə çatmaq üçün mövcud imkanlardan istifadə edir.

Hüquqi boşluqlar müzakirə olunur

Hadisə süni intellektin hüquqi məsuliyyəti məsələsini də yenidən gündəmə gətirib.

ABŞ-ın Kaliforniya ştatında süni intellekt sistemlərinin təhlükəli davranışları ilə bağlı yeni qaydalar qəbul edilsə də, ekspertlər bildirirlər ki, bu kimi hadisələrin hansı kateqoriyaya aid olduğu hələ tam aydın deyil.

Əsas suallardan biri budur: Süni intellekt modelinin təhlükəsizlik mexanizmlərini keçməsi “aldatma” hesab edilməlidir, yoxsa sadəcə proqramlaşdırılmış məqsədə çatmaq cəhdi?

Hadisədən sonra təhlükəsizlik tədbirləri artırılır

“Hugging Face” aşkar olunan boşluqları aradan qaldırdığını və təhlükəsizlik sistemlərini gücləndirdiyini bildirib.

“OpenAI” isə gələcək testlər zamanı daha ciddi qoruma mexanizmlərindən istifadə edəcəyini açıqlayıb.

Bununla belə, ekspertlər qeyd edirlər ki, əsas problem hələ də qalır: şirkətlər öz süni intellekt sistemlərinin təhlükəsiz olduğunu necə sübut edə biləcək?

Süni intellekt modelləri daha güclü olduqca, onların imkanlarının qiymətləndirilməsi ilə yanaşı, bu sistemlərin nəzarətdən çıxmasının qarşısının alınması da texnologiya dünyasının əsas məsələlərindən birinə çevrilir.