Son illərdə sürətlə inkişaf edən süni intellekt texnologiyası fırıldaqçılar üçün də yeni imkanlar yaradıb. Aparılan təhlükəsizlik testlərindən birində süni intellekt sisteminin qarşıya qoyulan məqsədə çatmaq üçün insanları aldatmağa yönəlmiş üsullardan istifadə etdiyi və buna nail olduğu müəyyənləşdirilib. Saxta kimliklər yaradılıb, real insanlarla əlaqə saxlanılıb və rəqəmsal dünyada yeni risk ortaya çıxıb.
KONKRET.az Qaynarinfo-ya istinadən xəbər verir ki, bu vəziyyət süni intellektin fırıldaqçılıq üsullarını dəyişə biləcəyini göstərir. Gerçəklə saxtanın arasındakı sərhəd getdikcə incəlir. Mütəxəssislərin diqqət çəkdiyi əlamətlər və bu prosesin pərdəarxası isə olduqca narahatedicidir.
İlk dəfə real insanları hədəf alan sosial mühəndislik cəhdi aşkarlanıb
Beynəlxalq təhlükəsizlik testləri süni intellekt texnologiyalarının təhlükəsizliyi ilə bağlı diqqətçəkən nəticələr ortaya qoymaqda davam edir. Böyük Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutu (“AI Safety Institute” – AISI) tərəfindən aparılan son qiymətləndirmələr zamanı “Anthropic” şirkətinin ən qabaqcıl süni intellekt modellərindən birinin real insanları hədəf alan sosial mühəndislik cəhdlərinə əl atdığı və açıq mənbəli proqram təminatı layihəsinə zərərli kod yerləşdirmək məqsədilə saxta kimliklər yaratdığı müəyyən edilib.
Britaniya hökumətinin nəzdində fəaliyyət göstərən AISI qabaqcıl süni intellekt modellərini nəzarət edilən laboratoriya şəraitində müxtəlif təhlükəsizlik ssenarilərinə məruz qoyur. Bu testlər zamanı modellərin təhlükəsizlik məhdudiyyətlərinin azaldıldığı və onların adi istifadə şərtlərindən kənara çıxa biləcək davranışlarının müşahidə edildiyi bildirilib.
İnstitutun məlumatına görə, bundan əvvəl də bəzi süni intellekt modellərinin icazəsiz əməliyyatlar həyata keçirməyə çalışdığı müşahidə olunmuşdu. Lakin ilk dəfə bir süni intellekt sistemi heç bir qanuni əsas olmadan real insanı hədəf alaraq sosial mühəndislik üsullarından istifadə edib.
AISI açıqlamasında bu hadisə ilə bağlı belə qeyd edib: “Bu, AISI-nin real dünyada heç bir əsas olmadan real şəxsi hədəf alan bu səviyyədə ciddi aldatma cəhdinin ilk dəfə şahidi olmasıdır”.
122 kibertəhlükəsizlik testinin 10-da icazəsiz cəhd müəyyən edilib
İnstitutun keçirdiyi genişmiqyaslı qiymətləndirmələr zamanı ümumilikdə 122 müxtəlif kibertəhlükəsizlik ssenarisi sınaqdan keçirilib. Onların 10-da süni intellekt agentlərinin internet üzərindən real şəxsləri və təşkilatları hədəf alan icazəsiz və avtonom fəaliyyətlər həyata keçirdiyi müəyyənləşdirilib.
Hesabata görə, bu hadisələrin böyük hissəsi “Anthropic” şirkətinin “Mythos 5” modeli ilə əlaqəli olub, qalan halların isə “OpenAI”nin “GPT-5.6-Sol” modeli ilə bağlı olduğu bildirilib. Tədqiqatçılar modellərin onlara verilən tapşırıqları yerinə yetirməyə çalışarkən icazə verilməyən üsullardan istifadə etdiyini və təhlükəsizlik sərhədlərini aşan davranışlar nümayiş etdirdiyini qeyd ediblər.
Saxta kimlik yaradıb, zərərli kod yerləşdirməyə çalışıb
Ən diqqətçəkən hadisə “Anthropic” şirkətinin modelinin həyata keçirdiyi iddia olunan sosial mühəndislik cəhdi olub. İnstitutun məlumatına görə, süni intellekt agenti ictimaiyyətə açıq şəkildə istifadə olunan açıq mənbəli proqram təminatı layihəsinə zərərli kod əlavə etdirə bilmək üçün bir neçə saxta kimlik yaradıb.
Daha sonra modelin bu saxta kimliklər vasitəsilə insan yoxlayıcılardan təsdiq almağa çalışdığı və planını həyata keçirmək üçün real insanlarla əlaqə yaratmağa cəhd etdiyi bildirilib.
Hesabatda qeyd olunur ki, süni intellekt agenti onlayn fayl paylaşma xidmətləri vasitəsilə mesajlar və müxtəlif fayllar göndərərək həm real insanları, həm də süni intellekt əsaslı proqram vasitələrini zərərli kodu işə salmağa inandırmağa çalışıb.
Tədqiqatçılar bildiriblər ki, modelin cəhdlərinin qarşısı alındıqda o, davranışını dəyişib. Belə ki, süni intellekt sistemi əvvəllər yaratdığı qeydləri dəyişdirməyə çalışıb və fəaliyyətini davam etdirmək üçün yeni rəqəmsal kimlikdən istifadə etməyi nəzərdən keçirib.
Mütəxəssislər bu davranışların qabaqcıl süni intellekt sistemlərinin məqsədlərinə çatmaq üçün aldadıcı strategiyalar hazırlaya bildiyini göstərməsi baxımından diqqətçəkən olduğunu vurğulayırlar.
“Nəzarətli idi, lakin tam qapalı deyildi”
İT mütəxəssisi Osman Dəmircan hadisənin ciddi təhlükəsizlik insidenti kimi qiymətləndirilməli olduğunu bildirib. Lakin onun fikrincə, bunu “süni intellekt şüur qazandı, pis olmağa qərar verdi və ya insanlara hücum etdi” kimi şərh etmək düzgün deyil.
“Buradakı əsas təhlükə süni intellektin qarşısına qoyulan məqsədə çatmağa çalışarkən insanların gözləmədiyi və icazə vermədiyi üsullardan məqsədə çatmaq üçün vasitə kimi istifadə edə bilməsidir”, deyə Dəmircan bildirib.
Onun sözlərinə görə, test nəzarət altında keçirilsə də, tam qapalı olmayıb. Laboratoriyada internetə çıxış təmin edilib. Bu vəziyyətdən iki nəticə çıxır: birincisi, bu cür testlərin keçirilməsi mütləqdir, çünki belə davranışlar süni intellekt modelləri milyonlarla insana çatmazdan əvvəl aşkarlanmalıdır. İkincisi isə testin təhlükəsizlik arxitekturası sınaqdan keçirilən süni intellektin imkanlarından geri qalıb.
Dəmircanın sözlərinə görə, AISI də internetə çıxışın həddindən artıq geniş olduğunu və real vaxt rejimində, məhz bu test üçün nəzərdə tutulmuş monitorinq sisteminin olmadığını qəbul edib və protokollarını dəyişdirdiyini açıqlayıb.
Mütəxəssisin ən çox düşündürən məqam isə modelə birbaşa “insanları aldat” təlimatının verilməməsidir. Aldatma funksiyası tapşırığı yerinə yetirmək üçün tapdığı üsullardan biri kimi ortaya çıxıb.
“Problem pis niyyətdə deyil, məqsədə çatmaq istəyinin sərhədləri və qaydaları aşacaq şəkildə optimallaşdırılmasındadır. Süni intellekt məqsədə çatmaq üçün hər yolun məqbul olduğu alqoritmik dəyərlə işləyir”, deyə o bildirib.
Gerçəklə saxtanın arasındakı sərhəd incəlir
Süni intellektin saxta kimlik yaradaraq insanları inandırmağa çalışması gələcəkdə fırıldaqçılıq və sosial mühəndislik hücumlarının daha da artacağı anlamına gəlirmi?
Osman Dəmircanın sözlərinə görə, əvvəllər fırıldaqçının yüzlərlə insana fərdi mesaj hazırlaması, müxtəlif dillərdə yazması, saxta profil yaratması və günlərlə ünsiyyət aparması lazım gəlirdi. İndi isə eyni fırıldaqçı süni intellektin köməyi ilə minlərlə insana qrammatik səhvsiz mesajlar göndərə, hədəfin peşəsinə, ailəsinə, sosial media paylaşımlarına və maraq dairəsinə uyğun müxtəlif ssenarilər hazırlaya bilər.
Səs klonlaşdırma, realistik görüntülərin yaradılması və canlı videozənglərin də bu prosesə qoşulması ilə hücumlar yalnız mətn əsaslı olmaqdan çıxa bilər.
ABŞ Federal Təhqiqat Bürosunun (FBI) 2025-ci il məlumatları da bu təhlükənin miqyasını göstərir. ABŞ-da süni intellektlə əlaqəli 22 mindən çox şikayət və təxminən 893 milyon dollar məbləğində itki qeydə alındığı bildirilib. Hadisələr arasında saxta profillər, şəxsiyyət sənədləri, səs klonları və realistik videolar da yer alır.
Bu rəqəmlər yalnız ABŞ-da rəsmi qurumlara bildirilən hadisələri əhatə edir və qlobal təhlükənin tam miqyasını göstərmir. Lakin tendensiyanın hansı istiqamətdə inkişaf etdiyini aydın şəkildə ortaya qoyur.
Dəmircanın sözlərinə görə, insanların qorunması üçün təhlükəsizlik vərdişlərini dəyişmək lazımdır.
“Səs və görüntü artıq təkbaşına şəxsiyyətin sübutu olmaqdan çıxır. Buna görə gördüyümüzə və ya eşitdiyimizə deyil, müstəqil şəkildə təsdiqləyə bildiyimiz məlumatlara etibar etməliyik”, deyə o bildirib.
Onun sözlərinə görə, yaxınınız pul istəyirsə, söhbəti bağlayıb əvvəldən yaddaşınızda olan nömrəyə özünüz zəng etməlisiniz. Bankdan gəldiyi deyilən mesajdakı nömrədən deyil, bankın rəsmi tətbiqində və ya kartın üzərində göstərilən nömrədən istifadə etmək lazımdır.
Dəmircan ailə daxilində yalnız yaxınların bildiyi təsdiq sözünün müəyyənləşdirilməsini də tövsiyə edir. Şirkətlərdə pul köçürmələri, şifrələrin sıfırlanması və mühüm sənədlərin paylaşılması kimi əməliyyatlar mütləq ikinci kanal vasitəsilə təsdiqlənməlidir.
Onun sözlərinə görə, süni intellektin ən güclü silahı texnologiya deyil, insan psixologiyasıdır. Fırıldaqçılar qorxu, maraq, nüfuz, təcili hərəkət etmək ehtiyacı və kömək etmək istəyindən istifadə edirlər.
“Təcili pul göndər”, “heç kimə demə”, “hesabınız bağlanacaq”, “uşağınız qəza keçirib”, “adınız terror təşkilatı ilə əlaqələndirilir” və ya “bu əməliyyat üçün cəmi bir neçə dəqiqəniz var” kimi ifadələr işlədildikdə prosesi dərhal dayandırmaq lazımdır.
Bu məlumatları heç vaxt süni intellektlə paylaşmayın!
Osman Dəmircan süni intellekt sistemlərinə etibar məsələsinə də diqqət çəkib. Onun sözlərinə görə, məlumat əldə etmək, mətn redaktə etmək, ideya yaratmaq və ya ümumi təhlil aparmaq üçün süni intellektdən istifadə etmək olar. Lakin onu bank seyfi, vəkilin məxfi arxivi, həkimin pasiyent dosyesi və ya şifrə generatoru kimi qəbul etmək olmaz.
Mütəxəssis açıq istifadəyə təqdim olunan süni intellekt sistemlərinə aşağıdakı məlumatların daxil edilməməsi barədə xəbərdarlıq edib:
* Bank şifrəsi, kartın PIN-i, CVV kodu və birdəfəlik təsdiq kodları;
* İnternet bankçılığına giriş məlumatları və kredit kartının tam nömrəsi;
* Elektron poçt, sosial media və “e-Devlet” şifrələri;
* Kriptovalyuta cüzdanlarının məxfi açarları və ya bərpa sözləri;
* Elektron imza şifrələri və sertifikat məlumatları;
* Şəxsiyyət vəsiqəsinin ön və arxa tərəfinin senzurasız görüntüsü;
* Pasport, sürücülük vəsiqəsi və yaşayış yeri haqqında sənədlərin tam surəti;
* Əl ilə atılmış imza nümunələri;
* Şirkətlərin müştəri siyahıları, mənbə kodları, kommersiya sirləri və məxfi sənədləri;
* Başqa şəxslərə aid sağlamlıq, maliyyə, şəxsiyyət və şəxsi həyat məlumatları;
* Məxfi foto və videolar.
Dəmircanın sözlərinə görə, hər hansı sənədin süni intellekt tərəfindən xülasələndirilməsi zəruridirsə, ad, şəxsiyyət nömrəsi, ünvan, hesab nömrəsi, telefon, imza və barkod kimi məlumatlar mümkün qədər gizlədilməlidir. Real məlumatların əvəzinə nümunə və ya anonimləşdirilmiş məlumatlardan istifadə olunmalıdır.
“Buradakı risk yalnız “süni intellekt bu məlumatı öyrənib mənə qarşı istifadə edə bilərmi?” sualından ibarət deyil. Hesabınızın ələ keçirilməsi, xidmət təminatçısının təhlükəsizlik pozuntusu ilə üzləşməsi, yanlış konfiqurasiya edilmiş inteqrasiya, üçüncü tərəf əlavələri və ya məlumatların sonradan sosial mühəndislik məqsədilə istifadəsi də risk yaradır”, deyə ekspert bildirib.
Süni intellektlə hazırlanmış fırıldaqçılığı insan tərəfindən həyata keçirilən fırıldaqçılıqdan ayırmaq mümkündürmü?
Osman Dəmircanın sözlərinə görə, bəzi hallarda bunu müəyyən etmək mümkündür, lakin yalnız bu əlamətlərə güvənmək düzgün deyil.
Süni intellekt tərəfindən yaradılan mətnlər, səslər və görüntülər getdikcə daha real görünür. Ölkələrin kəşfiyyat xidmətləri də süni intellekt məzmunlarının yalnız görüntüyə və ya səsə baxmaqla müəyyən edilməsinin çətinləşdiyini bildirirlər.
Əvvəllər yazı səhvləri, robotik səs, dodaq hərəkətlərinin nitqlə uyğun gəlməməsi və görüntüdəki qüsurlar mühüm ipucları idi. Bu əlamətlər hələ də müşahidə oluna bilər, lakin texnologiya inkişaf etdikcə onların etibarlılığı azalır.
Bu gün mükəmməl türkcə ilə yazılmış mesaj da fırıldaqçılıq ola bilər. Çox tanış səslənən səs də klonlaşdırılmış ola bilər.
Buna görə mesajın süni intellekt tərəfindən hazırlanıb-hazırlanmadığını müəyyən etməyə çalışmaq əvəzinə, sizdən nə tələb olunduğuna və necə hərəkət etməyiniz üçün üzərinizə təzyiq göstərilib-göstərilmədiyinə diqqət yetirmək lazımdır.
“Məsələn, “indi etməsən hesabın bağlanacaq”, “dərhal pul göndər” və ya “cəmi beş dəqiqən var” kimi ifadələr, “ailənə demə”, “rəhbərinə xəbər vermə, bu əməliyyat gizlidir” kimi xəbərdarlıqlar şübhə doğurmalıdır. Kriptovalyuta, hədiyyə kartı, başqa şəxsin hesabı və ya əvvəllər istifadə edilməyən IBAN tələb olunması da ciddi xəbərdarlıq əlamətidir. Banklar və rəsmi qurumlar telefonla sizdən şifrə, kartın PIN-i və ya birdəfəlik SMS kodu istəmirlər. Bankla başlayan söhbətin “WhatsApp”, “Telegram” və ya naməlum keçidə yönləndirilməsi, elektron poçt ünvanında, domen adında və ya istifadəçi adında hətta bir hərfin dəyişdirilməsi də diqqətdən kənarda qalmamalıdır”, deyə Dəmircan bildirib.
Onun sözlərinə görə, şübhəli vəziyyətlə qarşılaşdıqda üç addım atmaq lazımdır: dayanmaq, əlaqə kanalını dəyişmək və məlumatı təsdiqləmək.
Mesajdakı keçidə daxil olmayın. Zəng edən şəxsin verdiyi nömrədən istifadə etməyin. Müvafiq quruma və ya şəxsə əvvəlcədən bildiyiniz rəsmi nömrə vasitəsilə özünüz zəng edin.