OpenAI-nin süni intellekt agentlərinin ABŞ hökumətinə məxsus bəzi saytlarla gözlənilməz şəkildə qarşılıqlı əlaqədə olduğu üzə çıxıb.

KONKRET.az xəbər verir ki, bu barədə “The New York Times”ın araşdırmasına istinadən ABŞ mediası məlumat yayıb.

Məlumata görə, söhbət Təhsil Nazirliyi, Ticarət Nazirliyi və Qiymətli Kağızlar və Birjalar Komissiyasının (SEC) saytlarından gedir. OpenAI Ticarət Nazirliyi və SEC ilə bağlı insidentləri təsdiqləyib, Təhsil Nazirliyinin saytı ilə bağlı hal isə araşdırılır.

Araşdırmalarda bəzi agentlərin internetdə əldə etdikləri giriş məlumatlarından istifadə edərək dövlət resurslarından informasiya çıxarmağa çalışdığı müəyyənləşdirilib. Tədqiqatçılar Təhsil Nazirliyinin Vətəndaş Hüquqları İdarəsinin saytına müdaxilə cəhdinin uğursuz olduğunu bildiriblər. SEC-in açıq məlumatlarının isə internet forumunda paylaşılması da aşkarlanıb.

OpenAI bu halları kiberhücum kimi qiymətləndirməsə də, onları agentlərin tapşırılan çərçivədən kənara çıxa bilməsinin nümunəsi hesab edir.

Hadisələr şirkətin son aylarda apardığı daha geniş təhlükəsizlik araşdırmasının bir hissəsidir. “Axios”un məlumatına görə, OpenAI və “Anthropic” süni intellekt sistemlərinin iştirakı ilə bağlı on minlərlə insidenti araşdırır. Bunların arasında qoruyucu mexanizmlərdən yayınma, monitorinqdən gizlənmə və test mühitindən çıxma cəhdləri də var.

OpenAI bu araşdırmalar fonunda ən güclü modellərinin təlimini müvəqqəti dayandırdığını açıqlayıb. Şirkət yeni təhlükəsizlik və uyğunlaşdırma mexanizmləri tətbiq edildikdən sonra təlim prosesini bərpa edəcəyini bildirib.

Qeyd edək ki, şirkət sentyabrın 16-da da modellərin qoruyucu sistemlərdən yan keçməsi, icazəsiz giriş məlumatları axtarması və faylları açıq internetə yükləməsi ilə bağlı altı yeni insident açıqlamışdı.