Süni intellekt çatbotlarına yazılan şəxsi mesajlar bəzi hallarda məhkəmə və istintaq proseslərinin bir hissəsinə çevrilə bilər. Son dövrdə ABŞ-da baş verən bir sıra məhkəmə işləri ChatGPT kimi platformalarda aparılan söhbətlərin istifadəçilərin düşündüyü qədər şəxsi olmaya biləcəyini göstərir.

KONKRET.az Qaynarinfo-ya istinadən xəbər verir ki, süni intellekt çatbotlarından artıq yalnız məlumat almaq üçün deyil, şəxsi düşüncələri, narahatlıqları, ailədaxili problemləri və digər həssas məsələləri bölüşmək üçün də istifadə olunur. Lakin istifadəçilərin əksəriyyəti bu söhbətlərin hüquqi proseslərdə ortaya çıxa biləcəyini nəzərə almır.

Hər şey atasının dediyi sözü ChatGPT-yə soruşduqdan sonra başladı

Bu müzakirənin diqqətçəkən nümunələrindən biri məhkəmə sənədlərində RKC kimi təqdim edilən gəncin işi olub. “Washington Post”un məlumatına görə, RKC 2024-cü ilin oktyabrında atasının ona dediyi bir ifadənin mənasını anlamaq üçün ChatGPT-yə müraciət edib.

Məhkəmə sənədlərinə əsasən, gənc çatbota atasının ona 1 milyon dollar təzminat alacağını, lakin bu pulun onu xoşbəxt etməyə kifayət etməyəcəyini dediyini bildirib və bunun nə demək olduğunu soruşub.

İlk baxışda adi və şəxsi söhbət təsiri bağışlayan bu yazışma daha sonra hüquqi işin bir hissəsinə çevrilib.

RKC 2023-cü ildə “Meta”, “Snap”, “TikTok” və “YouTube” şirkətlərinə qarşı iddia qaldıraraq bu şirkətlərin tətbiqlərinin onda illərlə davam edən sosial media asılılığına və psixi sağlamlıq problemlərinə səbəb olduğunu irəli sürüb. İş çərçivəsində gəncin ChatGPT-yə yazdığı bəzi mesajlar da müdafiə vəkillərinin təqdim etdiyi materiallar arasında ictimaiyyətə məlum olub.

İyulun sonlarında RKC-nin vəkilləri “Snap”, “TikTok” və “YouTube” ilə razılığa gəliblər. “Meta”ya qarşı iddia isə qismən, gəncin həftələrlə davam edə biləcək və kifayət qədər yorucu məhkəmə prosesinə tab gətirib-gətirə bilməyəcəyi ilə bağlı narahatlıqlar səbəbindən dayandırılıb. Şirkətlər RKC-nin iddialarını rədd edib.

Çatbot qeydləri yeni rəqəmsal sübut sahəsinə çevrilir

RKC-nin işi süni intellekt söhbətlərinin hüquqi proseslərdə necə istifadə oluna biləcəyinə dair daha geniş müzakirənin nümunələrindən biridir.

İnsanların iş, sağlamlıq, münasibətlər, ailə problemləri və şəxsi narahatlıqlar kimi özəl məsələlərdə çatbotlara müraciət etməsi bu platformalarda böyük həcmdə şəxsi məlumat arxivi yaradır.

“Washington Post”un ictimai məhkəmə sənədləri və yerli xəbərlər əsasında apardığı araşdırmaya görə, son iki ildə ən azı 12 məhkəmə işində çatbot qeydlərinə istinad edilib. Lakin real sayın bundan xeyli çox ola biləcəyi bildirilir. Bunun səbəbi polis və ya məhkəmə işlərində tərəflərin əldə etdikləri bütün sübutları məhkəməyə təqdim etmək məcburiyyətində olmamasıdır.

RKC-ni təmsil edən hüquqşünas Mayk Morqan xüsusilə uşaqlar üçün yaranan riskə diqqət çəkib. Onun sözlərinə görə, 15 yaşlı yeniyetmə terapevtinə, valideyninə və ya dostuna deməyəcəyi şeyləri çatbota yaza bilər və bu məlumatların gələcəkdə müdafiə eksperti tərəfindən hazırlanan hesabatda və ya məhkəmə işində yer ala biləcəyindən xəbərsiz ola bilər.

ChatGPT-yə yazılan məlumatlar həqiqətən silinir?

Məsələnin yalnız hüquqi deyil, texniki tərəfi də var. İstifadəçilərin ChatGPT kimi platformalara yazdığı şəxsi və həssas məlumatların necə saxlanılması, silinən söhbətlərin sistemlərdən tamamilə silinib-silinməməsi və bu məlumatların hansı hallarda yenidən əlçatan ola bilməsi mühüm suallar doğurur.

İnformasiya texnologiyaları üzrə mütəxəssis Osman Dəmircan bildirib ki, bu sistemlər texniki baxımdan güclü təhlükəsizlik tədbirlərindən istifadə edir.

“OpenAI istifadəçi məzmununun həm cihazla server arasındakı ötürülmə zamanı, həm də saxlanılarkən şifrələndiyini bildirir. Buna görə söhbət internetdə açıq şəkildə yayılan və ya hər kəsin əldə edə biləcəyi məlumatdan getmir. Lakin şifrələnmiş məlumatla heç bir halda heç kimin giriş əldə edə bilməyəcəyi məlumat eyni şey deyil”, – deyə o bildirib.

Dəmircanın sözlərinə görə, istifadəçi məlumatı öz cihazından çıxararaq bulud xidmətinə göndərir. Hesabın ələ keçirilməsi, səlahiyyətli sistem girişləri, hüquqi sorğular, üçüncü tərəf inteqrasiyaları və proqram təminatındakı təhlükəsizlik boşluqları kimi risklər nəzəri olaraq istənilən bulud sistemində mövcuddur.

Onun sözlərinə görə, söhbətin silinməsi ilə bağlı da mühüm detal var:

“OpenAI”ın hazırkı siyasətinə əsasən, söhbəti sildiyiniz zaman o, hesabınızdakı görünüşdən dərhal silinir, lakin sistemlərdən daimi olaraq silinməsi 30 gün ərzində həyata keçirilmək üçün planlaşdırılır. Təhlükəsizlik və ya hüquqi öhdəlik olduğu halda məlumatların daha uzun müddət saxlanılması mümkündür.”

O əlavə edib ki, məlumat daha əvvəl anonimləşdirilib və istifadəçi hesabı ilə əlaqəsi kəsilibsə, onun daha erkən silinməsi və ya daha uzun müddət anonim formada saxlanılması mümkün ola bilər.

“Temporary Chat” da tamamilə izsiz deyil

Dəmircan hesabla daxil olmadan istifadə edilə bilən “Temporary Chat” funksiyasının da tamamilə izsiz sistem kimi qəbul edilməməli olduğunu vurğulayıb.

“İstifadə tarixçəsində görünməməsi və bəzi modellərin təlimində istifadə edilməməsi mümkün məlumatların serverlərdə olmadığı anlamına gəlmir”, – deyə mütəxəssis bildirib.

Onun sözlərinə görə, təhlükəsizlik məqsədilə məlumatın bir nüsxəsi 30 günədək saxlanıla bilər.

Əgər GPT-nin məlumatları xarici xidmətə göndərən funksiyalarından istifadə edilirsə, yəni süni intellekt tətbiqini başqa xidmətlə əlaqələndirirsinizsə, üçüncü tərəfin öz məlumat saxlama siyasəti də qüvvəyə minir və bu müddət daha uzun ola bilər.

Dəmircanın sözlərinə görə, istifadəçi üçün əsas prinsip belədir:

“Sil düyməsinə basa bilirəm və silə bilirəm demək, məlumatın həmin saniyədə dünyadakı bütün sistemlərdən fiziki olaraq yox olması demək deyil.”

O, şifrə, kredit kartı məlumatları, şəxsiyyət sənədləri, şirkət sirləri, şəxsi sağlamlıq məlumatları və ya üçüncü şəxslərə aid son dərəcə həssas informasiyanın mümkün qədər birbaşa süni intellekt sistemlərinə daxil edilməməsini tövsiyə edib.

ChatGPT-yə yazılan təhdidlər istintaqın bir hissəsinə çevrildi

Çatbot söhbətlərinin yalnız mülki məhkəmə işlərində deyil, cinayət araşdırmalarında da əhəmiyyət qazandığını göstərən nümunələr var.

Belə hadisələrdən biri ABŞ-ın Florida ştatında baş verib. Federal Təhqiqatlar Bürosu (FTB) ötən may ayında Palm Biç dairəsinin polis idarəsinə ChatGPT-nin yaradıcısı “OpenAI” tərəfindən göndərilən bildiriş barədə məlumat verib.

Məhkəmə sənədlərinə görə, Darren Jou kimi təqdim edilən istifadəçi aylar ərzində keçmiş sevgilisinə təcavüz etmək və onu öldürmək planlarını ChatGPT-yə danışıb.

Jounun keçmiş sevgilisinin voleybol məşqindən qayıtmasını gözləyərək ona hücum etməyi planlaşdırdığı və özünə də zərər verməyi düşündüyü iddia edilib.

FBI-dan daxil olan məlumatdan sonra yerli polis qadını müəyyən edib. Hakimiyyət orqanları həmçinin Jounun ayrılıqdan sonra keçmiş sevgilisinə anonim mesajlar göndərdiyini müəyyənləşdirib. Məhkəmə sənədlərində bu mesajların bəzilərinin təhdidlərin ciddiliyini təsdiqlədiyi qeyd olunub.

Jou may ayında saxlanılıb. Keçmiş sevgilisinə göndərdiyi mesajlarla yanaşı, ChatGPT söhbətləri də araşdırmanın bir hissəsinə çevrilib. Polis həmin mesajların təhdidlərin real olduğuna dair qənaəti gücləndirdiyini bildirib.

Jou daha sonra təqsirini etiraf edib və bu ay səkkiz il nəzarət altında azadlıq cəzasına məhkum edilib.

“OpenAI” istifadəçi söhbətlərində təhlükəli davranış əlamətlərini müəyyənləşdirmək üçün avtomatik sistemlərdən və insan yoxlamasından istifadə etdiyini açıqlayıb. Şirkət aprel ayında yaydığı açıqlamada söhbətin başqalarına qarşı yaxın və real təhlükə yaratdığı qənaətinə gəlinərsə, məsələnin hüquq-mühafizə orqanlarına bildirilə biləcəyini qeyd edib.

Lakin şirkət polisə neçə halın bildirildiyi barədə məlumat verməyib.

“İnsanlar bunu heç kimin görməyəcəyini düşünür”

Hüquq ekspertlərinə görə, çatbot söhbətlərini ənənəvi rəqəmsal qeydlərdən fərqləndirən əsas xüsusiyyət istifadəçilərin süni intellekt qarşısında daha açıq və səmimi davrana bilməsidir.

ABŞ Milli Cinayət Müdafiə Vəkilləri Assosiasiyasının Dördüncü Düzəliş Mərkəzinin işlər üzrə direktoru Maykl Prays bildirib ki, çatbot söhbətləri yalnız verilən sualdan ibarət deyil.

İstifadəçinin təqdim etdiyi əlavə məlumatlar, verdiyi təlimatlar və söhbət boyu qurduğu ünsiyyət onun düşüncə prosesini və niyyətini ortaya çıxara bilər. Praysın fikrincə, bu xüsusiyyət çatbot qeydlərini insanın şəxsi həyatına açılan geniş pəncərəyə çevirir.

Bu söhbətlər texniki baxımdan etibarlı sübutdurmu?

Çatbot söhbətinin məhkəməyə təqdim edilməsi başqa bir mühüm sual doğurur: Ekran görüntüsü və ya söhbət qeydi həqiqətən həmin şəxs tərəfindən yaradılıb? Söhbətin bir hissəsi dəyişdirilə, silinə və ya kontekstdən çıxarıla bilərmi?

İnformasiya texnologiyaları üzrə mütəxəssis Osman Dəmircanın sözlərinə görə, süni intellekt söhbətlərinin hüquqi sübut kimi qiymətləndirilməsində ilk və ən mühüm sual söhbəti həqiqətən kimin aparmasıdır.

Hesabın müəyyən şəxsə məxsus olması həmin hesabdakı bütün mesajların da eyni şəxs tərəfindən yazıldığı anlamına gəlmir. Kompüterin açıq qalması, telefonun başqa şəxsin əlinə keçməsi, hesabın paylaşılması və ya üçüncü şəxs tərəfindən ələ keçirilməsi kimi ehtimallar da nəzərə alınmalıdır.

Dəmircan bildirib ki, buna görə yalnız hesab sahibinə əsaslanaraq nəticə çıxarmaq olmaz:

“Bir süni intellekt tətbiqi hesabının müəyyən şəxsə məxsus olması həmin söhbəti mütləq həmin şəxsin yazdığı anlamına gəlmir. Hesabın ələ keçirilməsi, kompüterin açıq qalması, telefonun başqa şəxsin əlinə keçməsi və ya hesabın paylaşılması kimi ehtimallar ola bilər. Buna görə hesab məlumatları, sessiya qeydləri, cihaz məlumatları, zaman göstəriciləri və varsa IP və sessiya məlumatları cihazın məhkəmə-kompüter ekspertizası ilə birlikdə qiymətləndirilməlidir.”

Onun sözlərinə görə, hansı məlumatlara çıxış əldə edilməsinin və onların hüquqi baxımdan necə əldə edilə biləcəyinin istifadə edilən xidmətdən, işin xarakterindən və ölkənin yerli qanunlarından asılı olduğu nəzərə alınmalıdır.

Digər mühüm məsələ isə əldə edilən söhbətin sonradan dəyişdirilib-dəyişdirilməməsidir.

Dəmircanın sözlərinə görə, yalnız ekran görüntüsü söhbətin həqiqətən həmin formada baş verdiyini sübut etmək üçün kifayət qədər güclü dəlil olmaya bilər. Çünki görüntülər müxtəlif proqramlarla dəyişdirilə, brauzerdə mətnlər redaktə edilə və hətta süni intellekt vasitəsilə həqiqidən ayırd edilməsi çətin saxta ekran görüntüləri yaradıla bilər.

Bu baxımdan rəqəmsal məlumatların bütövlüyünü yoxlamaq üçün “hash” dəyərləri mühüm rol oynayır.

“Kriptoqrafik hash rəqəmsal məlumatın bütövlüyünü yoxlamaq üçün istifadə edilən texniki üsullardan biridir. ABŞ Milli Standartlar və Texnologiya İnstitutunun (NIST) məhkəmə-kompüter ekspertizası və rəqəmsal sübutlarla bağlı təlimatlarında da sübut əldə edildikdən sonra onun bütövlüyünün yoxlanılması və kimin əlindən keçdiyinin qeydiyyata alınması, yəni sübutun qorunma zəncirinin yaradılması mühüm təcrübələr sırasında göstərilir”, – deyə ekspert bildirib.

O, eyni zamanda “hash” anlayışının tez-tez yanlış başa düşüldüyünü vurğulayıb:

“Hash həmin söhbəti konkret şəxsin yazdığını sübut edən üsul deyil. Hash-in göstərdiyi odur ki, əlimizdəki rəqəmsal məlumat əldə edildiyi andan etibarən dəyişdirilib, yoxsa yox. Faylda hətta bir bit belə dəyişsə, güclü hash alqoritminin yaratdığı dəyər dəyişəcək. Buna görə hash bizə məlumatın bütövlüyü barədə informasiya verir, lakin həmin məlumatı kimin yaratdığını və ya həmin vaxt hesabdan kimin istifadə etdiyini göstərmir.”

Başqa bir işdə ChatGPT mesajları əmlaka zərər vurma araşdırmasına daxil edildi

ABŞ-ın Missuri ştatının Sprinqfild şəhərində baş verən başqa hadisə də çatbot söhbətlərinin necə sübuta çevrilə biləcəyini göstərib.

Həbs qərarı və polis hesabatına görə, tələbə Rayan Şefer 2025-ci ilin avqustunda kampusun dayanacağında 17 avtomobilə zərər vurmaqda ittiham edilib.

Polis sentyabr ayında Şeferi oyadaraq araşdırma çərçivəsində telefonuna giriş əldə edib.

Polis qeydlərinə görə, Şefer hadisə gecəsi saat 03:47 radələrində ChatGPT-yə vəziyyətinin nə qədər pis olduğunu soruşub və avtomobillərə zərər vurduğundan danışıb. Daha sonra polisin onu necə müəyyən edə biləcəyini soruşub.

Bu söhbətlərin üzə çıxmasından bir neçə gün sonra Şefer saxlanılıb. O, daha sonra əmlaka zərər vurmaqda təqsirini etiraf edib və iyul ayında beş il nəzarət altında azadlıq cəzasına məhkum olunub.

Süni intellektə yazılan etiraf təkbaşına sübut sayıla bilərmi?

Çatbot söhbətlərinin hüquqi aspektində digər mühüm məsələ bu qeydlərin sübut dəyəridir. Bir şəxsin süni intellektə cinayət törətdiyini etiraf etməsi, hücum planından danışması və ya başqa şəxsə qarşı təhdidlərini açıqlaması halında belə söhbətin məhkəmə üçün təkbaşına nə ifadə etdiyi sualı ortaya çıxır.

Kibercinayət üzrə mütəxəssis vəkil doktor Ceren Küpeli bildirib ki, bu məsələyə sübutların elmi qiymətləndirilməsi meyarları əsasında yanaşmaq lazımdır.

“Ədli elmlərdə rəqəmsal qeydin dəyəri iki parametr əsasında ölçülür: autentiklik, yəni qeydin həqiqətən həmin şəxsdən yaranması və bütövlük, yəni məzmunun ilkin formasından məhkəməyə çatana qədər dəyişməməsi. Bu iki şərt müəyyən edilmədən süni intellekt söhbətinin təkbaşına məhkumluq üçün əsas götürülməsi metodoloji baxımdan möhkəm əsaslara söykənmir”, – deyə Küpeli bildirib.

Onun sözlərinə görə, rəqəmsal sübutun təbiəti bunu zəruri edir. Ekran görüntüsünə söz əlavə etmək, müəyyən hissəni çıxarmaq və ya mətni kontekstdən ayırmaq mümkündür.

“Buna görə məhkəmə-kompüter ekspertizasında ən yaxşı sübut xam ekran görüntüsü deyil, mənbənin məhkəmə ekspertizası üçün hazırlanmış surətidir. Bu surətin bütövlüyü hash dəyəri ilə riyazi şəkildə yoxlanılır və sübut zəncirinin fasiləsiz sənədləşdirilməsi ilə dəstəklənir”, – deyə o qeyd edib.

Küpelinin sözlərinə görə, autentiklik də mühüm məsələdir. Hesabın kimə məxsus olması həmin anda klaviaturanın qarşısında kimin olduğunu göstərmir. Cihaz paylaşıla, hesab ələ keçirilə və ya mətni başqa şəxs yaza bilər.

“Bu hesabdan çıxıb” ifadəsi “bu şəxs yazıb” demək deyil. Bu əlaqə sessiya və bağlantı qeydləri, eləcə də digər maddi sübutlarla müəyyən edilməlidir.

Küpeli xüsusilə “etiraf” xarakterli ifadələrə ehtiyatla yanaşılmasının vacib olduğunu vurğulayıb:

“İnsanlar süni intellektə çox vaxt düşüncə təcrübəsi, ssenari qurmaq və ya emosional boşalma məqsədilə yazırlar. Belə mətni kontekstdən çıxararaq etiraf kimi qiymətləndirmək məhkəmə baxımından yanıltıcı ola bilər. Eyni ehtiyat təhdid xarakterli söhbətlərə də aiddir. İfadənin real niyyət, yoxsa kontekstdən kənar söylənmiş fikir olduğunu yalnız dəstəkləyici sübutlarla müəyyən etmək mümkündür.”

Nəticə etibarilə, Küpelinin sözlərinə görə, süni intellekt söhbəti cinayət mühakiməsində yalnız qanuni yolla əldə edildiyi halda sübut kimi qiymətləndirilə bilər.

“Lakin təkbaşına və yoxlanılmamış formada bu, etibarlı sübut deyil, ən yaxşı halda sübutun başlanğıcı kimi ifadə edilən hüquqi arqumentdir. Onun sübut dəyəri autentikliyinin və bütövlüyünün texniki baxımdan müəyyən edilməsindən və hadisənin digər maddi faktları ilə uyğun bir bütöv təşkil etməsindən asılıdır”, – deyə ekspert bildirib.

O əlavə edib ki, rəqəmsal sübutlarla bağlı məhkəmə ekspertizasının əsas prinsipi birdir: hüquqa uyğun əldə edilmiş və bir-birini təsdiqləyən sübutların məcmusu hüquqi nəticələrin etibarlı əsasını təşkil edir.