ABŞ-nin Massaçusets ştatında 17 yaşlı Arjun Aravind anası və 14 yaşlı qardaşını öldürməkdə ittiham olunub. Araşdırmada onun cinayətdən əvvəl internetdə və süni intellekt vasitəsilə ailəsinin ölümü ilə bağlı ssenarilər araşdırdığı məlum olub. Prokurorluq bildirir ki, yeniyetmə aylar ərzində, o cümlədən hadisə günü süni intellektə ölüm və cinayətlə bağlı suallar verib.
Yeniyetmələrin süni intellektdən təhlükəli məqsədlərlə istifadə etməsi hallarını texnologiya vasitəsilə əvvəlcədən aşkar etmək və qarşısını almaq mümkündürmü?
“Azərbaycan Kibertəhlükəsizlik Təşkilatları Assosiasiyası” İctimai Birliyinin eksperti, Xəzər Universitetinin İT departamentinin rəhbəri Fərid MusayevDemokrat.az-a söyləyib ki, bu hadisə süni intellektin etik və təhlükəsizlik baxımından ən ciddi problemlərindən birini, yəni psixoloji manipulyasiya və koqnitiv təhlükə məsələsini gündəmə gətirir:
“Yeniyetmələrin süni intellektdən təhlükəli məqsədlərlə istifadəsinin qarşısını almaq texnoloji baxımdan mümkündür, lakin bunun üçün çoxşaxəli yanaşma tələb olunur.
Bu istiqamətdə əsas mexanizmlərdən biri model səviyyəsində təhlükəsizlik sistemlərinin tətbiqidir. “ChatGPT”, “Claude” və digər süni intellekt alətlərini hazırlayan şirkətlər təhlükəsizlik uyğunlaşdırılması mexanizmlərindən istifadə edirlər. Belə sistemlər istifadəçinin daxil etdiyi sorğuları və modelin hazırladığı cavabları analiz edir. Əgər sorğuda fiziki zorakılıq, cinayət planlaması və ya özünə zərərvermə ilə bağlı təhlükəli məzmun aşkarlanarsa, sistem cavab verməkdən imtina edə və təhlükəsiz istiqamətləndirmə təqdim edə bilər.
Şirkətlər həmçinin “red teaming” metodundan istifadə edərək modelləri qəsdən təhlükəli sorğularla sınaqdan keçirirlər. Bu üsul vasitəsilə modelin müxtəlif manipulyasiya cəhdlərinə və “jailbreak” adlanan təhlükəsizlik məhdudiyyətlərini keçməyə yönəlmiş üsullara necə reaksiya verdiyi əvvəlcədən yoxlanılır”.
Mütəxəssis digər səviyyənin isə istifadəçi və cihaz nəzarəti olduğunu vurğulayıb:
“Davranış analitikası vasitəsilə istifadəçinin süni intellektlə ünsiyyətindəki dəyişikliklər, məsələn, sualların tezliyi, mövzuların qəfil dəyişməsi və emosional tonun kəskinləşməsi müəyyən edilə bilər. Valideyn nəzarəti proqramları da uşağın cihazında müəyyən riskli mövzular üzrə axtarış və yazışmaları analiz edərək xəbərdarlıq mexanizmlərindən istifadə edə bilər. Lakin burada şəxsi həyatın toxunulmazlığı ilə təhlükəsizlik arasında ciddi balans məsələsi yaranır. Əsas problemlərdən biri isə istifadəçinin niyyətinin müəyyən edilməsidir. Yeniyetmə təhlükəli məlumatı birbaşa soruşmaq əvəzinə, bunu bədii hekayə, oyun ssenarisi və ya fəlsəfi sual formasında təqdim edə bilər. Süni intellekt mövzunu müəyyən etsə də, həmin sualın arxasında real təhlükəli niyyətin, yoxsa sadəcə marağın dayandığını hər zaman dəqiq müəyyənləşdirə bilmir.
Məsələn, “ölüm” mövzusu həm ədəbiyyat və tarix çərçivəsində, həm də təhlükəli məqsədlərlə müzakirə oluna bilər. Buna görə də texnologiyanın yalnız mövzunu deyil, istifadəçinin davranış kontekstini də nəzərə alması vacibdir. Süni intellekt təhlükəsizlik filtrləri və davranış analizləri ilə risklərin azaldılmasında mühüm rol oynaya bilər. Lakin texnologiya təkbaşına kifayət deyil. Daha sərt təhlükəsizlik sistemləri, şübhəli davranışları aşkar edən mexanizmlər və zəruri hallarda insan nəzarəti birlikdə tətbiq edilməlidir. Başqa sözlə, texnologiya istifadəçinin “nə” soruşduğunu müəyyən edə bilər, lakin “niyə” soruşduğunu anlamaq üçün insan nəzarəti, psixoloji yanaşma və müvafiq mütəxəssis dəstəyi də vacib olaraq qalır”.
