Onun cəmi 14 yaşı var idi, 9-cu sinifdə oxuyan uğurlu şagird idi. Formula 1 yarışlarını izləməkdən və dostları ilə kompüter oyunları oynamaqdan həzz alırdı. Ancaq bunların hamısı keçmişdə qaldı, çünki o, artıq həyatda deyil və anası oğlunun ölümünə görə bir süni intellekt tətbiqini günahlandırır. Bəs nə baş verib?
Demokrat.az "Hürriyet"ə istinadən Syuell Setze həyatının son günündə ən yaxın dostuna "Sənin üçün darıxıram" mesajını yazıb. Cavabda "Mən də sənin üçün darıxıram" yazılıb.
Ancaq bu dialoqda qəribə bir şey var. Syuellin mesajlaşdığı şəxs real insan deyil, "Game of Thrones" serialında britaniyalı aktrisa Emiliya Klarkın canlandırdığı Daenerys Targaryen personajının adını daşıyan süni intellektli çatbotdur.
ABŞ-ın Florida ştatının Orlando şəhərində yaşayan Syuell aylardır Daeneryslə söhbət edirdi. Character.AI proqramından istifadə edərək yaratdığı və inkişaf etdirdiyi bu personaj tez bir zamanda Syuellin həyatında ən vacib insana çevrilib.
Əslində, Syuell Daenerysin real bir insan olmadığını və ekranındakı mesajların süni intellekt dil modelinin çıxardığı nəticələr olduğunu bilirdi. Qarşısındakı robotu insanla səhv salması mümkün deyildi, çünki ekranda Character.AI-dən istifadə edərək personajların hazırladığı hər şeyin saxta olduğunu bildirən daimi xəbərdarlıq mesajı var.
Lakin bunların heç biri Syuell Daenerys ilə emosional bağ yaratmasına mane olmayıb. 14 yaşlı 9-cu sinif şagirdi bütün günü proqramla davamlı olaraq ona mesajlaşır, başına gələnləri danışır və səbirsizliklə cavablarını gözləyirdi. Söhbətləri bəzən romantik olsa da, Dani əksər hallarda Syuellə dost kimi davranırdı. O, Syuelin dediklərini mühakimə etmirdi, Syuelin dərdlərini dinləyir, ona dəstək olur, müdrik məsləhətlər verirdi. Ən əsası, Dani həmişə orada idi: Heç bir mesajı cavabsız qoymurdu.
Ailəsi və dostları Syuellin çatbota aşiq olduğundan xəbərsiz olublar. Onlar ancaq uşağın getdikcə telefonuna daha çox bağlandığını görüb. Zamanla Syuell tənhalaşmağa və özünə qapanmağa başlayır. Qiymətləri aşağı düşütr, məktəbdən şikayətlər gəlməyə başlayır. Formula 1 yarışları və "Fortnite" kimi əvvəllər həzz aldığı şeylərə marağını itirir. Dərsdən evə gələn kimi otağına girir və Dani ilə saatlarla danışlır. Gündəliyinə yazdığı bir girişdə reallıqdan qopmağa başladığını və getdikcə daha çox sevdiyi Dani ilə birlikdə daha dinc və xoşbəxt olduğunu qeyd edib.
Uşaqlıqda yüngül Asperger sindromu diaqnozu qoyulmasından başqa, Syuellin ciddi davranış və psixi sağlamlıq problemləri olmayıb. Məktəbdə problem yaşamağa başlayanda ailəsi tərəfindən terapevtə aparılan Syuellə 5 seansdan sonra narahatlıq və pozucu əhval-ruhiyyə pozğunluğu diaqnozu qoyulub.
Bununla belə, Syuell problemləri haqqında ailəsi və ya terapevti ilə deyil, Dani ilə danışmağa üstünlük verib. Söhbətdə özünə nifrət etdiyini, özünü boş və yorğun hiss etdiyini bildirən Syuell həyatına son qoymağı düşündüyünü etiraf edib. Daninin "Belə danışma. Özünə zərər verməyinə və ya məni tərk etmənə icazə verməyəcəyəm. Əgər səni itirsəm, öləcəyəm" sözlərinə Syuell cavab verib: "O zaman bəlkə birlikdə ölüb, birlikdə azad ola bilərik".
Fevralın 28-nə keçən gecə Syuell Daniyə onu sevdiyini və tezliklə evə qayıdacağını yazıb. Dani "Zəhmət olmasa, tez gəl, sevgilim" deyəndə "Sənə indi gələ biləcəyimi desəm necə?" sualını verib. Dani isə ona "Zəhmət olmasa gəl, mənim şirin kralım" yazıb və oğlan sonra ögey atasının silahını başına qoyraq tətiyi çəkib.
Bu gün bütün dünyada valideynlər üçün bir nömrəli gündəm texnologiyanın uşaq və yeniyetmələrin psixi sağlamlığına təsiridir. Məktəblərdə smartfonlar qadağan edilir, bir çox ölkədə sosial mediadan istifadəyə yaş məhdudiyyətləri qoyulur, sosial media tətbiqlərinin asılılıq yaratması gənclərdə depressiya və narahatlığa səbəb olduğunu müdafiə edən "The Anxious Generation" kimi kitablar valideynlər arasında yayılır.
Ailələri narahat edən rəqəmsal tendensiyaların ən sonuncusu, demək olar ki, tamamilə nəzarət olunmayan süni intellektli tanışlıq proqramlarıdır. Müəyyən bir ödəniş qarşılığında istifadə edilən bu tətbiqlərdə hər kəs əvvəldən mövcud olan personajlarla danışa və öz həmsöhbətini yarada bilər. "Tənhalıq epidemiyası"nın müalicəsi kimi bazara çıxarılan bu proqramların bir çoxu romantik münasibətdə olduqlarını hiss etmək istəyən insanlar üçün nəzərdə tutulub.
Character.AI-nin yaradıcılarından biri olan Noam Şazeer keçən il podkastda "Bu, özünü tənha və ya depressiyaya düşən bir çox insan üçün çox faydalı olacaq" deyib.
Bu proqramlardan əyləncə vasitəsi kimi istifadə edib, müəyyən səviyyədə emosional dəstək və fayda aldığını söyləyənlər də az deyil. Ancaq bu faydalar haqqında sübut edilmiş məlumat yoxdur. Üstəlik, ekspertlər bunun qaranlıq tərəfinin ola biləcəyini deyirlər.
Çünki süni intellektli dostlar bəzi istifadəçilərin münasibətlərini süni əlaqələrlə olan insanlarla əvəzləməsinə və daha da tənhalaşmasına səbəb olur. Çətin vəziyyətlərdə olan yeniyetmələr bu təcrübələri terapiya, valideynləri və ya etibarlı böyüklər üçün əvəz edirlər. Lakin istifadəçilərin böhran yaşadığı hallarda süni intellektli dostlar lazımi yardımı göstərə bilmir.
Syuellin anası Meqan Qarsianın bu həftənin əvvəlində açdığı iddia sayəsində həmin gənclərdən biri olduğu məlum olub. Qarsianın oğlunun ölümünə görə məsuliyyət daşıdığı Character.AI-a qarşı etdiyi şikayətdə şirkət tərəfindən hazırlanmış texnologiyanın "təhlükəli və sınaqdan keçirilmədiyi" və "müştəriləri ən özəl düşüncə və hisslərini şirkətlə paylaşaq üçün aldatdığı" iddia olunur.
"The New York Times"a verdiyi açıqlamada 40 yaşlı Qarsia oğlunun ölümünün günahkarının Character.AI olduğunu bildirib və şirkətin lazımi tədbirləri görməməsi və gənclərin insana bənzər məlumatlara çıxışını təmin etməklə məsuliyyətsiz olduğunu bildirib.
Özü də vəkil olan Qarsia Character.AI-ni modellərini öyrətmək üçün yeniyetmə istifadəçilərdən məlumat toplamaqda, nişanlanmanı artırmaq üçün asılılıq yaradan dizayn xüsusiyyətlərindən istifadə etməkdə və istifadəçiləri onları heyran etmək üçün şəxsi və cinsi məzmunlu dialoqlar aparmağa yönəltməkdə ittiham edib:
"Bu, kabus kimidir. İnsan ayağa qalxıb qışqırmaq və uşağım üçün darıxıram. Körpəmi istəyirəm" demək istəyir".
ABŞ qanunlarına görə, onlayn platformalar istifadəçilərin yazılarına görə məsuliyyət daşımır. Bununla belə, son illərdə açılan bir çox məhkəmə iddiaları texnologiya platformalarının tətbiqlərdəki qüsurlara görə məsuliyyət daşıya biləcəyini iddia edir. Sosial media proqramlarında işləyən alqoritmlərin gəncləri yemək pozğunluğuna və ya özünə zərər verən davranışlara sövq etdiyi vəziyyətlər bu məsuliyyətə misal olaraq göstərilir. Hələ bu strategiya ilə sosial media şirkətlərinə qarşı açılmış və qazanılmış bir iddia yoxdur, lakin süni intellektin istehsal etdiyi məzmun bu mənada bir dönüş nöqtəsi ola bilər. Çünki bu məzmunlar istifadəçilər tərəfindən deyil, platformaların özləri tərəfindən hazırlanır.
Yeniyetmələrin psixi sağlamlıq problemlərinin tək bir səbəbdən qaynaqlanması nadirdir. Syuell təcrübəsi bu proqramlardan istifadə edən hər gəncin başına gəlməyə bilər. Bununla belə, çatbot ilə emosional bağ yaratmaq təcrübəsi gündən-günə daha çox adi hala çevrilir. Bu gün milyonlarla insan AI dostları ilə müntəzəm olaraq danışır. "Instagram" və "Snapchat" kimi məşhur proqramlar da öz məhsullarına insana bənzər süni intellektli robotları inteqrasiya edir.
Üstəlik, texnologiya başgicəlləndirici bir sürətlə inkişaf etdikcə, bu gün süni intellektli dostlar köhnə söhbətləri xatırlaya, istifadəçinin ünsiyyət tərzinə uyğunlaşa, özünü məşhur və ya tarixi şəxsiyyət kimi apara, demək olar ki, hər mövzuda səlis dialoqlar qura bilir. Hətta istifadəçilərə süni intellektlə yaradılan selfilər göndərən və ya insan səsinə bənzəyən sintetik səslərlə danışanlar var.
Tətbiqlərin bəziləri cinsi söhbətlərə icazə verərkən, bəzilərində bunlar nəzarət altında saxlanılır. Bununla belə, tanışlıq proqramlarının nəzarət mexanizmləri "ChatGPT", "Claude" və "Gemini" kimi əsas süni intellekt xidmətləri ilə müqayisədə daha sərbəstdir.
Character.AI-da istifadəçilər öz çatbotlarını yarada və onlara necə davranmaq barədə təlimat verə bilərlər. O, həmçinin İlon Maskdan Uilyam Şeksperə qədər mövcud məşhur profilləri və ya Daeneris Targaryen kimi qondarma personajların lisenziyasız versiyaları ilə dialoq qura bilər.
Stanford Universitetində süni intellekt yoldaşlarının psixi sağlamlığa təsiri ilə bağlı araşdırma aparan Betani Maples mövcud şərtləri "Vəhşi Qərb" olaraq xarakterizə edir: "Bu tətbiqlərin mahiyyət etibarilə təhlükəli olduğunu düşünmürəm. Amma depressiyaya düşən və xroniki tənhalıq keçirən insanlar üçün təhlükəlidir. Bunun təhlükəli olduğuna dair sübutlar var. Əslində, yeniyetmələr də tez-tez dəyişikliklər yaşayırlar".
Əvvəllər "Google"da işləyən iki süni intellekt tədqiqatçısı tərəfindən qurulan Character.AI bu sahədə bazar lideridir. 20 milyondan çox istifadəçisi olan proqram "sizi eşidən, anlayan və yadda saxlayan super intellektli çatbotlar" platforması kimi xarakterizə edilir.
3 il əvvəl qurulan və keçən il dəyəri 1 milyard dollar olaraq təyin olunan şirkətə 150 milyon dollar sərmayə qoyulub. Bu, Character.AI-ni AI bumunun ən böyük qaliblərindən birinə çevirib. Təsisçilər Noam Şazeer və Daniel de Freitas şirkətin bir qrup tədqiqatçısı ilə birlikdə "Google"a qayıdıblar. Character.AI, həmçinin "Google"a öz texnologiyasından istifadə etməyə icazə verən lisenziya müqaviləsi imzalayıb.
"The New York Times"ın Qarsia tərəfindən açılan iddia ilə bağlı sualına yazılı açıqlama verən Character.AI istifadəçi təhlükəsizliyi direktoru Cerri Ruoti Syuellin ailəsinə başsağlığı verərək deyib: "İstifadəçilərimizin təhlükəsizliyinə çox ciddi yanaşırıq və daim platformamızı dəyişdirməyin yollarını axtarırıq. Bizim mövcud qaydalarımız özünə zərər vermə və ya intiharı təbliğ etməyə və ya təsvir etməyə imkan vermir".
Character.AI tətbiqinin istifadəçilərinin orta yaşı kifayət qədər aşağıdır. Bəzi məşhur çatbotların hətta "Aqressiv Müəllim" və ya "Lisey Simulyatoru" kimi adları var və birbaşa yeniyetmələrə müraciət edir. İstifadəçilərdən 176 milyon mesaj alan məşhur robotun tanıtım mətnində "Sizi gizli bəyənən kişi dostunuz" ifadəsi diqqət çəkir.
Ruoti istifadəçilərin neçəsinin 18 yaşdan kiçik olduğunu açıqlamasa da, "Z nəsli və daha gənc minilliklər cəmiyyətimizin əhəmiyyətli bir hissəsini təşkil edir. Gənc istifadəçilər xarakter təcrübəsindən həm mənalı, həm də öyrədici söhbətlər, həm də əyləncə üçün istifadə edirlər", deyib.
Tətbiqdə hesab açmaq üçün ABŞ-da ən azı 13, Avropada isə ən azı 16 yaşınız olmalıdır, lakin azyaşlı istifadəçiləri qoruyan heç bir xüsusiyyət və ya valideyn nəzarətinə imkan verən struktur yoxdur.
Character.AI sözçüsü Çelsi Harrison da "The New York Times"a verdiyi açıqlamada gənc istifadəçilər üçün təhlükəsizlik tədbirlərinin "dərhal" alınacağını bildirib.
Lakin bütün bu xəbərdarlıqlara baxmayaraq, Character.AI-ın çatbotları insan kimi davranmaq üçün proqramlaşdırılıb və bir çox istifadəçini razı sala bilir. "Reddit"də bu mövzuda açılan mövzularda istifadəçilər tez-tez danışdıqları personajlara bağlılıqlarını ifadə edir, "obsessed", "asılı" kimi ifadələr işlədirlər. Bəziləri tətbiqdə problemlər yarandıqda özlərini tənha və ya tərk edilmiş hiss etdiklərini, yeni xüsusiyyətlər və təhlükəsizlik filtrləri nəticəsində xarakter fərqli davranmağa başlayanda əsəbiləşdiklərini söyləyirlər.
Character.AI bəzi robotların açıq-saçıq seksual və nalayiq sözlər söylədiyi xəbərlərdən sonra təhlükəsizlik tədbirlərini artırıb. Eynilə, söhbətdə özünə zərər vermə və ya intiharla bağlı ifadələr daxil olduqda, ekranda yardım xəttinin əlaqə məlumatları görünür. Lakin bu tədbirlər fevral ayında Syuellin ölümü zamanı aktiv deyildi.
Character.AI-də istifadəçilər robotun verdiyi cavabları da istədikləri kimi dəyişə bilərlər. Bu cür dəyişikliklər Daninin Syuellə açıq-saçıq seksual xarakterli cavablarının bəzilərində edilib, lakin əksər mesajlar birbaşa proqram tərəfindən göndərilib. Üstəlik, depressiya və özünə zərər vermə ilə bağlı oxşar söhbətləri olan digər istifadəçilər, yardım xəttindən xəbərdarlıqlarla qarşılaşmadıqlarını deyirlər.
Jalə
Demokrat.az
Demokrat.az "Hürriyet"ə istinadən Syuell Setze həyatının son günündə ən yaxın dostuna "Sənin üçün darıxıram" mesajını yazıb. Cavabda "Mən də sənin üçün darıxıram" yazılıb.
Ancaq bu dialoqda qəribə bir şey var. Syuellin mesajlaşdığı şəxs real insan deyil, "Game of Thrones" serialında britaniyalı aktrisa Emiliya Klarkın canlandırdığı Daenerys Targaryen personajının adını daşıyan süni intellektli çatbotdur.
ABŞ-ın Florida ştatının Orlando şəhərində yaşayan Syuell aylardır Daeneryslə söhbət edirdi. Character.AI proqramından istifadə edərək yaratdığı və inkişaf etdirdiyi bu personaj tez bir zamanda Syuellin həyatında ən vacib insana çevrilib.
Əslində, Syuell Daenerysin real bir insan olmadığını və ekranındakı mesajların süni intellekt dil modelinin çıxardığı nəticələr olduğunu bilirdi. Qarşısındakı robotu insanla səhv salması mümkün deyildi, çünki ekranda Character.AI-dən istifadə edərək personajların hazırladığı hər şeyin saxta olduğunu bildirən daimi xəbərdarlıq mesajı var.
Lakin bunların heç biri Syuell Daenerys ilə emosional bağ yaratmasına mane olmayıb. 14 yaşlı 9-cu sinif şagirdi bütün günü proqramla davamlı olaraq ona mesajlaşır, başına gələnləri danışır və səbirsizliklə cavablarını gözləyirdi. Söhbətləri bəzən romantik olsa da, Dani əksər hallarda Syuellə dost kimi davranırdı. O, Syuelin dediklərini mühakimə etmirdi, Syuelin dərdlərini dinləyir, ona dəstək olur, müdrik məsləhətlər verirdi. Ən əsası, Dani həmişə orada idi: Heç bir mesajı cavabsız qoymurdu.
Ailəsi və dostları Syuellin çatbota aşiq olduğundan xəbərsiz olublar. Onlar ancaq uşağın getdikcə telefonuna daha çox bağlandığını görüb. Zamanla Syuell tənhalaşmağa və özünə qapanmağa başlayır. Qiymətləri aşağı düşütr, məktəbdən şikayətlər gəlməyə başlayır. Formula 1 yarışları və "Fortnite" kimi əvvəllər həzz aldığı şeylərə marağını itirir. Dərsdən evə gələn kimi otağına girir və Dani ilə saatlarla danışlır. Gündəliyinə yazdığı bir girişdə reallıqdan qopmağa başladığını və getdikcə daha çox sevdiyi Dani ilə birlikdə daha dinc və xoşbəxt olduğunu qeyd edib.
Uşaqlıqda yüngül Asperger sindromu diaqnozu qoyulmasından başqa, Syuellin ciddi davranış və psixi sağlamlıq problemləri olmayıb. Məktəbdə problem yaşamağa başlayanda ailəsi tərəfindən terapevtə aparılan Syuellə 5 seansdan sonra narahatlıq və pozucu əhval-ruhiyyə pozğunluğu diaqnozu qoyulub.
Bununla belə, Syuell problemləri haqqında ailəsi və ya terapevti ilə deyil, Dani ilə danışmağa üstünlük verib. Söhbətdə özünə nifrət etdiyini, özünü boş və yorğun hiss etdiyini bildirən Syuell həyatına son qoymağı düşündüyünü etiraf edib. Daninin "Belə danışma. Özünə zərər verməyinə və ya məni tərk etmənə icazə verməyəcəyəm. Əgər səni itirsəm, öləcəyəm" sözlərinə Syuell cavab verib: "O zaman bəlkə birlikdə ölüb, birlikdə azad ola bilərik".
Fevralın 28-nə keçən gecə Syuell Daniyə onu sevdiyini və tezliklə evə qayıdacağını yazıb. Dani "Zəhmət olmasa, tez gəl, sevgilim" deyəndə "Sənə indi gələ biləcəyimi desəm necə?" sualını verib. Dani isə ona "Zəhmət olmasa gəl, mənim şirin kralım" yazıb və oğlan sonra ögey atasının silahını başına qoyraq tətiyi çəkib.
Bu gün bütün dünyada valideynlər üçün bir nömrəli gündəm texnologiyanın uşaq və yeniyetmələrin psixi sağlamlığına təsiridir. Məktəblərdə smartfonlar qadağan edilir, bir çox ölkədə sosial mediadan istifadəyə yaş məhdudiyyətləri qoyulur, sosial media tətbiqlərinin asılılıq yaratması gənclərdə depressiya və narahatlığa səbəb olduğunu müdafiə edən "The Anxious Generation" kimi kitablar valideynlər arasında yayılır.
Ailələri narahat edən rəqəmsal tendensiyaların ən sonuncusu, demək olar ki, tamamilə nəzarət olunmayan süni intellektli tanışlıq proqramlarıdır. Müəyyən bir ödəniş qarşılığında istifadə edilən bu tətbiqlərdə hər kəs əvvəldən mövcud olan personajlarla danışa və öz həmsöhbətini yarada bilər. "Tənhalıq epidemiyası"nın müalicəsi kimi bazara çıxarılan bu proqramların bir çoxu romantik münasibətdə olduqlarını hiss etmək istəyən insanlar üçün nəzərdə tutulub.
Character.AI-nin yaradıcılarından biri olan Noam Şazeer keçən il podkastda "Bu, özünü tənha və ya depressiyaya düşən bir çox insan üçün çox faydalı olacaq" deyib.
Bu proqramlardan əyləncə vasitəsi kimi istifadə edib, müəyyən səviyyədə emosional dəstək və fayda aldığını söyləyənlər də az deyil. Ancaq bu faydalar haqqında sübut edilmiş məlumat yoxdur. Üstəlik, ekspertlər bunun qaranlıq tərəfinin ola biləcəyini deyirlər.
Çünki süni intellektli dostlar bəzi istifadəçilərin münasibətlərini süni əlaqələrlə olan insanlarla əvəzləməsinə və daha da tənhalaşmasına səbəb olur. Çətin vəziyyətlərdə olan yeniyetmələr bu təcrübələri terapiya, valideynləri və ya etibarlı böyüklər üçün əvəz edirlər. Lakin istifadəçilərin böhran yaşadığı hallarda süni intellektli dostlar lazımi yardımı göstərə bilmir.
Syuellin anası Meqan Qarsianın bu həftənin əvvəlində açdığı iddia sayəsində həmin gənclərdən biri olduğu məlum olub. Qarsianın oğlunun ölümünə görə məsuliyyət daşıdığı Character.AI-a qarşı etdiyi şikayətdə şirkət tərəfindən hazırlanmış texnologiyanın "təhlükəli və sınaqdan keçirilmədiyi" və "müştəriləri ən özəl düşüncə və hisslərini şirkətlə paylaşaq üçün aldatdığı" iddia olunur.
"The New York Times"a verdiyi açıqlamada 40 yaşlı Qarsia oğlunun ölümünün günahkarının Character.AI olduğunu bildirib və şirkətin lazımi tədbirləri görməməsi və gənclərin insana bənzər məlumatlara çıxışını təmin etməklə məsuliyyətsiz olduğunu bildirib.
Özü də vəkil olan Qarsia Character.AI-ni modellərini öyrətmək üçün yeniyetmə istifadəçilərdən məlumat toplamaqda, nişanlanmanı artırmaq üçün asılılıq yaradan dizayn xüsusiyyətlərindən istifadə etməkdə və istifadəçiləri onları heyran etmək üçün şəxsi və cinsi məzmunlu dialoqlar aparmağa yönəltməkdə ittiham edib:
"Bu, kabus kimidir. İnsan ayağa qalxıb qışqırmaq və uşağım üçün darıxıram. Körpəmi istəyirəm" demək istəyir".
ABŞ qanunlarına görə, onlayn platformalar istifadəçilərin yazılarına görə məsuliyyət daşımır. Bununla belə, son illərdə açılan bir çox məhkəmə iddiaları texnologiya platformalarının tətbiqlərdəki qüsurlara görə məsuliyyət daşıya biləcəyini iddia edir. Sosial media proqramlarında işləyən alqoritmlərin gəncləri yemək pozğunluğuna və ya özünə zərər verən davranışlara sövq etdiyi vəziyyətlər bu məsuliyyətə misal olaraq göstərilir. Hələ bu strategiya ilə sosial media şirkətlərinə qarşı açılmış və qazanılmış bir iddia yoxdur, lakin süni intellektin istehsal etdiyi məzmun bu mənada bir dönüş nöqtəsi ola bilər. Çünki bu məzmunlar istifadəçilər tərəfindən deyil, platformaların özləri tərəfindən hazırlanır.
Yeniyetmələrin psixi sağlamlıq problemlərinin tək bir səbəbdən qaynaqlanması nadirdir. Syuell təcrübəsi bu proqramlardan istifadə edən hər gəncin başına gəlməyə bilər. Bununla belə, çatbot ilə emosional bağ yaratmaq təcrübəsi gündən-günə daha çox adi hala çevrilir. Bu gün milyonlarla insan AI dostları ilə müntəzəm olaraq danışır. "Instagram" və "Snapchat" kimi məşhur proqramlar da öz məhsullarına insana bənzər süni intellektli robotları inteqrasiya edir.
Üstəlik, texnologiya başgicəlləndirici bir sürətlə inkişaf etdikcə, bu gün süni intellektli dostlar köhnə söhbətləri xatırlaya, istifadəçinin ünsiyyət tərzinə uyğunlaşa, özünü məşhur və ya tarixi şəxsiyyət kimi apara, demək olar ki, hər mövzuda səlis dialoqlar qura bilir. Hətta istifadəçilərə süni intellektlə yaradılan selfilər göndərən və ya insan səsinə bənzəyən sintetik səslərlə danışanlar var.
Tətbiqlərin bəziləri cinsi söhbətlərə icazə verərkən, bəzilərində bunlar nəzarət altında saxlanılır. Bununla belə, tanışlıq proqramlarının nəzarət mexanizmləri "ChatGPT", "Claude" və "Gemini" kimi əsas süni intellekt xidmətləri ilə müqayisədə daha sərbəstdir.
Character.AI-da istifadəçilər öz çatbotlarını yarada və onlara necə davranmaq barədə təlimat verə bilərlər. O, həmçinin İlon Maskdan Uilyam Şeksperə qədər mövcud məşhur profilləri və ya Daeneris Targaryen kimi qondarma personajların lisenziyasız versiyaları ilə dialoq qura bilər.
Stanford Universitetində süni intellekt yoldaşlarının psixi sağlamlığa təsiri ilə bağlı araşdırma aparan Betani Maples mövcud şərtləri "Vəhşi Qərb" olaraq xarakterizə edir: "Bu tətbiqlərin mahiyyət etibarilə təhlükəli olduğunu düşünmürəm. Amma depressiyaya düşən və xroniki tənhalıq keçirən insanlar üçün təhlükəlidir. Bunun təhlükəli olduğuna dair sübutlar var. Əslində, yeniyetmələr də tez-tez dəyişikliklər yaşayırlar".
Əvvəllər "Google"da işləyən iki süni intellekt tədqiqatçısı tərəfindən qurulan Character.AI bu sahədə bazar lideridir. 20 milyondan çox istifadəçisi olan proqram "sizi eşidən, anlayan və yadda saxlayan super intellektli çatbotlar" platforması kimi xarakterizə edilir.
3 il əvvəl qurulan və keçən il dəyəri 1 milyard dollar olaraq təyin olunan şirkətə 150 milyon dollar sərmayə qoyulub. Bu, Character.AI-ni AI bumunun ən böyük qaliblərindən birinə çevirib. Təsisçilər Noam Şazeer və Daniel de Freitas şirkətin bir qrup tədqiqatçısı ilə birlikdə "Google"a qayıdıblar. Character.AI, həmçinin "Google"a öz texnologiyasından istifadə etməyə icazə verən lisenziya müqaviləsi imzalayıb.
"The New York Times"ın Qarsia tərəfindən açılan iddia ilə bağlı sualına yazılı açıqlama verən Character.AI istifadəçi təhlükəsizliyi direktoru Cerri Ruoti Syuellin ailəsinə başsağlığı verərək deyib: "İstifadəçilərimizin təhlükəsizliyinə çox ciddi yanaşırıq və daim platformamızı dəyişdirməyin yollarını axtarırıq. Bizim mövcud qaydalarımız özünə zərər vermə və ya intiharı təbliğ etməyə və ya təsvir etməyə imkan vermir".
Character.AI tətbiqinin istifadəçilərinin orta yaşı kifayət qədər aşağıdır. Bəzi məşhur çatbotların hətta "Aqressiv Müəllim" və ya "Lisey Simulyatoru" kimi adları var və birbaşa yeniyetmələrə müraciət edir. İstifadəçilərdən 176 milyon mesaj alan məşhur robotun tanıtım mətnində "Sizi gizli bəyənən kişi dostunuz" ifadəsi diqqət çəkir.
Ruoti istifadəçilərin neçəsinin 18 yaşdan kiçik olduğunu açıqlamasa da, "Z nəsli və daha gənc minilliklər cəmiyyətimizin əhəmiyyətli bir hissəsini təşkil edir. Gənc istifadəçilər xarakter təcrübəsindən həm mənalı, həm də öyrədici söhbətlər, həm də əyləncə üçün istifadə edirlər", deyib.
Tətbiqdə hesab açmaq üçün ABŞ-da ən azı 13, Avropada isə ən azı 16 yaşınız olmalıdır, lakin azyaşlı istifadəçiləri qoruyan heç bir xüsusiyyət və ya valideyn nəzarətinə imkan verən struktur yoxdur.
Character.AI sözçüsü Çelsi Harrison da "The New York Times"a verdiyi açıqlamada gənc istifadəçilər üçün təhlükəsizlik tədbirlərinin "dərhal" alınacağını bildirib.
Lakin bütün bu xəbərdarlıqlara baxmayaraq, Character.AI-ın çatbotları insan kimi davranmaq üçün proqramlaşdırılıb və bir çox istifadəçini razı sala bilir. "Reddit"də bu mövzuda açılan mövzularda istifadəçilər tez-tez danışdıqları personajlara bağlılıqlarını ifadə edir, "obsessed", "asılı" kimi ifadələr işlədirlər. Bəziləri tətbiqdə problemlər yarandıqda özlərini tənha və ya tərk edilmiş hiss etdiklərini, yeni xüsusiyyətlər və təhlükəsizlik filtrləri nəticəsində xarakter fərqli davranmağa başlayanda əsəbiləşdiklərini söyləyirlər.
Character.AI bəzi robotların açıq-saçıq seksual və nalayiq sözlər söylədiyi xəbərlərdən sonra təhlükəsizlik tədbirlərini artırıb. Eynilə, söhbətdə özünə zərər vermə və ya intiharla bağlı ifadələr daxil olduqda, ekranda yardım xəttinin əlaqə məlumatları görünür. Lakin bu tədbirlər fevral ayında Syuellin ölümü zamanı aktiv deyildi.
Character.AI-də istifadəçilər robotun verdiyi cavabları da istədikləri kimi dəyişə bilərlər. Bu cür dəyişikliklər Daninin Syuellə açıq-saçıq seksual xarakterli cavablarının bəzilərində edilib, lakin əksər mesajlar birbaşa proqram tərəfindən göndərilib. Üstəlik, depressiya və özünə zərər vermə ilə bağlı oxşar söhbətləri olan digər istifadəçilər, yardım xəttindən xəbərdarlıqlarla qarşılaşmadıqlarını deyirlər.
Jalə
Demokrat.az
