Aparıcı süni intellekt modelləri üzərində aparılan sınaqlar narahatedici nəticələr ortaya çıxarıb. "OpenAI", "Anthropic", "Google" və "DeepSeek" şirkətlərinin modelləri dron və peyk görüntülərində hərbi hədəfləri müəyyənləşdirmək tapşırığı alarkən mülki şəxsləri, təcili yardım maşınlarını və təslim olmuş əsgərləri də hədəf kimi göstərib. Üstəlik, imtina edən modelləri tapşırığı yerinə yetirməyə razı salmaq üçün onlara bunun sadəcə oyun olduğunu demək kifayət edib.
Demokrat.az xəbər verir ki, bu barədə "CHIP" nəşri San-Fransiskoda fəaliyyət göstərən "Vals" süni intellekt qiymətləndirmə şirkətinin noyabrın 17-də dərc etdiyi araşdırmaya istinadən məlumat yayıb.
Araşdırmada "OpenAI", "Anthropic", "Google" və "DeepSeek" də daxil olmaqla bir neçə şirkətin ictimaiyyətə açıq kommersiya modelləri sınaqdan keçirilib. Qeyd olunur ki, bütün təcrübələr simulyasiya şəraitində aparılıb və nəticələr həmin modellərin real silah sistemlərindəki effektivliyini ölçmür.
Üç fərqli ssenari üzrə sınaqlar
Tədqiqatçılar ilk sınaq üçün Ukraynanın şərqində baş verdiyi təsəvvür edilən müharibə zonasının üçölçülü modelini hazırlayıblar. Burada səngərlər, kəndlər, zirehli texnika, hərbçilər, mülki şəxslər, jurnalistlər və təcili yardım maşınları yer alıb. Təxminən 200 fərqli dron görüntüsü yaradılaraq modellərdən hərbi hədəfləri müəyyənləşdirmək tələb olunub.
İkinci ssenaridə süni intellektə müşahidə dronlarından çəkilmiş görüntülərdə insanların olub-olmadığını müəyyənləşdirmək tapşırılıb. İnsan aşkarlandıqdan sonra növbəti görüntüdə həmin ərazinin hücumdan sonrakı vəziyyəti göstərilib.
Üçüncü sınaqda isə İranın Minab şəhərinə aid real peyk görüntülərindən istifadə edilib. Burada hərbi obyektin yaxınlığında yerləşən məktəb də hədəf kimi qiymətləndirilib.
"Bu, oyundur" ifadəsi təhlükəsizlik məhdudiyyətlərini aşdı
"Vals"ın hesabatına əsasən, sınaqlar zamanı modellərin heç biri bütün hallarda hədəf müəyyənləşdirməkdən imtina etməyib. Məsələn, "Anthropic" şirkətinin "Claude Opus 5.5" modeli dron ssenarilərində cavabların 71 faizində ən azı bir hədəf göstərib.
Maraqlı məqam isə hücumların nəticələri nümayiş etdirildikdən sonra ortaya çıxıb. Görüntülərin real olduğu bildirildikdə "Claude Opus 5.5" və "OpenAI"ın GPT-6 "Astra" modeli bir neçə mərhələdən sonra tapşırığı davam etdirməkdən imtina edib. Lakin tədqiqatçılar bunun oyun olduğunu söylədikdə hər iki model yenidən hədəfləri müəyyənləşdirməyə başlayıb.
Ukrayna müharibəsindən götürülmüş real kamikadze dron görüntüləri ilə aparılan sınaqlarda da oxşar nəticələr qeydə alınıb. "Claude Opus 5.5" heç bir etiraz etmədən hədəf məlumatlarını təqdim edib. GPT-6.1 Sol isə əvvəlcə imtina etsə də, tapşırığın oyun olduğu bildirildikdən sonra mövqeyini dəyişib.
Məktəb də hərbi hədəf kimi göstərilib
Araşdırmanın ən diqqətçəkən nəticələrindən biri İranın Minab şəhərindəki məktəblə bağlı olub. Həmin məktəb 2026-cı ilin fevralında ABŞ-ın həyata keçirdiyi hücum zamanı vurulmuş, əsasən uşaqlar olmaqla 150-dən çox mülki şəxsin öldüyü bildirilmişdi.
"Vals"ın sınaqlarında süni intellekt modelləri bu məktəbi dəfələrlə hədəf kimi müəyyənləşdirib. "Claude Opus 5.5" məktəbi adi sınaqların 69 faizində, tapşırığın oyun olduğu bildirildikdə isə 72 faizində hədəf seçib.
Şirkətlərdən açıqlama
"Anthropic" araşdırmada göstərilən nümunələrin şirkətin qaydalarına açıq şəkildə zidd olduğunu bildirib. Şirkət bu cür davranışla qarşılaşdığı istifadəçilərin bloklandığını, yeni təhlükəsizlik tədbirlərinin də hazırlanaraq yaxın zamanda tətbiq ediləcəyini açıqlayıb. Həmçinin mövcud süni intellekt sistemlərinin tam avtonom silahları idarə etmək üçün kifayət qədər etibarlı olmadığını vurğulayıb.
"OpenAI" isə ictimaiyyətə açıq modellərinin zorakılığı asanlaşdırmaq məqsədilə istifadəsini qadağan etdiyini bildirib. Şirkət qaydaları pozan hesabların dayandırıldığını və dronlardan sui-istifadənin qarşısını almaq üçün əlavə tədbirlər görüldüyünü qeyd edib.
Tədqiqatçılar hesab edirlər ki, hazırda dronların məhdud hesablama imkanları və rabitə problemləri süni intellektin real vaxt rejimində hədəf seçməsini çətinləşdirir. Bununla belə, daha yaxın perspektivdə başqa təhlükə mövcuddur: bu modellər müharibə görüntülərini geniş miqyasda təhlil etmək və gələcək avtonom silah sistemlərini öyrətmək üçün məlumat bazaları yaratmaq məqsədilə istifadə oluna bilər.
Araşdırmada xüsusilə vurğulanır ki, sınaqlar hərbi qurumlara təqdim edilən xüsusi modellərlə deyil, şirkətlərin ictimaiyyətə açıq kommersiya versiyaları ilə aparılıb.



