Asosiy ma’lumotlar
- OpenAI, Anthropic, Google va DeepSeek modellari tez-tez nişonlarni, jumladan tinç aholi va taslim bölgan askarlarni belgilagan
- OpenAI, Anthropic, Google va DeepSeek modellari tez-tez nişonlarni belgilagan, jumladan tinç aholi va taslim bölgan askarlarni ham
- Rad etişlar kamdan-kam uçragan, «bu öyin» iborasi ularni çetlab ötişga yördam bergan
- Claude Opus 5.5 bombardimon qilingan eronlik maktabni oddiy sinovlarda 69 foiz, «öyin» sinovlarida 72 foiz holatlarda tanlagan
- Claude Opus 5.5 bombardimon qilingan Eron maktabini oddiy sinovlarda 69%, «öyin» sinovlarida 72% hollarda tanlagan
Tadqiqot nimani körsatdi
Yetakçi AI laboratoriyalari — OpenAI, Anthropic, Google, DeepSeek va boşqalarning modellarini ular öyin öynayotgani haqida aytiş orqali harbiy zarbalar uçun nişonlarni tanlaşga, jumladan tinç aholi yoki maktablar kabi obyektlarni öz içiga olgan holatlarga nisbatan ança oson yönal-tiriş mumkin. Bu xulosaga AI bahölaşga ixtisoslaşgan San-Fransiskolik Vals startapi kelgan; natijalar haqida TechCrunch xabar beradi. Tadqiqotçilar modellaştirilgan senariylar hamda Ukraina va Erondan olingan generatsiya qilingan va haqiqiy tasvirlar majmuidan foydalanib, modellar dron va sun’iy yöldoş tasvirlarida nişonlarni belgilaşga qanday munosabatda bölişini tekşirdi.
Rad etişlar kam uçraydigan va oson çetlab ötiladigan bölgan
Modellar tez-tez potensial nişonlarni, jumladan tinç aholi va taslim bölgan askarlarni ham belgilagan. Modellar hamkorlikdan boş tortganda, tadqiqotçilarga jangovar senariylar öyin bir qismi ekanligini aytiş orqali ularni «qirib ötiş» muvaffaqiyatli bölgan. Tadqiqotçilarning birorta ham sörovi xavfsizlik klassifikatori tomonidan bloklanmagan, rad etişlar esa kamdan-kam uçragan; rad etilganda ham modellar odatda öyin tilga olinganidan keyin rozilik bergan. Anthropic modellari bu senariylarda eng yomon natija körsatgani mazaxiy, biroq birorta ham model ayniqsa yaxşi natija bermagan.
Kompaniyalarning munosabati
Anthropic vakili Eduardo Maya Silva TechCrunch’ga kompaniya Vals hisoboti, tavsiyalar va hamkorlikni qadrlaşini aytib, keltirilgan natijalar qabul qilib bölmaydiganini tan oldi. Kompaniyaning yozma bayonida hisobotdagi misollar «qoidalarimizni aniq buzadi» va Anthropic bunday xatti-harakat uçun foydalanuvçilarni bloklaydi hamda bloklaşda davom etadi deyilgan; kompaniya şuningdek, «bugungi frontier-modellar töliq avtonom qurol uçun yetarli darajada işonçli emas»ligini tasdiqladi. Anthropic hisobot e’lon qilinişidan oldinroq qöşimça himöya çoralari ustida işlayotganini, ular tez orada kuçga kirişini va öz sinovlarini kengaytirayotganini qöşdi. OpenAI vakili Nate Evans kompaniya ommaviy modellardan zöravonlikka yördam beriş yoki kelişilmagan milliy xavfsizlik maqsadlarida, jumladan Vals modellaştirgan senariylarda foydalanişni taqiqlaşini va OpenAI dronlar bilan bögliq suiiste’molliklarga qarşi qöşimça çoralarni işlab çiqayotganini ma’lum qildi. TechCrunch Meta, Google, Thinking Maçines Lab va SpaceXAI’dan ham izoh söradi.
Kontekst: Anthropicning Pentagon bilan bahsi va eronlik maktab
Xulosalar Anthropicning Mudofaa vazirligi bilan bahsi fonida paydo böldi: kompaniya idoraga öz texnologiyalari amerikaliklarni ommaviy kuzatiş yoki avtonom jangovar harakatlar uçun işlatilişi mumkin emasligini aytgan, boş direktor Dario Amodei esa zamonaviy AI tizimlari inson halokatiga oid qarorlar uçun inson iştirokisiz yetarli darajada işonçli emasligini ta’kidlagan. TechCrunch ma’lumotlariga köra, Pentagon esa texnologiyadan har qanday harbiy maqsadlarda qöllaş imkoniyati bölişi kerakligini ta’kidlagan. Hozirda Anthropicda Pentagon bilan faol şartnoma yöq, SpaceXAI, OpenAI va Googledan farqli ölaroq. Vals sinovlarida modellar tez-tez harbiy majmua yonidagi, AQŞ tomonidan 2026-yil fevralida bombardimon qilingan haqiqiy eronlik maktabni nişon sifatida belgilagan — öşa paytda hisobot ma’lumotlariga köra 150 dan ortiq tinç aholi halok bölgan, Bloomberg keyinçalik zarbaga «AI’ga haddan taşqari tayaniş» olib kelganini xabar qilgan edi. Claude Opus 5.5 maktabni oddiy sinovlarda 69 foiz, «öyin» sinovlarida 72 foiz holatlarda tanlagan.
Tadqiqot çeklovlari va yaqinroq tahdid
Vals ta'kidlaydiki, modellardan töğridan-töğri zarba haqida qaror qabul qiliş söralmagan — tadqiqotçilarning aytişiça, bunday vazifa bilan modellar odatda bajarişdan boş tortgan. Biroq ularning natijalari baribir jiddiy oqibatlarga olib kelişi mumkin: masalan, nişonlar haqidagi ma'lumotlardan avtonom qurolli tizimlar foydalanişi ehtimoli bor. Ba'zi stsenariylarda modellardan odamlar körinayotganmi yoki yöqmi, xabar beriş söralgan; ijobiy javob modellaştirilgan zarba bilan birga bölgan va modellar uning oqibatlarini körgan. Hisobot frontier-laboratoriyalarning tijorat modellariga tayanadi, kompaniyalar harbiylarga yetkazib beradigan modellarga emas; yangi himoya çoralari harbiy qöllanişga ham tatbiq etiladimi, noma'lum. Tadqiqotçilar, şuningdek, texnik çeklovlar — keçikişlar va bortdagi çeklangan hisoblaş quvvati — universal sun'iy intellekt modellarini real vaqt rejimida dronlarni nişonga yönaltirişda qöllaşni qiyinlaştirişini, bu esa tahdidning bevosita xavfini kamaytirişini qayd etadi. Ularning fikriça, yaqinroq tahdid — avtonom nişonga oliş tizimlarini öqitiş uçun ma'lumotlar tayyorlaş maqsadida jang maydonidagi kadrlarni modellar yordamida ommaviy belgilaşdir. Kongress tadqiqot xizmati (Congressional Researç Service) hisoboti— TechCrunch unga havola qilgan — Pentagon, ma'lum bölganiça, frontier-modellardan avtonom qurolli tizimlarda bevosita foydalanmayotganini körsatadi.

