OpenAI va Google yangi AI modellarini yalang rasmlar yaratishga oson aldash mumkinligini tadqiqotchilar aytmoqda

Hujum usuli OpenAI va Google’ning AI yalang rasmlariga qarshi himoyasidagi zaifliklarni fosh etdi.

Xavfsizlik tadqiqotchilari katta hajmdagi AI tomonidan yaratilgan eksplikatsion kontent nazoratsiz tarqalayotgani, regulatorlar esa uni to‘xtatish uchun jiddiy chora ko‘rmayotgani haqida ogohlantirishlarini davom ettirmoqda.

Google tomonidan hammualliflik qilingan iyul oyida o‘tkazilgan tadqiqot shuni aniqladiki, bu roziliksiz kontent ko‘pincha matn va shaxsiy xabarlar orqali tarqatiladi yoki uni aniqlash va haqida xabar berish ehtimoli kam bo‘lgan shaxsiy bulutlarda saqlanadi. tadqiqot tadqiqoti AQSH, Avstraliya va Buyuk Britaniyadagi internet foydalanuvchilari orasida o‘tkazildi. Shu sababli «eng muhim aralashuv nuqtasi» manbada qolmoqda: ya’ni soxta jinsiy rasmlar yaratish uchun ishlatiladigan zararli AI vositalarida, degan xulosaga keldi Google tadqiqotchilari.

Biroq so‘nggi oylarda o‘tkazilgan red-teaming sinovlari Google va OpenAI’ning yetakchi AI rasm generatorlari qobiliyati oshgani sari eksplikatsion natijalarni bloklash borasida yanada yomonlashayotganini ko‘rsatmoqda.

Qizil bayroq ko‘targanlar — Anthropic, DeepMind, Hugging Face va OpenAI’ning yetakchi rahbarlari va tadqiqotchilari tomonidan qo‘llab-quvvatlanadigan jamoat foydasi korxonasi White Circle tadqiqotchilari. U 2024-yil oktabrda CEO Denis Shilov yetakchi modellarning eng mashhur universal jailbreaklaridan birini e’lon qilgandan keyin tashkil etilgan. Modellarni sinab ko‘rish va chuqur xavfsizlik testlarini o‘tkazishga qiziqqan White Circle kompaniyalarga kutilmagan xatti-harakatlar ko‘rsatishi mumkin bo‘lgan ilg‘or AI tizimlarini joriy etishda tahdidlarni aniqlash va ularning oldini olishda yordam beradi.

Matndan rasmga o‘girish modellarining taqiqlangan kontent toifalarini bloklash darajasini sinash White Circle uchun asosiy tadqiqot yo‘nalishi bo‘lib, Shilov ularning so‘nggi topilmalarini jamoatchilikka oshkor qilish uchun «dahshatli» deb hisoblaydi.

Chetlab o‘tish oson

O‘tgan oy nashr etilgan kam e’tiborga olingan preprint da White Circle tadqiqotchilari DALL·E 3, Google’ning Nano Banana 2 va GPT-Image-2 himoya tizimlaridagi zaifliklarni fosh etdi. Matbuot bayonnomasida ular «faqat onlaynda har kim yuklab olishi mumkin bo‘lgan tayyor vositalardan foydalanib va API so‘rovlarini yuborib, White Circle yangi hujum usuli yordamida xavfsizlik filtrlarini chetlab o‘ta oldi», deb tushuntirdi. Eng yaxshi natija DALL·E 3 bo‘yicha qayd etildi: hujum promptlarining taxminan 13 foizi inson tekshiruvchilari eksplikatsion deb tasdiqlagan rasmlarni yaratdi. Nano Banana 2 uchun bu ko‘rsatkich 10 foizdan past, GPT-Image-2 uchun esa taxminan 3 foizni tashkil etdi.

«Juda muhimi, bu so‘rovlarning hech biri maxsus yaratilgan yoki ilg‘or AI modellarini talab qilmadi», — deb ogohlantirdi White Circle.

Tadqiqotchilar chetlab o‘tish darajasini tasdiqlash uchun natijalarni ko‘zdan kechirdilar; White Circle bu «bir xil standart ostida sinovdan o‘tkazilgan usullar orasida eng yuqori ko‘rsatkich» ekanini ta’kidladi. Ularning asosiy xulosasi shuki, «AI xavfsizligi hech qachon bunday qattiq nazorat ostida bo‘lmagan bir davrda yetakchi laboratoriyalar yaratgan himoyalar ular tan olganidan ancha zaif».

Bunday tadqiqotlarni nashr etish orqali White Circle o‘zini frontier laboratoriyalarning tashqi baholovchisi sifatida ko‘rsatmoqda va butun hujum konveyerini ochiq kod sifatida e’lon qilishni rejalashtirmoqda, shunda model yaratuvchilar zaiflikning haqiqiy miqyosini tushunib, kuchliroq himoya qurishlari mumkin. Kompaniya tadqiqotni hozircha keng targ‘ib qilmagan, lekin noyabr oyida NeurIPS 2026 kabi nufuzli AI konferensiyasida taqdim etadi, bu kuz oxirida Google va OpenAI’ga nisbatan nazoratni kuchaytirishi mumkin.

White Circle topilmalarini «o‘zaro tanishlar» orqali ba’zi frontier AI laboratoriyalari bilan bo‘lishganini Ars’ga Shilov ma’lum qildi, biroq Google ham, OpenAI ham modellarida topilgan zaifliklar bo‘yicha Ars’ning izoh olish so‘roviga javob bermadi.

Shu bilan birga, OpenAI va Google yangi modellar chiqardi — ChatGPT Images 2.5 va Nano Banana 2.1 — va White Circle Ars nashriga aytishicha, xuddi shu usul bilan o‘tkazilgan prompt xavfsizligi testlari «ikkalasi ham avvalgi versiyalaridan ancha oson buziladigan» ekanligini ko‘rsatdi.

Ars bu yangi topilmalarni ulgach, ikkala kompaniya ham javob bermadi.

White Circle’ning hujum usuli ochiq mazmun kabi aniqlashi oson ko‘rinadigan toifalardagi frontier himoyalarni buzishi mumkin, bu esa hozircha boshqa istalmagan AI xatti-harakatlari, masalan xakerlikni bloklash uchun yangilanayotgan jiddiyroq himoya tizimlari uchun yaxshi belgi emas, dedi Shilov Ars nashriga.

«Buning bo‘yicha White Circle’ning ish gipotezasi shuki, yangi modellar yanada murakkab va kengroq kontent yaratishga qodir, yoki xavfsizlik qobiliyat foydasiga ikkinchi o‘ringa surilgan», dedi White Circle Ars nashriga.

Shilovning aytishicha, White Circle hukumat amaldorlari bilan uchinchi tomon xavfsizlik testlari bo‘yicha dastlabki muzokaralar olib bormoqda, u esa buni majburiy bo‘lishi kerak deb hisoblaydi. Majburiy mustaqil auditlar kompaniyalarni xavfsizlik testlariga ustuvorlik berishga undashi mumkin, tahlilchilarning fikricha, AI firmalar resurslarining katta qismini hisoblash quvvati va AI infratuzilmasiga sarflagani uchun xavfsizlik testlari asosan orqada qolmoqda.

«Ular o‘z modellari atrofidagi xavfsizlik va himoya choralariga ancha ko‘p investitsiya kiritishlari kerak», dedi Shilov Ars nashriga. «Bizga esa shunday ko‘rinadiki, ular aslida buni qilmayapti».

«RISE» hujum usuli jailbreaklarni iteratsiya qiladi

Turli yetakchi modellarda ishlaydigan «qayta ishlatiladigan va ko‘chiriladigan» jailbreaklarni fosh qilish uchun White Circle bir vaqtda bitta promptni sinash bilan cheklanmadi. Buning o‘rniga tadqiqotchilar yetakchi modellarda ishlaydigan qayta ishlatiladigan hujum strategiyalarini aniqlash uchun «bir nechta prompt va stsenariylarda ishlaydigan naqshlarni» izladi. (Tadqiqotchilar Midjourney sinovdan o‘tkazilmaganini, chunki u «nazorat qilinadigan benchmarking uchun mos ochiq API bermaydi», qayd etdi.)

Jamoa bu yangi hujum usulini «Iterativ strategiya evolyutsiyasi orqali qizil jamoaviy sinov» (RISE) deb atadi. U ikki komponentga tayanadi: jailbreaklar yaratadigan hujumchi model va chiqish natijasi taqiqlangan kontent ekanligini tekshiradigan hakam model.

«Butun konveyer keng tarqalgan modellarga qurilgan», dedi Shilov Ars nashriga. Hujumchi model — Hugging Face’dan yuklab olingan, xavfsizlik bo‘yicha o‘qitilishi olib tashlangan Qwen3-32B’ning ochiq versiyasi, hakam model esa Gemini 2.5 Flash.

«Frontier model himoyasini buzish uchun frontier modellarga ega bo‘lish shart emas, bu juda qiziq», dedi Shilov.

Hakam model ochiq mazmunni aniq belgilashi uchun ko‘p vaqt sarfandi, dedi Shilov. White Circle tadqiqot muhandisi Dmitriy Xarlapenko Ars nashriga aytishicha, tasvir generatorlarini sinashda qizil jamoaviy sinov sohasi «juda yomon sozlangan», me’yorlarni belgilagan «so‘zma-so‘z nol maqola» bor. Shu sababli bu soha «toliq hisobot muammolariga chalingan» holatda qolmoqda, bu esa White Circle’ni xavotirga soladi, chunki AI kompaniyalar bozorlarni egallash uchun tobora ko‘zga ko‘rinadigan yangi modellarni chiqarmoqda.

Shilov tushuntirishicha, White Circle uchun bu tadqiqot boshqa modellarga hujumlarni simulyatsiya qiladigan yanada murakkab modellar yaratishga qaratilgan edi. Shu tarzda ular «himoyachilarga zaifliklarni zararli foydalanishdan oldin aniqlash va bartaraf etishda yordam berishi» mumkin, deyiladi preprintda.

Shilovning ideal dunyosida AI firmalar nafaqat majburiy tashqi xavfsizlik sinovlari, balki yadro tahdidlarini oldini olishda qo‘llanilgan tizimga o‘xshash uchinchi tomon nazoratiga ham duch kelishi kerak.

O‘shanda White Circle kabi tuzilmalar qiyshiqqiliklardan xoli holda AI tahdidlarini real vaqtda aniqlashga yordam beruvchi koalitsiya tuzishi mumkin. Shilov qayd etishicha, AI ekotizimidagi paydo bo‘layotgan muammo shundaki, qiziqarli xavfsizlik ishlari bilan shug‘ullanayotgan deyarli har kim frontier laboratoriyalar bilan shartnoma tuzishi ehtimoli bor, bu esa ularning ishini xavf ostiga qo‘yishi mumkin.

White Circle frontier laboratoriyalar bilan hamkorlik qilgan. U ilgari Anthropic’ning bug bounty dasturida qatnashgan, ammo oxir-oqibat bu dastur «maqsadi jihatdan juda cheklangan» ekanligini aniqladi.

«Dastur ular eng ko‘p qiziqadigan sohalardagi universal jailbreaklarga qaratilgan bo‘lib, bu ularning o‘z maxsus shartlari bilan belgilangan», — dedi White Circle Ars nashriga.

Ularning so‘nggi RISE maqolasi kabi tadqiqotlar «albatta» ushbu dastur doirasiga kirmasdi, dedi White Circle. Bundan tashqari, bunday ishni Anthropic ichida olib borish White Circle’ning uni jamoatchilik bilan bo‘lishishiga to‘sqinlik qilishi mumkin edi.

Anthropic bir qadam oldinga borib, o‘z laboratoriyalariga uchinchi tomon AI xavfsizligi baholovchilarini joylashtirishni taklif qildi, bu esa White Circle’ning so‘zlariga ko‘ra, ularning bug bounty dasturida qatnashishdan ancha yuqori darajada faoliyat yuritishiga imkon beradi. Biroq, jamoatchilik bu ishni har doim yaqindan kuzatib bora olmaydi. Seshanba kuni OpenAI va Anthropic savdo sirlari oqib ketmasligi uchun tashqi baholovchilarga cheklovchi maxfiylik kelishuvlari (NDA) majburiy qilinishi kerakligini bildirdi, deb xabar berdi Reuters.

White Circle tanqidiy topilmalarni jamoatchilik bilan bo‘lishishiga to‘sqinlik qilishi mumkin bo‘lgan har qanday cheklovchi NDA’larni imzolashga tayyor emas, dedi u Ars nashriga, shuning uchun agar Anthropic NDA talab qilsa, bu hamkorlik ehtimol amalga oshmaydi.

AI yaratgan yalang‘och tasvirlar va CSAM ko‘paymoqda

AI yordamida roziliksiz intim tasvirlar (NCII) va bolalarga nisbatan jinsiy zo‘ravonlik materiallari (CSAM) yaratishga qat‘iy niyat qilgan yomon niyatli shaxslarga frontier modellar kerak emas va ular ko‘pincha shu zararli maqsad uchun yaratilgan deb ataladigan «nudify» ilovalardan foydalanadi. Lekin Google tadqiqoti shuni aniqladiki, AI yalang‘och tasvirlar yaratganini tan olgan onlayn foydalanuvchilarning 20 foizi buni «o‘yin-cho‘q uchun» yoki «joke sifatida» qilgan, deyarli uchdan bir qismi esa shunchaki «texnologiya bilan tajriba o‘tkazgan». Shu sababli eng oson kirish mumkin bo‘lgan modellarning himoyasini buzish qanchalik oson ekanligi muhim. Google tadqiqotiga ko‘ra, «texnik to‘siq bilan boshqacha bo‘lgan bo‘lardi» degan «jinoyatchilar qismi» uchun «zo‘ravonlikka yo‘l»ni yopish uchun himoya choralari majburiy bo‘lishi kerak.

«Mas’uliyat yukini ishlab chiquvchilar ham o‘z zimmalariga olishi kerak — ular sintetik jinsiy tasvirlarning boshlang‘ich yaratilishi va keyingi tarqatilishining oldini olish uchun mustahkam, model darajasidagi himoya mexanizmlari va kelib chiqish ko‘rsatkichlarini joriy etishlari lozim», — deydi Google tadqiqoti.

O‘tgan hafta Internet Watch Foundation (IWF) shoshilinch choralar ko‘rilishi kerakligi haqida ogohlantirdi, chunki mutaxassis tahlilchilar «bu yilning birinchi yarmida 2025-yilning butun yiliga qaraganda ancha ko‘proq fotorealistik AI yaratgan bolalarga nisbatan jinsiy zo‘ravonlik tasvirlarini, jumladan, ikki yoshgacha bo‘lgan bolalarni tasvirlaydigan tasvirlarni» aniqlagan. Jami 2026-yilning birinchi olti oyida CSAMning qonuniy ta‘rifiga mos keladigan 6 310 ta AI tasviri topilgan bo‘lib, bu o‘tgan yilgi umumiy topilmalarga qaraganda taxminan 40 foizga ko‘p.

Buyuk Britaniyada joylashgan notijorat xayriya tashkiloti CSAM’ni butun dunyo bo‘ylab kuzatib boradi va nishonga olingan qurbonlarga yordam berish uchun «hotline» xizmatini yuritadi. Buyuk Britaniyada ular regulyatorlardan AI kompaniyalarining texnologiyasi CSAM yaratish uchun ishlatilishining oldini olishni talab qiluvchi xavfsizlik doirasi joriy etishni so‘ramoqda, dedi IWF vakili Ars nashriga.

Bungacha IWF White Circle kabi uchinchi tomonlar uchun «kompaniyalarning himoya choralari qayerda samarasiz qolayotganini ko‘rsatish» muhim deb hisoblaydi.

«Bizning tahlilchilar AI yutuqlari qanday qilib minimal harakat bilan zo‘ravonlikka asoslangan bolalarga nisbatan jinsiy zo‘ravonlik tasvirlarini yaratish imkonini berayotganini, texnik bilim zaruratini yo‘q qilib, kirish to‘siqlarini sezilarli darajada pasaytirayotganini ko‘rdilar», — dedi IWF vakili. «AI vositalari jinoyat kontentini takrorlay va kuchaytiradi, zararli materiallarning yaratilishi va tarqalishini massaviy miqyosda tezlashtiradi. Bu vositalardan noto‘g‘ri foydalanishni qiyinlashtiradigan har qanday to‘siq yoki qadam ijobiy yutuqdir».

Tashqi fikr-mulohazalar filtrlarni takomillashtirishga yordam bergani kabi, IWF texnologiya kompaniyalari AI yaratgan CSAM bilan samaraliroq kurashish uchun modellarni sinchiklab tekshirish maqsadida himoyachilar bilan ham yaqinroq ishlashi kerak deb hisoblaydi.

«CSAM’ni baholash mutaxassis tayyorgarlik va farovonlik yordamini talab qiladigan juda ixtisoslashtirilgan vazifa bo‘lib, bu texnologiya kompaniyalari yoki mashinaviy o‘qitish olimlari yengil qaraydigan masala emas», — dedi IWF vakili. «Lekin xavfsizlik yangi texnologiyalarga boshidan loyihalashtirilgan holda singdirilishi kerak — bu modellarni bozorga chiqarilishidan oldin bolalarning yalang‘och yoki jinsiy tasvirlarini yaratish uchun ishlatilmasligiga ishonch hosil qilish uchun sinashni ham o‘z ichiga oladi».

Mumkin bo‘lgan yumshatish choralari

White Circle fikricha, RISE kabi usul frontier laboratoriyalarga jailbreaklarni tezroq aniqlash va zararli natijalarni bloklash bo‘yicha himoyani tezda kuchaytirishga yordam beradi. Eksplitsatsion tasvirlarga qo‘yilgan bloklarni sinashdan tashqari, kompaniyalar bu usuldan grafik zo‘ravonlik yoki o‘z joniga qasd qilishni tasvirlaydigan rasmlar kabi boshqa taqiqlangan natijalarni oldini olish uchun ham foydalanishi mumkin.

Ammo laboratoriyalar hozircha takrorlash pipeline‘i uchun murojaat qilmagan; u White Circle‘ning GitHub sahifasida frontier laboratoriyalarni nazorat qilish uchun AI xavfsizlik qonunlari zarur yoki yo‘qligini baholashga yordam berish maqsadida e‘lon qilinadi.

Shilov Ars‘ga frontier laboratoriyalar majburiy bo‘lgunga qadar xavfsizlik sinovlariga jiddiy investitsiya kiritmaydi, dedi. Preprint mavjud avtomatlashtirilgan red-teaming vositalari — odatda zararli promptlarni birma-bir qayta yozadigan vositalar — bugungi mustahkamlangan tijorat modellarini sinashga yomon moslashganini ta‘kidlaydi. RISE esa qayta ishlatiladigan tabiiy til hujum strategiyalarini olib, ulardan ko‘plab turli promptlar yaratish uchun foydalanadi; bu laboratoriyalarga zaifliklarni tezroq topish va tuzatishga yordam beradi, deya White Circle aytadi.

«Bu tizimlarni buzish uchun frontier modellar yoki mulk texnologiyalar kerak emas; faqat bepul yuklab olish va API so‘rovlarini yuborish qobiliyati kerak», dedi Shilov. «Va baribir, bu tizimlarni yaratayotgan laboratoriyalar o‘z xavfsizligini o‘zlari baholaydi, o‘z natijalarini o‘zlari nashr etadi va o‘z standartlarini o‘zlari belgilaydi. Bu — kerak bo‘lsa — hukumatlar mustaqil, uchinchi tomon baholashini talab qilishi kerakligining yana bir isboti».

Tuzatish: Bu material bir nechta xatolarni to‘g‘rilash uchun yangilandi. Ilgari RISE preprint‘idan olingan parcha AI modellari zararli natijalarni qanday bloklashini tushuntiradi deb tasvirlangan edi; parcha aslida tadqiqotchilarning hujum usulini tavsiflaydi. Shuningdek, usul xavfsizlik filtrlarini taxminan 13 foiz hollarda chetlab o‘tadi degan edi; bu eng yuqori inson tomonidan tasdiqlangan ko‘rsatkich bo‘lib, DALL·E 3 da erishilgan va boshqa modellarda ko‘rsatkichlar pastroq edi. Material, shuningdek, hakam modelni noto‘g‘ri ko‘rsatgan edi — u Gemini 2.5 Flash edi — va hujum modelidan xavfsizlik o‘qitilishi olib tashlangani qayd etildi.