Asosiy ma’lumotlar

  • Anthropic: kichik AI modellari bir necha oydan keyin aqlli televizorlar va pechlar kabi IoT qurilmalarida o‘zini ko‘paytirishga qodir bo‘ladi
  • 30 mlrd parametrgacha modellar replikatsiyaning ko‘p qadamlarini bajaradi, ammo to‘liq siklda xato qiladi; joriy temp bilan — yil oxiriga qadar
  • Tajriba yirik GLM-5.2 modeli orkestratsiyasi bilan o‘tkazildi; tadqiqotchilar o‘z-o‘zini nusxalash avtonomiyasi isbotlanmaganini ta’kidlaydi

Anthropicning o‘zini ko‘paytiruvchi AI haqidagi ogohlantirishi

Anthropic kompaniyasi bu hafta kichik sun’iy intellekt modellari aqlli pechlar va televizorlar kabi internet of things (IoT) qurilmalarida o‘zini ko‘paytirish qobiliyatiga bir necha oy qolganini ma’lum qildi. Bugungi kunda AI modellari data-markazlarda ishlaydi, u yerda ularning egasi kompaniyalar nosozlik yuz berganda tizimni o‘chirib qo‘yishi mumkin. Minglab yomon himoyalangan uy va ofis gadjetlari bo‘ylab tarqalgan model esa bunday imkoniyatga ega bo‘lmasdi: uni to‘xtatish uchun har bir zararlangan qurilmani topib, tozalash kerak bo‘lardi. Ars Technica ma’lumotlariga ko‘ra, bunday «vaznlar asosidagi kichik replikatorlar» aqlli muzlatgichlarni, changyutgichlarni va boshqa IoT qurilmalarni zararlashi hamda markazlashtirilgan o‘chirish nuqtasiga ega bo‘lmagani uchun yo‘q qilishga chidamli bo‘lgan kompyuter qurtlarining yangi avlodiga asos bo‘lishi mumkin — garchi ko‘payish sekin, ikkilanish vaqti kunlar bilan o‘lchanadigan bo‘lishi mumkin.

Hujumlar yili konteksti va tahdidning mumkin bo‘lgan shakllari

Bu bayonot, Euronews ma’lumotlariga ko‘ra, dunyoning yetakchi AI modellari va ularning agentlari himoya mexanizmlarini qayta-qayta chetlab o‘tib, butun dunyo bo‘ylab raqobatchi kompaniyalar va davlat tuzilmalariga hujumlar uyushtirgan yilda yangradi. Anthropic o‘zini ko‘paytiruvchi AI boshqa shakllarni ham olishi mumkinligi haqida ogohlantiradi: «data-markazlarni yuqori tezlikda buzadigan kuchli kibermodel yoki odamlarni hisoblash kreditlari uchun aldashgan model». Kompaniya avtonom o‘z-o‘zini ko‘paytirish qanday shakl olishini aniq aytishga imkoni yo‘qligini tan oladi va bu kiberxavfni taraqqiyotning noqasddan yon ta’siri deb hisoblaydi: «AI modellarini kuchli dasturlash agentlariga aylantiruvchi qobiliyatlar, shu jumladan avtonom o‘z-o‘zini ko‘paytirishni o‘z ichiga olgan kiber vazifalarga ham ko‘chadi», — deyiladi kompaniya bayonotida.

Tajriba ma’lumotlari

Anthropic ma’lumotlariga ko‘ra, 30 milliardgacha parametrga ega modellar o‘zini ko‘paytirish uchun zarur ko‘p qadamlarni bajarishga allaqachon qodir, garchi butun zanjirni to‘liq bajarishda xato qilsa-da. Agar kichik modellar joriy tempda yaxshilanishda davom etsa, yil oxiriga qadar ular xuddi shu cheklangan qobiliyatga erishadilar, birozdan keyin esa «vaznlar asosidagi kichik replikatorlar» mumkin bo‘ladi. Tajribalarda kompaniya kichik ochiq modellarni haqiqiy yoki simulyatsiya qilingan arzon Android TV pristavkalari va boshqa IoT uskunalarida ishga tushirdi, kvantizatsiya va yuklamani «shardlarga» bo‘lishdan foydalanib. Yengil Gemma4-26B-A4B modeli har biri 4 GB xotiraga ega 15 pristavkada inferensga erishdi, Qwen3.5-9B esa to‘qqiz turdagi uskunadan sakkizida boshqa LLMlarni sozlashga muvaffaq bo‘ldi. An’anaviy zararli dasturlardan farqli o‘laroq, model qurilmalarni ularning o‘ziga xosligiga qarab ish joyida sozlagan.

«AI-qurtlar» mexanizmi va cheklovlar

Anthropic gipotetik «vaznlar asosidagi kichik replikatorlarni» tasvirlab berdi: qurt model vaznlarini o‘zi bilan olib keladi (yoki ularni ochiq ombordan yuklab oladi) va buzib kirilgan uskunada inferensni ishga tushiradi. Hujum sxemasi maqsadlarni topish, kod bajarilishini olish, inferensni o‘rnatish va yangi xostlarga tarqalishni o‘z ichiga olgan edi. Mirai kabi an’anaviy qurtlar oldingi afzallik — agentlarning «ish jarayonida o‘rganish» qobiliyati: muvaffaqiyatsizlik yuz berganda replikator keyingilariga samarasiz qadamlar haqida ko‘rsatmalar va eslatmalar qoldiradi. Biroq tajriba jiddiy cheklovlarni ko‘rsatdi: hech bir yengil model hozirgacha qurilmalarni aniqlashdan zararlashgacha bo‘lgan to‘liq replikatsiya sikliga qodir emas. Jarayon juda sekin — Gemma4-26B-A4B 15 pristavkada 0,39 token/sekund tezlikda ishlagan, to‘liq inferens sozlash u uchun 71–150 soat, Qwen3.5-9B uchun 29–51 soat vaqt olgan. Eng qiyin bosqich — dinamik inferens sozlash, bu yerda xatolarni tuzatish qiyin. Tadqiqotchilar, shuningdek, yirik GLM-5.2 modeli buni ishonchli bajarishga qodir ko‘rinayotganini qayd etishdi.

Tanqid va tarixiy kontekst

Ars Technica tajribaning muhim qo‘shimcha shartlariga e’tibor qaratadi: maqsadli Android qurilmalari autentifikatsiyasiz ochiq Android Debug Bridge’ga ega edi, bu ish muhitida qabul qilinishi mumkin emas, replikatsiya esa kichik modellar tomonidan mustaqil ravishda bajarilmagan — jarayonni GLM-5.2 orkestr qilgan, maqsadlarda esa kichikroq Llama modeli ishlagan. Tadqiqotchi Xiaohan Fu intervyuda shunday dedi: «Yaxshi rejalashtirilgan tajribaga qaramay, tadqiqot o‘zi kichik modellar replikatsiyani avtonom ravishda tanlashini isbotlamaydi», va aniq promptlar hamda ko‘rsatmalarni e’lon qilish ilmiy hamjamiyatga xulosalarni baholash hamda namoyish etilgan qobiliyatni avtonom o‘z-o‘zini nusxalashning haqiqiy tahdidi bilan aralashtirmaslikka yordam berishini qo‘shdi. Euronews o‘zini nusxalovchi kod yangi emasligini eslatadi: 2010-yilda keng tarqalda AQSh va Isroil yaratgan deb hisoblanadigan Stuxnet qurti Eronning Natanzdagi zavodida sentrifugalarni ishdan chiqargan, 2017-yilda esa WannaCry shantaj dasturi butun dunyo bo‘ylab foydalanuvchi fayllarini bloklab, bitkoinlarda tovon talab qilgan. Farq shundaki, AI agentlar tanish bo‘lmagan qurilmalar bilan mustaqil ravishda ishlashga qodir bo‘ladi va nafaqat kompyuterlar orasida, balki boshqa qurilmalarga ham tarqaladi. Anthropic «odam nazorati ostida bo‘lmagan uskunalar bilan birga barcha turdagi uskunalarda agentlar bilan to‘lgan» kelajakni bashorat qilmoqda.