Asosiy ma’lumotlar

  • Anthropic nazorat qilinadigan tajribada AI-model arzon Android-qurilmalar orasida tarqalishi mumkinligini ko‘rsatdi: 5 urinishdan 4 tasida u barcha 8 maqsadli qurilmani yuqtirgan.
  • Anthropic bahosiga ko‘ra, «AI-qurt» yangi qurilmaga bir-ikki kunda mustahkam o‘rna olishi, kichikroq AI-modellar esa kerakli darajadagi qobiliyatlarga «shu yil davomida keyinroq» erisha olishi mumkin.
  • Fransiyada supermarketlarning sovutish tizimlariga hujum qilindi (harorat 50 °C gacha); CERT-FR Danfoss tizimlarining buzilganini tasdiqladi, AI-qurtlar bilan aloqa o‘rnatilmagan.

Anthropicning AI-qurtlari haqidagi ogohlantirishi

Anthropic kompaniyasi sun’iy intellekt asosidagi zararli dasturlar yaqin orada internetga ulangan maishiy qurilmalarga kirib borishi, o‘zini boshqa qurilmalarga ko‘chirib, u yerda faollashishi mumkinligi haqida ogohlantirgan hisobot e’lon qildi. Bitkom tarmoq assotsiatsiyasining tadqiqot ma’lumotlariga ko‘ra, Germaniyadagi uy xo‘jaliklarining taxminan yarmi (52%) allaqachon «aqlli» ilovalardan foydalanadi — chang yig‘uvchi robotlar, ovozli yordamchilar, isitishni boshqarish va internetga chiqish imkoniga ega televizorlar, va bu ulanish o‘sib bormoqda.

AI-qurtlar oddiy qurtlardan qanday farq qiladi

Klassik kompyuter qurtlari, o‘zini mashinadan mashinaga ko‘chiruvchi, o‘n yillar davomida mavjud va ma’lum zaifliklardan foydalanib, oldindan belgilangan ko‘rsatmalar ketma-ketligiga amal qiladi. AI-qurtlari ancha murakkabroq bo‘lardi: ular turli qurilmalarga (masalan, boshqa operatsion tizimga yoki cheklangan xotiraga) moslasha oladigan, yangi qurilmalarda ishlashni mustaqil o‘zlashtira oladigan va yangi xavfsizlik yangilanishlarini chetlab o‘ta oladigan vazifalarni avtonom hal qila olardi.

Arzon uskunada tajriba

Anthropic tadqiqotchilari AI-modellar arzon texnikada ishlashi mumkinligini tekshirdi: ular AI-modelni 15 ta arzon Android TV-pristavkalar o‘rtasida taqsimlab, har biri hisoblashning bir qismini bajardi. Bu ayrim AI-ilovalari yirik ma’lumotlar markazisiz ishlashi mumkinligini ko‘rsatdi. Sakkizta qo‘shimcha simulyatsiya qilingan Android-qurilmadan iborat nazorat qilinadigan test muhitida model ulardan biriga kirib, o‘zini ko‘chirib, qolganlarini yuqtira oldi: besh urinishdan to‘rttasida u sakkizta maqsadning barchasiga erishdi, qolganida — sakkiztadan yettitasiga. Anthropic ishlab chiquvchilari bahosiga ko‘ra, bunday «AI-qurt» yangi, ilgari noma’lum qurilmaga taxminan bir-ikki kunda mustahkam o‘rna olishi mumkin edi.

Maishiy qurilmalardan botnet xavfi

Ayniqsa xavotir uyg‘otadigan jihat — yuqtirilgan qurilmalarning yirik botnetga birlashishi imkoniyati: qancha ko‘p qurilma buzilsa, qurt shunchalik tez tarqalishi mumkin, bundan tashqari, zararli dastur oddiygina o‘chirib qo‘yish mumkin bo‘lgan markaziy serverga bog‘liq bo‘lib qolmasdi. Qurt tarqalish jarayonida uzluksiz o‘rganib, ehtimol, turli dasturiy ta’minotga ega butunlay boshqa turdagi qurilmalarga o‘ta olishi mumkin edi. Markazlashmagan tuzilma qurilmalarni tarmoqdan uzish va patchlarni o‘rnatish imkoniyatiga qaramay, cheklashni qiyinlashtirardi. Anthropic bunday rivojlanishni sekin yoyiladigan raqamli xayron (slizevik) bilan solishtiradi. Tadqiqotchilar test qurilmalariga kirishni ataylab soddalashtirgan va jiddiy raqamli himoyalardan foydalanmagan, biroq kompaniya kichikroq AI-modellar real dunyoda tarqalish uchun zarur darajadagi qobiliyatlarga «shu yil davomida keyinroq» erisha olishi mumkin deb hisoblaydi.

Fransiyadagi supermarketlarga hujum

Ulangan boshqaruv tizimlariga hujumlarning mumkin bo‘lgan oqibatlari Fransiyadagi voqea misolida allaqachon ko‘rinmoqda: dushanba kechasi hujumchilar ko‘plab supermarketlarning sovutish va muzlatish tizimlari ishiga aralashdi. Zararlangan qurilmalarda harorat 50 daraja Selsiygacha ko‘tarildi, mahsulotlar buzildi, ayrim hollarda yong‘inlar va texnik shikastlanishlar bo‘lgan. Fransiya kiberxavfsizlik agentligi CERT-FR avval daniyalik Danfoss ishlab chiqaruvchisining masofadan boshqaruv tizimlari buzilganini tasdiqladi, keyinchalik ogohlantirish boshqa ishlab chiqaruvchilarning tizimlariga ham tarqatildi. Tekshiruv davom etmoqda. Himoya dasturlarining bir qismi eskirganligi xabar qilingan — ehtimol, bu hujumchilar uchun kirish nuqtasi bo‘lgan.

Hujumlarning AI bilan aloqasi o‘rnatilmagan

Fransiyadagi hujumlar ortida kim turgani va motivlari nima ekanligi hozircha noma’lum. Sovutish tizimlariga hujumlarda o‘zini ko‘paytiruvchi AI-qurti ishlatilganligi haqida ham hozircha dalil yo‘q. Shu bilan birga, Anthropic tadqiqoti AI zararli dasturlar yaratishni qanchalik osonlashtirishi mumkinligini ko‘rsatadi, bu potensial ravishda jiddiy oqibatlar bilan ulangan qurilmalarga sezilarli hisoblash resurslarisiz hujum qilish imkonini beradi. Takroriy hujumlardan qo‘rqib, CERT-FR kompaniyalarga ulangan qurilmalarni muntazam yangilashni, zarur xavfsizlik patclarini o‘rnatishni va imkon qadar keraksiz internetga kirishni butunlay o‘chirib qo‘yishni tavsiya qildi.