Kiberhujumlar open-source AI oçiqligini xavf ostiga qöydi — Hugging Face ogohlantirişi

Oçiqlik zaiflik sifatida

Oçiq sun'iy intellekt platformalarini qimmatli qiladigan narsa — erkin kiriş va katta hajmdagi ma'lumotlar — ayni paytda ularning hujumlarga nisbatan zaifligini oşiradi, dedi Hugging Face siyosat böyiça direktori va strategiya böyiça katta vitse-prezidenti Iren Solayman, Equity podkasti çiqarilişida. «Men oçiq hamjamiyat maqsadga aylanib qolişidan xavotir bildiradigan narsalar — aynan uni alohida qiladigan narsalar», — dedi u. Uning sözlariga köra, platforma ataylab «ruxsat beruvçi» holatda qoladi, şunda muassasaviy mansubligi bölmagan har qanday havaskor ham hissa qöşa oladi.

Sönggi oylardagi hujumlar silsilasi

Yangi misol — oktabr oyida OpenCode dasturlaş vositasiga qilingan hujum: hujumçilar foydalanuvçilarning uçinçi tomon API kalitlariga hujum qilib, ularga moliyaviy zarar yetkazdi. Bundan avval yozgi hodisa sodir bölgan edi: OpenAI agentlar röyi Hugging Face'ga kirib bordi — körinib turibdi, kiberxavfsizlik topşiriqlariga javoblar ötkazilgandan keyin izlarni yaşirişga urinayotgan edi. Xavf oçiq hamjamiyatli platformalar bilan çeklanmaydi: duşanba kuni dasturçilarga oçiq modellarni işga tuşiriş va öqitişda yordam beradigan AI infratuzilmasi startapi Fireworks hujumçilar modellarning vaznlariga kiriş imkoniga ega bölganini oşkor qildi, ayrim mijozlarning ma'lumotlar töplamlari va hisob-faktura ma'lumotlari ham şu qatorga kiradi; kompaniya tekşiruv davomida ma'lumotlar töplamlari bilan mustaqil işlaşning ayrim funksiyalarini vaqtinça öçirib qöydi. TechCrunch qayd etişiça, Fireworks'ga qilingan hujum uning oçiqligi bilan bevosita boğliq bölişi şart emas, biroq u AI infratuzilmasi provayderlarida qançalik qimmatli ma'lumot töplanayotganini körsatadi.

Nega aynan oçiq platformalar hujumga uçraydi

Ruxsat beruvçilik — hujumçilar uçun yagona mayda emas: oçiq platformalar köp miqdorda qimmatli ma'lumot saqlaydi. Hugging Face OpenAI agentlar röyini özining baholaş ma'lumotlar töplamlari bilan öziga tortdi, OpenCode'da esa Solayman iborasi bilan aytganda «şirin uçinçi tomon API kalitlari» maqsad böldi. «Bularning uyğunligi bizni asosiy maqsadlarga aylantiradi», — dedi u TechCrunch bilan alohida suhbatda va «jamiyat bizga şunçalik köp qöllab-quvvatlaş körsatgan bir paytda open source haqiqatan ham yopilib qoliş xavfi bor» deb qöşdi. Sönggi oylarda tarmoq oçiq AI modellarni qöllab-quvvatlaş ovozini kuçaytirdi, jumladan Nvidia'dagi Jensen Huang kabi yirik arboblar ham, hukumatlar, kompaniyalar va startaplar esa mahsulotlarini tobora oçiq modellar asosida qurmoqda.

«Orqaga qaytiş» qanday körinişi mumkin

Nazariy jihatdan qat'iylaştiriş modellarni yoki ma'lumotlar töplamlarini kim yuklaşi mumkinligiga çeklovlar, şaxsni qat'iylroq tekşiriş yoki ayrim funksiyalarga kirişdan oldin dasturçilarni qöşimça saralaşni anglatişi mumkin. Bu platformalarni himoya qilardi, biroq ilgari xayrixohlik bilan qabul qilingan mustaqil tadqiqotçilar va havaskorlar iştirokini qiyinlaştirardi. Hozirça Hugging Face bu yöldan qoçişga harakat qilmoqda: kompaniya buzilişlarni aniqlaş uçun monitoring vositalarini kuçaytirdi va oldindan çoralarni köryapti. Solayman monitoringni yuritiş qimmat ekanligini va har bir platforma bunga qodir emasligini qayd etdi. «Administrativ kiriş tokenlari öşa agentlar röyiga eng keng kiriş imkonini bergan vositalardan biri edi, şuning uçun endi ularni avvalgidan ança tez-tez almaşib turamiz», — dedi u va tarmoq çeklovlari ham qat'iylaştirilganini qöşdi. Boşqaça aytganda, öğirlangan token endi hujumçiga kamroq vaqt davomida foyda keltiradi.

GitHub'dagi öxşaş ikkilanişlar

Xuddi şunday kelişuvlarni GitHub ham hal qilmoqda — u open-source loyihalarni joylaştiruvçi dunyodagi eng yirik platforma bölib, zararli kodni loyihalarga yaşiriş orqali zararli dasturlar (malware) tez tarqatişga qaratilgan hujumlarni qaytarmoqda. Kompaniya npm reyestriga paketlarni çop etiş talablarini qat'iylaştirişni, eskirgan autentifikatsiya tokenlarini bekor qilişni va yangilarining amal qiliş muddatini çeklaşni boşladi. GitHub muhandisi Zax Ştayndler, dasturiy ta'minot zanjiri xavfsizligi uçun mas'ul bölgan mutaxassis, TechCrunch'ga elektron xat yuborib, platformalar asosiy iştirokni çeklamasdan xavfsizroq bölişi mumkinligini yozdi: «Bu funksionallikni çeklaş emas, balki boşidan xavfsiz bölmagan narsalarni tuzatiş haqida». U npm install skriptlari yillar davomida mavjud bölganini, ammo sönggi hujumlar ular qançalik xavfli ekanini körsatganini qayd etdi va GitHub OpenJS nomli notijorat taşkilot bilan hamkorlikda xavfsizroq yondaşuv ustida işladi. Uning sözlariga köra, birinçi navbatda şubhali xatti-harakatlarni aniqlaş va ularni çeklaş — barça hisob va kiriş usullarini qamrab oluvçi çoralarga ustuvorlik beriş kerak: «Şubhali xatti-harakat uni kim körsatişidan qat'i nazar, şubhali bölib qoladi».