Asosiy ma’lumotlar

  • Microsoft kompaniyalarning AI-agentlarini kuzatish uchun Guardian Agentsni ishga tushirdi — iyun oyida taqdim etilgan Project Perceptionning bir qismi
  • Nadella «intellektni yetkazib berishni uning ustidan hokimiyatdan ajratish»ni va model yetkazib beruvchilarning kafolatlariga ishonmaslikni tavsiya qiladi
  • Defender endi Claude Code, Codex va OpenClaw jumladan 60 xil agent turini aniqlaydi; Microsoft shuningdek Nvidianing Open Agent Safety Platformasida ham qatnashadi

«Ishonchsiz» agentlarga qarshi yangi vositalar

Dushanba kuni Microsoft kompaniyalarni AI-agentlar bilan bog‘liq xavflardan himoya qilish uchun xavfsizlik funksiyalari to‘plamini taqdim etdi. Asosiy yangilik — kompaniya foydalanadigan agentlarni kuzatish uchun mo‘ljallangan Guardian Agents. Funksiya iyun oyida taqdim etilgan Project Perception mahsulotiga kiradi. Dastlab u uch sinf agentni o‘z ichiga olgan edi: xakerlarni imitatsiya qiluvchi «qizil jamoa», hujumlarni aniqlaydigan va zaifliklarni baholaydigan «ko‘k jamoa» hamda ularni bartaraf etuvchi «yashil jamoa». Mahsulot Anthropic Mythos va Fable kabi xakerlik modellari hamda OpenAI Daybreak zaifliklarni skanerlash tizimlariga javoban yaratilgan edi, biroq dastlab tahdid tashqaridan keladi degan farazga tayanardi.

Rahbariyat pozitsiyasi: agentlarga sukut bo‘yicha ishonib bo‘lmaydi

Yaqinda Microsoft rahbari Satya Nadella shaxsiy blogida kompaniyalarga AI-modellar yetkazib beruvchilarga, hatto ular o‘z agent mahsulotlarining xavfsizligi haqida kafolat bersa ham, ishonchni to‘xtatish vaqti keldi deb ogohlantirdi. U agentlarni kuzatish va nazorat qilish uchun mustaqil tizimlarni joriy etishni taklif qildi. «Biz eng nozik ma’lumotlarga kirish huquqiga va bizning nomimizdan juda muhim harakatlarni bajarish imkoniyatiga ega bo‘lgan murakkab agent tizimlar va modellarni joriy etmoqdamiz! Intellekt bizning nomimizdan nima qilishini uchun javobgarlikni boshqalarga topshira olmaymiz. Model yetkazib beruvchining kafolatlari bizdan bu javobgarlikni olib tashlamaydi… Boshqacha aytganda, intellektni yetkazib berishni uning ustidan hokimiyatdan ajratishimiz kerak», — deb yozdi Nadella. Guardian Agents e’loni paytida Microsoft xavfsizlik biznesi rahbari Hayete Gallou yanada to‘g‘ridan-to‘g‘ri gapirdi: «Afsuski, frontier-modellarga, ularning kelib chiqishidan qat’i nazar, ishonib bo‘lmaydi». Uning so‘zlariga ko‘ra, bu modellarning yovuzligi yoki zaifligi bilan emas, balki ularning bashorat qilib bo‘lmasligi bilan bog‘liq: ular vazifalarni bajarishga, «tashkiliy me’yorlar yoki hukmlarga» rioya qilishga emas, o‘rgatilgan va ayni paytda ko‘pincha jiddiy zarar yetkazishga qodir ma’lumotlar va vositalarga kirish huquqiga ega.

Mahsulotlar qatorini kengaytirish va tarmoq konteksti

Guardian Agentsdan tashqari, Microsoft Microsoft Defenderga xodimlar ish o‘rnlariga olib keladigan, Claude Code, Codex va OpenClaw jumladan 60 xil agent turini aniqlash funksiyasini qo‘shdi. Shuningdek, agentlarning ma’lumotlar va tizimlarga kirishini cheklash, ularning ruxsatlarini vazifaga qarab dinamik sozlash hamda agent xavfli harakatlarda inson tasdig‘ini talab qilish funksiyalari paydo bo‘ldi. TechCrunch Microsoft pozitsiyasidagi ikkiyuzlamachilikni qayd etadi: kompaniya OpenAI va Anthropic bilan chambarchas bog‘liq — ikkalasiga ham investitsiya kiritgan, OpenAI esa uning eng yirik bulutli mijozlaridan biri, ayni paytda Microsoft o‘z biznes-manoafyatlariga nisbatan ishonchsizlik uyg‘otadi. Shu bilan birga, unga agentlar himoya vositalarini laboratoriyalarning o‘rniga sotish foydali, garchi nashr mantiqiga ko‘ra, nazorat qiluvchi dasturiy ta’minot agent yetkazib beruvchilardan mustaqil bo‘lishi — auditorlar tekshiriladigan tashkilotlardan mustaqil bo‘lgani kabi — haqiqatan zarur. Agentlarni «ishonchsiz ichki tahdid» sifatida ko‘rish g‘oyasi butun tarmoqqa ham tarqalmoqda: Microsoft Nvidianing 100 dan ortiq texnologik kompaniya qo‘llab-quvvatlagan Open Agent Safety Platformasining asoschilaridan biriga aylandi. Platforma agentlarni himoyalangan muhitlarda izolyatsiya qiladi va ularning xatti-harakatlarini apparat darajasida kuzatib, to‘xtatishi mumkin — «kill switch»ga o‘xshash. Bu agentlar uchun yaratilgan Surface Laptop Ultra noutbuklari e’lonidan keyin kelmoqda: ular Nvidia chiplarida ishlaydi va agentlarni nazorat qilish hamda xavfsizlik vositalari o‘rnatilgan.