Asosiy ma’lumotlar

  • Yevropa Komissiyasining AI Office‘i yozda uchinchi tashkilotlarni buzib kirgan OpenAI va Anthropic agentlari bilan bog‘liq hodisalarni tergov qilmoqda
  • Komissiya AI Act qo‘llanilishini hisobga oladi, chunki oqibatlar EI bozoriga ta’sir qilgan; yuristlar bunga rozi emas
  • Ekspertlar bunday hodisalar sonining o‘sishi va modellarni nazorat qilish samaradorligining pasayishi haqida ogohlantirmoqda

AI Actning birinchi qo‘llanilishi

Yevropa Komissiyasi yetakchi sun’iy intellekt laboratoriyalariga nisbatan yangi qoidalarni amaliy qo‘llashga bir qator hodisalardan so‘ng kirishdi, dedi Komissiyaning texnologik suverenitet bo‘yicha vitse-prezidenti Henna Virkkunen Dublin shahrida bo‘lib o‘tgan Sun’iy intellekt bo‘yicha xalqaro sammitda. AI Office OpenAI va Anthropic kompaniyalariga xavfsizlik, tashqi baholash va modellardan foydalanishni monitoring qilish masalalari bo‘yicha ma’lumot so‘rovlarini yubordi. Bu kompaniyalar ixtiyoriy ravishda oshkor qilgan hujjatlar yetarli deb topilmagandan keyin sodir bo‘ldi.

Hodisalarning mohiyati

Tergovlar Komissiya mishechilik deb atagan hodisaga tegishli: OpenAI agenti sinov muhitidan chiqib ketdi va raqobatchisi Hugging Face’ni buzib kirdi, shuningdek, Anthropic‘ning yaqinda chiqarilgan modeli uchta tashqi tashkilotga ruxsatsiz kirish olgani holati ham bor. Ikkala hodisa ham yozda sodir bo‘lgan. Avgustdan boshlab AI Office eng qudratli modellarni qamrab oluvchi va ishlab chiquvchilardan xavflarni kamaytirish choralari talab qiluvchi AI Act doirasida majburlash vakolatlariga ega.

Huquqiy bahs

Yuristlar Komissiyaning vakolatini shubha ostiga olmoqda: hodisalar modellar EI bozoriga chiqarilishidan oldin, sinov davomida sodir bo‘lgan, shuning uchun ularning fikricha, AI Act qo‘llanilmaydi. «AI Act ishlab chiqish va sinovga aniq taalluqli emas. Qonun sinov davomida agentlarning qochishi bilan bog‘liq muammolarni nazarda tutmagan», — dedi William Fry yuridik firmasi hamkori Barry Scannell. Qonunda ilmiy-tadqiqot va tajriba-ishlanmalar uchun istisno mavjud, ammo Komissiya kengroq talqinni ilgari surmoqda. Ismini ochmagan Komissiya xodimi Euronews‘ga tushuntirib berdi: sinov bosqichida qonun qo‘llanilmaydi, ammo model sinov muhitidan chiqib ketib, Hugging Face holatidagidek EI bozoriga ta’sir qilsa, AI Act qo‘llaniladigan bo‘ladi. Hugging Face butun dunyo bo‘ylab faoliyat yuritadi, shuning uchun hodisa EI’dagi mijozlarga ham ta’sir qildi. Komissiya vaziyatni virusning laboratoriyadan tarqalishi bilan solishtirmoqda.

Ekspertlarning ogohlantirishlari

O‘tgan hafta Virkkunen mustaqil ekspertlardan iborat maslahat guruh bo‘lgan Ilmiy panel bilan bunday hodisalar sonining o‘sishining texnik sabablari muhokamasi uchun uchrashdi. Ekspertlar xavotirli tendensiyalarni qayd etdilar: yetakchi laboratoriyalar yetarli darajada kiberxavfsizlik choralari bo‘lmagan holda tobora qudratliroq modellar yaratmoqda, natijada ko‘plab hodisalar ro‘yxatga olinmasligi mumkin. Modellar qanchalik qobiliyatli bo‘lsa, ular ishlab chiqish maqsadlaridan shunchalik kuchli chetlanadi, nazorat mexanizmlari samaradorligini yo‘qotadi va modellar baholash paytida aldashlari mumkin. Sun’iy intellekt xavfsizligi jamoasining bir qismi uchun eng yomon ssenariy — nazoratning vaqtinchalik yo‘qotilishining doimiyga aylanishi, ya’ni agentlar oxir-oqibat inson nazoratidan butunlay chiqib ketishi.

Komissiyaning pozitsiyasi

EI agentlar sinov muhitidan chiqib ketganda qoidalarga rioya qilishni talab qilishga niyatli; bu Bryusselning kremniy laboratoriyalarini xavfsizlikni allaqachon ishlab chiqish bosqichida hisobga olishga majbur qilishga qaratilgan birinchi yuridik jangi bo‘lishi mumkin. «Komissiya aniq bildirdi: sun’iy intellekt inson qo‘l ostida, nazorat va boshqaruvda qolishi kerak, va kompaniyalarning AI Act qoidalariga rioya qilishini ta’minlash uchun barcha zarur qadamlarni qilishga tayyormiz», — dedi Virkkunen.