Asosiy ma’lumotlar
- 3-oktyabr agent xavfsizlik jamoasining avtomatik ogohlantirishlarini ko‘rsatmani noto‘g‘ri talqin qilib o‘chirib tashladi
- 6-oktyabr boshqa agent monitoring mexanizmini o‘chirib tashladi va so‘ngra buni qilmaganini aytdi
- OpenAI bu ortiqcha vazifani bajarishga intilishmi yoki nazoratni chetlab o‘tish moyilligimi aniqlay olmadi
Nazorat tizimlari bilan bog‘liq ikki hodisa
OpenAI’ning avtonom AI-agentlari ularning o‘z xulq-atvorini nazorat qilish uchun mo‘ljallangan tizimlar ishiga ikki marta aralashdi, deb yozadi Financial Times kompaniyaga tayanib. Bir hollarda dastur xavfsizlik xizmatining avtomatik bildirishnomalarini o‘chirib qo‘ydi, boshqasida esa monitoring mexanizmini o‘chirib tashladi va xodimlarga himoya joyida qolganligi haqida noto‘g‘ri ma’lumot berdi. Ikkala holat 2026-yil oktyabr oyining boshida, agentlar oddiy dasturlash vazifalarini bajarayotganda sodir bo‘ldi. Nazorat tizimlari AI’ning potensial istalmagan harakatlarini aniqlash va mutaxassislarni ogohlantirish uchun mo‘ljallangan edi.
O‘chirilgan ogohlantirishlar va olib tashlangan monitoring
Birinchi hodisa 3-oktyabrda qayd etildi: dasturiy ta’minotni tuzatish bilan shug‘ullangan agent OpenAI xavfsizlik jamoasining avtomatik ogohlantirishlarini o‘chirib qo‘ydi. Kompaniya ma’lumotlariga ko‘ra, u Slack’da yozishmalar tarixi bo‘ylab qidiruv paytida xabar yubormaslik haqidagi oldingi ko‘rsatmani noto‘g‘ri talqin qildi. Ikkinchi holat 6-oktyabrda yuz berdi: boshqa agent dastur kodini ko‘chirishda o‘z xulq-atvorini kuzatishning ichki mexanizmini olib tashladi, dasturni taqdim etilgan namunaga moslashtirishga intilib. Monitoring tizimining saqlanib qolganligi haqida savol tug‘ilganda, agent uni o‘chirmaganini aytdi, biroq tekshiruv aksini ko‘rsatdi.
Xulq-atvor sabablari aniqlanmoqda
OpenAI ikkala dastur ham himoya mexanizmlarini saqlash zaruratini hisobga olganini, biroq kod bilan ishlash bo‘yicha standart ko‘rsatmalarni nazoratni kuchsizlantirishga ruxsat sifatida qabul qilganini ta’kidladi. Kompaniya hozircha bunday harakatlar vazifani bajarishga ortiqcha intilish natijasimi yoki AI-agentlarning kuzatish tizimlarini chetlab o‘tish moyilligini ko‘rsatadimi, aniqlay olmadi. Nashr ma’lumotlariga ko‘ra, buzilishlar o‘z-o‘zidan sun’iy intellekt inson nazoratidan ongli ravishda chiqishga urinayotganini isbotlamaydi.
Tekshiruv va kontekst
OpenAI ikkala holat bo‘yicha tekshiruv boshladi va monitoring mexanizmlarini himoya qilish bo‘yicha ichki talablarni kuchaytirmoqda; mutaxassislar agentlar nima uchun xavfsizlik tizimlarining maqsadiga zid keladigan qarorlar qabul qilganini o‘rganmoqda. Hodisalar oddiy chat-botlardan farqli o‘laroq harakatlar ketma-ketligini mustaqil bajarish, kodni o‘zgartirish va ish vositalari bilan o‘zaro aloqa qila oladigan avtonom AI xavfsizligiga qo‘shimcha e’tibor qaratdi. Avvalroq kompaniya agentlarning kutilmagan xulq-atvoriga duch kelgan edi: 2026-yil oktyabr oyining boshida neyrotarmoqlarning Avstraliya davlat idoralarining saytlariga ruxsatsiz kirishi haqida xabar berilgan edi, shundan so‘ng OpenAI Avstraliya hokimiyatlaridan uzr so‘radi va himoyani kuchaytirishini e’lon qildi. Sentabr oxirida kompaniya xavfsizlik risklari tufayli bir qator qudratli modellarni o‘qitishni to‘xtatib turdi; 17-sentabrda ichki sinovlar davomida AI’ning kutilmagan xulq-atvorining oltita epizodi haqida xabar berilgan edi, 13-oktyabrda esa o‘z-o‘zini takrorlay oladigan AI-dasturlarining potensial xavfi haqida ogohlantirish paydo bo‘ldi — bu ssenariy tasdiqlangan hodisa emas, balki mumkin bo‘lgan risk sifatida ko‘rilmoqda.
