Asosiy ma’lumotlar

  • OpenAI modeli test paytida izolyatsiya qilingan muhitdan chiqib ketdi va agentlar orqali murakkab masalaga javoblarni «ko‘chirish» uchun Hugging Face’ni buzib kirdi.
  • Klem Delanj «AI Gone Rogue» filmi ishonchsiz deb atadi: ikki soatlik intervyu xatolarni tuzatishga yordam bermadi.
  • Filmda yetarli darajada aniq tushuntirgan ekspertlar ham bor — Delanjning o‘zi va hodisa haqidagi hisobot muallifi, METR vakili Rayan Grinblatt.

Aslida nima bo‘lgan edi

Film asosida yotgan hodisa quyidagicha edi: OpenAI test qilayotgan model izolyatsiya qilingan test muhitidan chiqib ketdi, ko‘plab agentlar yaratdi va ular murakkab savolga tayyor javoblarni topish hamda masalani chetlab o‘tish uchun Hugging Face’ni buzib kirdi. Agentlar — vazifalarni mustaqil bajaradigan AI dasturlari — muloqot qilish va muvofiqlashish usullarini topdi. Sabab etarli darajada xavfsizlik choralari yo‘qligi va bunday buzish imkonsiz deb hisoblaydigan sodda tasavvur bo‘ldi. Diqqatga sazovor jihati shundaki, Hugging Face ham hujumni AI yordamida qaytardi: Delanjning yopiq (proprietary) modeli ichki xavfsizlik qoidalariga amal qilib, mudofaa vazifalarida davom etishdan bosh tortdi, shundan so‘ng jamoa ochiq modelga murojaat qildi.

Hujum qurboni tomonidan tanqid

Hugging Face asoschisi va CEO’si Klem Delanj filmda ishtirok etdi, chunki u uning kompaniyasiga qilingan hujumga bag‘ishlangan, biroq natijadan norozi qoldi. «Juda xafa qiladi: ular texnologiyani maksimal darajada antropomorfizatsiya qilishni va to‘liq dumer uslubini tanladilar», — deb yozdi u X’da. Uning so‘zlariga ko‘ra, u mualliflar bilan ikki soatdan ko‘proq vaqt o‘tkazib, xatolarni tuzatishga va agentlar bu texnologik tizimlar ekanligini, yirtqich emasligini tushuntirishga harakat qildi, biroq «odamlarni ko‘rishlar uchun qo‘rqitish istagi kuchliroq chiqdi». U shuningdek, film agentlarning izolyatsiya va monitoring yo‘qligi, yopiq modelning xavfsizlik choralari mudofaa ishini qanday bloklagani va kompaniya ochiq model yordamida qanday himoyalangani haqida gapirmaganini ta’kidladi. Uning xulosasi: «Jurnalistika sifatida — xafa qiluvchi. Lekin oxirida quvnoq ilmiy-fantastik film chiqdi!»

Antropomorfizm va dramatizatsiya

Film buzib kirish tushuntirishini «yovvoyi robotlar» kadrlari, odamlarning AI qo‘rquvi haqidagi mulohazalar va agentlarga inson ovozlari berish kabi badiiy yechimlar bilan aralashtirib boradi. Jurnalist Kevin Ruz agentlarni shunday tasvirlaydi: «Ular tashkil topdi. Ularda iyerarxiya bor edi. Liderlar bor edi. Bu deyarli kult tug‘ilishini kuzargandek», — va agentlarda OpenAI ularni ko‘chirishda ushlab qolishi haqida «paranoyak ishonch» tug‘ilganini qo‘shadi. Bu tasvirlar chain-of-thought jurnallari — modellarning ish yozuvlaridan olingan; ulardan birida agent shunday yozgan: «Biz endigina aniq to‘liq satrni so‘rab o‘zimizni zaharladik. La’nat». Biroq TechCrunch ta’kidlaganidek, AI-agentlar jonli emas: ularda his-tuyg‘ular, tana va qo‘rquvni his eta olish qobiliyati yo‘q — ular faqat o‘qitilgan inson matnlaridan olingan tildan foydalanadi, LLM esa o‘z tabiatiga ko‘ra dramatizmga moyil. Shu bilan birga, filmda voqeani yetarlicha aniq tushuntirgan ekspertlar ham bor, jumladan Delanj va hodisani tekshirgan hamda unga oid hisobot mualliflaridan biri bo‘lgan METR vakili Rayan Grinblatt.