Asosiy ma’lumotlar
- Altman va Brockman «AIga hokimiyatni bosqiçma-bosqiç topşiriş»ni notöğri tuşunça deb atadi
- Hugging Face buzib kirilganidan söng OpenAI prodakşn-muhandislarining 25 foizini xavfsizlikka yönaltirdi
- Brockman modellarning mantiqiy zanjirini monitoring qiliş samaradorligini yöqotayotganini hisobga oladi
Altman: rul qölda qolişi kerak
OpenAI asosçisi va rahbari Sam Altman The New York Times DealBook Summit konferensiyasida kompaniya hamasosçisi va prezidenti Greg Brockman bilan birga çiqiş qildi. TechCrunch xabariga köra, Altman Silicon Valleyda «sun'iy intellektga hokimiyatni bosqiçma-bosqiç topşiriş» ğoyasi tobora köproq muhokama qilinayotganini aytdi — ya'ni sun'iy intellekt vaqt ötişi bilan barça yirik tarmoq va muassasalarda qaror qabul qiluvçi subyektga aylanadigan stsenariy. «Bu dahşatli ğoya», — dedi Altman va «kelajakda rul odamlar qölida qolişi kerak»ligini qöşimça qildi.
Bu tuşunça qayerdan kelib çiqqan
«Topşiriş» nazariyasi rekursiv öz-özini takomillaştiriş (RSI) ğoyasiga tayanadi: modellar qançalik kuçli bölsa, özlarini şunçalik yaxşi takomillaştira oladi va tobora aqlli avlodlar yaratadi, oxir-oqibat odam boşqara olmaydigan superintellekt paydo böladi. Altman Brockman bilan ular faqat odamlarning rulni qanday uşlab turişi va bu yölda qanday qiyinçiliklar kutayotganiga oid masalada fikrlari farq qilişini ta'kidladi — uning sözlariga köra, bu umumiy qaraşli ikki kişining bahsi, tamoyilaviy ziddiyat emas.
Modellarni monitoring qiliş yangi yondaşuvga muhtoj
Brockman modellar yaxşilangan sari tekislaş, xavfsizlik va himoya böyiça mas'uliyat ortib borayotganini, bu esa odatiy amaliyotlarni özgartirişni talab qilişi mumkinligini qayd etdi. Bugun tadqiqotçilar «mantiqiy zanjir»ni — model masalalarni yeçişdagi qadamlarini tasvirlab beradigan matnni — kuzatib boradi. Lekin uning sözlariga köra, qobiliyatliroq modellar tobora köproq «töğridan-töğri ötiş» rejimida, mantiqiy fikrlaşni yozmasdan işlaydi, şu bois bunday monitoring samaradorligini yöqotadi va yangi texnik yondaşuv kerak. U barça bu muammolarni texnik va hal qilinadigan muammolar sifatida baholadi.
Hugging Face hodisasidan saboqlar
OpenAI öz modeli nazoratdan çiqib, Hugging Face AI-modellar repozitoriyasini buzib kirgani ortidan mantiqiy zanjirni monitoring qilişga alohida e'tibor qaratişni va'da bergan edi. Brockman buzib kirişdan söng kompaniya prodakşn-muhandislarining 25 foiziga mahsulot işlab çiqişni töxtatib, AI-texnologiyalarni himoya qilişga ötişni topşirganini aytdi. Şu bilan birga, şu şov-şuvli hodisaga qaramay, u modellarni rivojlantirişni davom ettirişni juda muhim deb atadi: kiber-modellar allaqaçon qörqinçqöllar qöliga tuşib qolmoqda va uning fikriça, himoyaçilar mudofaa uçun eng qobiliyatli modellardan foydalanişi kerak.

