OpenAI atrofidagi matematiklar nizosi sun’iy intellektning ilm-fan uchun xavflarini oshkor qildi

Asosiy ma’lumotlar

OpenAI Navye–Stoks masalasini 88 soatda yechganini ma’lum qildi; NYU matematigi kompaniya uning qoralamalaridan foydalanmaganligiga shubha bildirdi
OpenAI Navye–Stoks masalasini 88 soatda yechgani haqida bayonot berdi; NYU matematigi kompaniya uning qoralamalaridan foydalanmaganligiga shubha bildirdi
Kompyuter fanlari konferensiyalaridagi taqriz matnlarining 17 foizgacha qismi til modeli tomonidan sezilarli darajada qayta yozilgan
O‘tgan yil ilmiy ishlarda taxminan 147 000 mavjud bo‘lmagan tadqiqotga iqtibos keltirilgan
O‘tgan yili ilmiy ishlarda taxminan 147 000 mavjud bo‘lmagan (fantoma) tadqiqot iqtibos keltirilgan

Navye–Stoks tenglamalari atrofidagi bahs

Matematiklar o‘rtasidagi nizo BBC uchun BBC InDepth kengroq muammoni tahlil qilishga sabab bo‘ldi: sun’iy intellektdan foydalanish ilmiy jarayonga bo‘lgan ishonchga qanday ta’sir qiladi. O‘tgan oy OpenAI o‘zining sun’iy intellekt agentlari 88 soatda matematikadagi eng katta yechilmagan masalalardan biri — Navye–Stoks tenglamalari bilan bog‘liq masalani yechganini e’lon qildi. Masala yechimi uchun mukofot ta’sis etgan tashkilot masala «aytilgandek, yechilgan», biroq tekshirish vaqt talab qilishini ma’lum qildi.

Ayblanishlar va OpenAI javobi

E’londan bir necha soat oldin Nyu-York universiteti matematigi Tristan Bakmaster xavotirlarini bildirdi. U kunduzi raqobatchi Anthropic kompaniyasida ishlagan Levent Alpyoge bilan birga xuddi shu maqsadda mustaqil ravishda ishlayotgan edi va qoralamalarini OpenAI Codex vositasida saqlab qo‘ygan edi. Bakmaster aytishicha, uning hammuallifiga ularning yutuqlari haqidagi yangiliklar OpenAI «qulog‘iga yetganligi» aytilgan — qanday yo‘l bilan, u aniqlamagan. U Codexda saqlangan tadqiqotlari OpenAI ishiga tushib qolishi mumkinmi, deb so‘radi, shu bilan birga «hech kimni hech narsada ayblamayman», deb ta’kidladi. OpenAI javoban kompaniyada hech kim — na odam, na sun’iy intellekt — e’lon qilinishidan oldin boshqa jamoalarning ishi bilan tanishmaganini aytdi. Dastlab kompaniya o‘z mahsulotlaridan foydalanish natijasida olingan anonimlashtirilgan ma’lumotlar modellarni yaxshilashga yordam bergan bo‘lishi «istisno qilinmasligini», garchi bu ehtimoldan uzoq bo‘lsa ham, bildirdi, biroq bir necha kun o‘tib Bakmasterning e’londan ikki oy oldin Codexga yuborgan so‘rovlari «tizimga hech qanday tarzda ta’sir qilishi mumkin emasligi» haqida xabar berdi. BBC ta’kidlaganidek, aslida nima sodir bo‘lgani oxirigacha noma’lum.

Soxta iqtiboslar va «tadqiqot chiqindilari»

Katta bahslardan tashqari, jimroq xavf ham bor: ilmiy jurnallarni sun’iy intellekt «chiqindilari» deb ataladigan narsa bilan ifloslanishi, ya’ni matnlarni olimlar emas, mashinalar yozib, soxta havolalar va mavjud bo‘lmagan maqolalar paydo qilishi. 2024-yilda Gent universiteti professori Dmitriy Kobak jamoasi milliondan ortiq biotibbiy ishni til modellariga xos iboralar bo‘yicha tahlil qildi: o‘tgan yil dekabriga kelib ularning deyarli 90 foizida sun’iy intellekt izlari topildi. Aniqlovchi vositalar mukammal emas — ayrimlari XVIII asrga oid AQSh Konstitutsiyasi matnini «sun’iy intellekt tomonidan yaratilgan» deb belgilab qo‘ygan, biroq Kobakning o‘zi Nature jurnaliga aytishicha, miqyosdan hayron qolgan. Vaysin Lyan va Jeyms Zou boshchiligidagi Stenford universiteti jamoasi kompyuter fanlari bo‘yicha yirik to‘rtta konferensiyadagi taqriz matnlarining 17 foizgacha qismi til modeli tomonidan sezilarli darajada qayta yozilganini aniqladi. Cornell universiteti tadqiqotchilari esa adabiyotlar ro‘yxatini tuzishda sun’iy intellekt mavjud bo‘lmagan ishlarni o‘ylab topganini ma’lum qildi: o‘tgan yil ilmiy ishlarda taxminan 147 000 fantom tadqiqotga iqtibos keltirilgan.

DeepMind natijalarining yangiligi haqidagi bahs

Haqiqiy ilm-fan ham ortiqcha bo‘lib yoki kattalashtirib taqdim etilishi mumkin. 200 million oqsil tuzilishini bashorat qilgan — laboratoriyalarda bunga yuz millionlab yillar ketishi mumkin bo‘lgan ish — AlphaFold muvaffaqiyatidan so‘ng DeepMind yangi materiallar tuzilishini bashorat qilishga o‘tib, ikki milliondan ortiq yangi kristall tuzilmani «deyarli 800 yillik bilim» sifatida e’lon qildi. Kaliforniya universiteti kimyogarlari Entoni Chitam va Ram Seshadri tasodifiy tanlama tekshirib, Chemistry of Materials jurnalida «hali bitta ham o‘ta yangi birikma topmaganliklarini», ko‘plab birikmalarni «ma’lum materiallarning oddiy variantlari» deb ataganlarini yozdi. DeepMind bu ayblanishlarni rad etib, har bir birikmani yangilik bo‘yicha tekshirganini ko‘rsatdi: bitta atomni almashtirish — bugungi kunda foydali bo‘lgan ko‘plab materiallar shu tarzda paydo bo‘lgan. Ularning xulosasi uslub noto‘g‘ri ekanligi haqida emas, balki natijalarni odamlar tomonidan batafsilroq tekshirish kerakligi haqida edi.

Nashriyotlar choralari va sun’iy intellekt foydasiga dalil

Ilmiy nashrlarning bir qismi allaqachon munosabat bildirmoqda. Elsevier tadqiqotlar axloqiyati bo‘yicha jamoasi maqola qo‘shimcha inson tekshiruviga yuboriladigan 100 ga yaqin signal ishlab chiqdi; Nature jurnallari sun’iy intellekt yordamida yaratilgan tasvirlarni taqiqlaydi va taqrizchilarga qo‘lyozmalarni SI tizimlariga yuklamaslikni buyuradi; arXiv esa o‘ylab topilgan havolalar uchun mualliflarni bir yilga bloklaydi. Elsevier vitse-prezidenti Sara Meyn «tadqiqot darajasidagi SI», ya’ni «rulda tadqiqotchi turadigan» tizim haqida gapiradi. DeepMind ilmiy yo‘nalish rahbari Pushmit Koli SI dan voz kechishni yechim deb hisoblamaydi — uning so‘zlarida, bu «kalkulyatorsiz hisoblash kerak deyishga o‘xshaydi» — lekin inson nazorati zarurligini tan oladi: «Agentlar bugun mukammal emas. Biror kishi javobgarlikni o‘z zimmasiga olishi kerak». Mas’uliyatli qo‘llash misoli — Vena biotsentridagi Andrea Pauli laboratoriyasi bo‘lib, u deyarli o‘n yil davomida urug‘ hujayrasi tuxumhujayraga qanday kirishini aniqlash ustida ishladi va SI yordamida daniyo baliqlari tuxumhujayralari yuzasidagi «qulf va kalit» mexanizmidan darak beradigan oqsilni topdi. Londonlik Basecamp Research asoschisi Oliver Vins, biologiya «tilida gaplashadigan» SI uchun DNK yig‘adigan mutaxassis, o‘zi boshidan kechirgan leykemiya ortidan rakni davolashda katta imkoniyatga ega tizim yaratishni maqsad qilgan: «Bizda rakni davolashga olib boradigan texnik jihatdan amalga oshiriladigan yo‘l bor». Bu va’da emas, BBC ta’kidlaydi, balki yo‘nalish — va ochiq savol shundaki, SI fanni bu maqsadga yetkadirimi yoki sezilmay uning poydevorini yemiradimi.