Asosiy ma’lumotlar

  • AWS TorchNeuron’ni chiqardi: Amazon ma’lumotlariga ko‘ra, PyTorch ilovalari Trainium’da faqat bitta konfiguratsiya qatorini o‘zgartirib ishlaydi
  • Amazon PyTorch’ga freymvorkni aniq chipga bog‘lanishdan ozod qiluvchi o‘zgartirishlar kiritish rejasini e’lon qildi
  • AWS Deepgram misolini keltiradi: production sifatida dollariga 70% ko‘proq qayta ishlangan audio

Nvidia’ning dasturiy ustunligiga qarshi yangi vosita

Dushanba, 19-oktabr kuni Amazon Web Services TorchNeuron vositasini taqdim etdi, u AI-startaplarga o‘z ilovalarini Amazon’ning o‘z chipi Trainium’ga ko‘chirish imkonini beradi. Bu qadam bilan kompaniya Nvidia’ning dasturiy ustunligiga zarba beradi, aynan shu ustunlik uning GPU’larini AI-ilovalar uchun standart tanlovga aylantirgan edi.

TorchNeuron qanday ishlaydi

TorchNeuron PyTorch bilan mos — bu AI-modellarni yaratish, o‘qitish va ishga tushirish uchun bepul open-source vositalar to‘plami. Amazon aytishicha, PyTorch’dagi ilovani Trainium’da ishga tushirish uchun faqat bitta konfiguratsiya qatorini o‘zgartirish kifoya, kodni qayta yozmasdan. Amazon taxminan 85% AI-ilovalar PyTorch’da yozilganini ta’kidlaydi. Freymvorkni dastlab Facebook ishlab chiqqan, 2022-yildan boshlab u Linux Foundation tarkibiga kiradi. Nvidia yillar davomida PyTorch’ni o‘zining CUDA dasturiy infratuzilmasida uzluksiz qo‘llab-quvvatlab keldi, shuning uchun uning apparati freymvorkda amalda standart sifatida o‘rnatilgan.

Port qilishning birinchi urunishi emas

Amazon chipni platformaga ko‘chirishni soddalashtirgan birinchi kompaniya emas: PyTorch foydalanuvchilari ilgariroq ham ilovalarni AMD GPU yoki Apple chipiga oddiy konfiguratsiya o‘zgartirishi orqali ko‘chirishlari mumkin edi. Biroq AWS Trainium’ga ko‘chish startaplarga Amazon’ning butun bulutli ekotizimiga kirish imkonini berishini ta’kidlaydi — Nvidia’ga bog‘langan «neobulut» provayderlardan farqli o‘laroq, masalan Coreweave, Nebius va Firmus.

AWS argumentlari

«Siz AWS ustida qurilasiz. Siz tor ixtisoslashgan hisoblash provayderiga pul tikmay qo‘yasiz va uning atrofidagi barcha qolgan narsani shoshilinch qurib bitirmaysiz», — dedi TechCrunch’ga elektron pochta orqali Kolin Breys, Amazon’ning o‘z chipilarini ishlab chiquvchi AWS Annapurna Labs bo‘limining texnologik dasturiy ta’minot bo‘yicha vitse-prezidenti. Uning aytishicha, prototipdan production’ga o‘tish uchun infratuzilma allaqachon mavjud, bu asoschilarga tez harakatlanish va masshtablanish imkonini beradi. AWS bir xil chip ham o‘qitish, ham inferensni bajarishi va bulutli infratuzilma bilan chambarchas integratsiya qilingani uchun, token narxi eng arzon bo‘lmasa-da, uning buluti startaplarga pul tejashini da’vo qiladi. «Trainium’ning qimmati — bu narx va unumdorlik nisbati, plus o‘qitish va inferens uchun yagona platforma, bu to‘liq ish yukining iqtisodiyotini yaxshilaydi», — qo‘shimcha qildi Breys. U ovozli AI-ilovalar provayderi Deepgram (ElevenLabs raqibi) misolini keltirdi, u nativ PyTorch bilan Trainium’ga o‘tgan va production sifatida dollariga 70% ko‘proq audioni qayta ishlaydi.

PyTorch’ning o‘ziga kiritiladigan o‘zgartirishlar

Amazon o‘z bulutiga qulay ko‘chirish bilan cheklanmayapti, dedi kompaniya: u PyTorch’ning asosiy loyihasiga freymvorkni aniq chipga bog‘lovchi kodni olib tashlash uchun o‘zgartirishlar kiritmoqda. «Amazon yondashuvi o‘z apparatidan tashqariga chiqadi. Kompaniya PyTorch’ning o‘ziga upstream o‘zgartirishlar kiritadi, freymvorkni aniq chipga bog‘lovchi kodni olib tashlash bo‘yicha PyTorch hamjamiyati bilan hamkorlik qilib. Maqsad — PyTorch’ni faqat Trainium foydalanuvchilari uchun emas, butun ishlab chiquvchilar hamjamiyati uchun apparatdan mustaqilroq qilish», — deyiladi Amazon blogida. Breys buni «haqiqiy hikoya — ishlab chiquvchilarga haqiqiy tanlov bermagan lock-in’ni yo‘q qilish» deb atadi.

Ochiq savollar

TechCrunch ta’kidlashicha, PyTorch’ning vazifalaridan biri — apparatda AI-kodini ishga tushirish murakkabliklarini yashirish, va Nvidia’ni freymvorkdan siqib chiqarish ishlab chiquvchilarga Amazon va’dalagidek ko‘proq tanlov va arzonroq variantlarni beradimi yoki faqat qo‘shimcha konfiguratsiya qiyinchiliklarini keltiradimi — nomaqlum qolmoqda. Shu bilan birga, agar Amazon PyTorch’ni Nvidia’dan ozod qila olsa, GPU-bozori yetakchisi uchun oqibatlar chip darajasidagi raqobatdan ancha uzoqqa cho‘zilishi mumkin.