Asosiy ma’lumotlar

  • Google TorchTPU’ni open-source loyiha sifatida chiqardi — TPU chiplari uchun PyTorch bilan mos muhit
  • Amazon bir kun oldin Trainium chiplari uchun TorchNeuron’ni taqdim etdi va asosiy PyTorch’ga o‘zgartirishlar kiritmoqda
  • Ba‘zi baholarga ko‘ra, PyTorch AI-ilovlarning 85 foizida qo‘llanadi; ikkala kompaniya Nvidia pozitsiyalarini zaiflashtirishga intilmoqda

Google TorchTPU’ni chiqardi

Seshanba, 20-oktabr kuni Google TorchTPU — uzoq kutilgan PyTorch versiyasi — endi ochiq manba kodli loyiha sifatida mavjud ekanligini e’lon qildi. Bu qadam bilan Google AI sanoatida Nvidia hukmronligini zaiflashtirishga urinishda Amazon’ga qo‘shildi, bu sohada AI-ilovlarning aksariyati standart ravishda Nvidia chiplarida (GPU) ishlash uchun yoziladi.

Kontekst: PyTorch va Nvidia bilan aloqasi

PyTorch — AI-ilovlar ishlab chiquvchilari va startaplar modellarni yaratish, o‘qitish va ishga tushirish uchun foydalanadigan mashhur open-source vositalar to‘plami. Ba‘zi baholarga ko‘ra, u AI-ilovlarning 85 foizida qo‘llanadi. PyTorch 2016-yilda Meta (o‘sha paytda hali Facebook) tomonidan yaratilgan bo‘lib, o‘sha paytda Nvidia chiplari AI-tadqiqotlari uchun standart edi, shuning uchun kutubxonaning ko‘plab funksiyalari dastlab ular uchun ishlab chiqilgan. 2022-yilda Meta PyTorch’ni Linux Foundation jamg‘asiga topshirdi.

TorchTPU nima beradi

TorchTPU AI-ilovlarni Google chiplarida — Tensor Processing Units (TPU) — ishga tushirish imkonini beradi va mavjud PyTorch-ilovlarni TPU’ga, mos ravishda Google Cloud’ga ko‘chirishni soddalashtiradi. Dasturchilarga faqat konfiguratsiyani o‘zgartirish kifoya, ilovalarni qayta yozish shart emas.

Amazon javobi: TorchNeuron

Dushanba kuni Amazon o‘zining PyTorch versiyasi — TorchNeuron’ni taqdim etdi, u AI-ilovlarni o‘zining Trainium chipiga va AWS’ga ham kodni qayta yozmasdan ko‘chirish imkonini beradi. Amazon bundan ham uzoqroq borayotganini ma’lum qildi: kompaniya asosiy PyTorch loyihasiga turli funksiyalarni Nvidia chiplaridan ajratuvchi kod kiritmoqda, bu kutubxonani standart holda har qanday uskunaga ochiqroq qiladi.

Google o‘z pozitsiyasini qanday mustahkamlayapti

TechCrunch ma’lumotlariga ko‘ra, Google bir yo‘nalishda Amazon’dan ustun bo‘lishi mumkin: kompaniya TorchTPU funksiyalari va kutubxonalari mashhur ishlab chiqish vositalari bilan, asl PyTorch kabi to‘g‘ri ishlashi uchun Meta, Hugging Face, Inferact (vLLM ishlab chiquvchisi), RadixArk (SGLang ishlab chiquvchisi) va boshqalar bilan to‘g‘ridan-to‘g‘ri ishlaganini ma’lum qiladi. Bundan tashqari, Google o‘z chiplari va bulutiga ilovalarni ko‘chirish jarayonida xatolarni tuzatish bilan o‘z chiplari va bulutiga ko‘chirish uchun maxsus TPU agent suite vositalar to‘plamini ishga tushirdi, shuningdek, telefonlar, noutbuklar va ichki qurilmalarda AI ishga tushirish uchun LiteRT vositasini PyTorch-ilovlar bilan yaxshiroq ishlashi uchun yangiladi.

Ogohlantirish

TechCrunch ta’kidlaganidek, bularning barchasi AI-ilovlar ishlab chiquvchilari endi alternativ chiplar va bulutlarga o‘tish osonlashgani uchun avtomatik ravishda ommaviy ravishda Nvidia uskunalaridan voz kechishlarini anglatmaydi. Biroq Amazon va Google Nvidia’ning ustunligini bartaraf etish ustida aniq ishlamoqda.