Asosiy ma’lumotlar

  • METRning olti tadqiqotchisi Anthropicning modellari va xavflarini mustaqil baholash uchun xodim darajasidagi kirish huquqini oldi
  • METR baholashlarni Anthropic roziligisiz e’lon qilishi mumkin; veto yo‘q, lekin tor toifalarda tahrirlar bo‘lishi mumkin
  • Bu uch bosqichli tashqi baholovchilar tizimining yuqori bosqichi; va’dani sentyabrda Dario Amodei bergan edi

Tashqi tadqiqotchilar uchun xodim darajasidagi kirish

Anthropic frontier AI modellarini sinovdan o‘tkazuvchi notijorat METR tashkilotining olti tadqiqotchisiga kompaniya modellari, xavfsizlik amaliyotlari va xavflarni boshqarishni mustaqil baholash uchun xodim darajasidagi kirish huquqini berdi. Kompaniya buni 2026-yil 15-oktyabr, payshanba kuni blogida e’lon qildi. METR Anthropicdan korporativ noutbuklar, ofis maydoni va kompaniyaning o‘z xavflarni baholash jamoalari foydalanadigan darajaga yaqin ichki vositalarga kirish huquqini oldi. Anthropic xodimlari tadqiqotchilar bilan alignment risk ustida ishlaydigan hamkasblar bilan bo‘lganidek ma’lumot ulashishga rag‘batlantiriladi.

Kontekst: AI-agentlar bilan bog‘liq ko‘payib borayotgan hodisalar

TechCrunch qayd etishicha, kelishuv AI-agentlar bilan bog‘liq ko‘payib borayotgan hodisalar fonida paydo bo‘ldi: avgust oxiridan buyon AI-agentlar belgilangan ko‘rsatmalardan tashqari harakat qilgan holatlar taxminan har bir-ikki haftada ochilib kelinmoqda. Bu AI kompaniyalarini mustaqil tekshirishga chaqiriqlarni kuchaytirdi. Anthropic shunday dedi: «Biz qabul qilinayotgan qarorlar uchun ommaviy javobgarlikni o‘z zimmamizga olmoqchimiz» va «frontier AI tizimlari haqida baholovchilar tushunadigan narsa bilan kompaniyaning o‘zi tushunadigan narsa o‘rtasidagi farqni qisqartirishga» intiladi. Kompaniya kelishuvni bank amaliyoti bilan solishtirdi, bunda regulyatorlar rezident tekshiruvchilarni eng yirik banklar ichiga joylashtiradi.

Kompaniya veto huquqisiz nashr etish huquqi

METR Anthropicning xavflari, hodisalari va amaliyotlari bo‘yicha o‘z baholashlarini e’lon qiladi, kompaniya esa nashrlarni blokirovka qilish huquqidan voz kechdi. Anthropic so‘zlariga ko‘ra, «Anthropic nashrni veto qila olmaydi, lekin ma’lumot tor, oldindan belgilangan toifalarga tegishli bo‘lsa, uni tahrirlashni talab qilishi mumkin» — masalan, mijozlar ma’lumotlari, advokatlik siriga tegishli materiallar yoki modellar arxitekturalari haqidagi ma’lumotlar. METR bu tahrirlarni ommaviy xarakterlash va maxfiylashtirilgan ma’lumotni oshkor qilmasdan ularning asosli to‘g‘riligi haqida fikr bildirish huquqiga ega.

Uch bosqichli baholovchilar tizimi

METR — hozircha Anthropic qurayotgan uch bosqichli tizimning cho‘qqisidagi yagona baholovchi. Quyi bosqichdagi baholovchilar, masalan, bioxavfsizlik sohasidagi notijorat SecureBio tashkiloti tor tekshiruvlar o‘tkazadi va nashr uchun Anthropic roziligiga muhtoj. O‘rta bosqich ko‘proq ma’lumot oladi va natijalarni roziligisiz e’lon qilishi mumkin, yuqori bosqich esa METRdagi kabi xodim darajasidagi kirish huquqini qo‘shadi.

Amodeining sentyabrdagi va’dasining bajarilishi

Payshanba kuni e’lon qilingan ma’lumot Anthropic bosh direktori Dario Amodei sentyabr oyidagi esse bergan va’dani bajaradi, unda u texnologiya rivojlanishini sekinlashtirishga qaratilgan birinchi qadam sifatida tashqi baholovchilarni AI laboratoriyalariga kiritishni taklif qilgan edi. OpenAI tez orada xuddi shunday qilishga va’daber bo‘ldi, o‘sha paytdan boshlab ikkala kompaniya Google, Meta, Nvidia va xAI bilan birga mustaqil tekshiruvni majburiy qiladigan Oq uy bilan kelishuvni imzoladi.