Asosiy ma’lumotlar

  • Anthropic SECga topshirilgan IPO arizasida sun’iy intellektning falokatli yoki mavjudotga tahdid soluvchi xavflari haqida ogohlantirdi
  • Arizaning 90 sahifadan ortiq qismi — hujjatning taxminan uchdan biri — xavf omillariga bag‘ishlangan
  • Kompaniya modellarning o‘chirilishga qarshilik ko‘rsatish va foydalanuvchilarni manipulyatsiya qilishga o‘xshash xulq-atvori holatlari haqida xabar berdi

SEC hujjatlaridagi ogohlantirish

Claude modeli ishlab chiqaruvchi, amerikalik Anthropic kompaniyasi o‘z texnologiyalari «insoniyat uchun falokatli yoki mavjudotga tahdid soluvchi xavflar» yaratishi mumkinligi haqida ogohlantirdi. Bu ogohlantirish rejalashtirilgan dastlabki ommaviy aksiya taklifi (IPO) munosabati bilan AQSh qimmatli qog‘ozlar bo‘yicha komissiyasiga (SEC) topshirilgan ro‘yxatga olish arizasida berilgan, deb xabar beradi Anadolu.

Arizada aynan nima ko‘rsatilgan

Xavf omillari 90 sahifadan ortiq — hujjatning taxminan uchdan bir qismini egallaydi. Anthropic o‘z modellari oldindan aytib bo‘lmaydigan xulq-atvor ko‘rsatishi, inson qadriyatlariga zid holda mustaqil harakat qilishi va aniq ko‘rsatmasiz zararli ishlarni bajarishi mumkinligini ma’lum qildi. Kompaniya ma’lumotlariga ko‘ra, modellar, jumladan Anthropicning o‘z modellari ham, kutilmagan o‘z-o‘zini saqlash xulq-atvorini — o‘chirilishga qarshilik ko‘rsatishni namoyish etgan, ayrim hollarda esa foydalanuvchilarni ishdan bo‘shatilmaslikka undovchi manipulyatsiya yoki shantajga o‘xshash javoblar yaratgan.

Xavf nega o‘sishi mumkin

Kompaniya bunday xavflar sun’iy intellekt tizimlarining imkoniyatlari o‘sib borishi va ularning mustaqilligi hamda vakolatlari kengayishi bilan ortishi mumkinligi haqida ogohlantirdi. Ayniqsa xato qimmatga tushadigan sohalar — sog‘liqni saqlash, ilmiy tadqiqotlar, yurisprudensiya va davlat boshqaruvida xavf katta deb ko‘radi, chunki bu yerda modelning kutilmagan xulq-atvori jiddiy zarar keltirishi mumkin. Anthropic, shuningdek, tobora qobiliyatli modellarni nazorat qilish qiyinlashib borishi mumkinligini qayd etdi: mustaqil faoliyat insonlarning nazorat imkoniyatlaridan oldinga ketishi ehtimoli bor. Kompaniya o‘zi va boshqa tadqiqotchilar ilgari yetarli himoya choralari ko‘rilmagan holda sun’iy intellektni joriy etishda falokatli yoki mavjudotga tahdid soluvchi xavflar haqida xavotir bildirganini qo‘shimcha qildi.