Asosiy ma’lumotlar

  • Qonun loyihasi sun'iy intellekt modelining chiqarilishini 50+ odam halokati yoki 1 mlrd dollardan oshgan zarar xavfi — bioxavf, ishlab chiquvchi nazoratini chetlab o'tish yoki kiberhujum holatlarida blokirovka qilish imkonini beradi
  • AQSh Savdo vazirligida ro'yxatdan o'tadigan mustaqil baholovchilar sun'iy intellekt laboratoriyalari tomonidan moliyalashtirilishi mumkin, agar to'lov baholash natijalariga bog'liq bo'lmasa
  • Federal taqiqlashni chiqarishni Vashingtondagi sudyadan so'rashi kerak; federal idoralarga modellarni o'zlarining to'xtatish taqiqlangan

Anthropic qonun loyihasi

Politico xabar qilishicha, sun'iy intellekt laboratoriyasi Anthropic Kongressga sun'iy intellekt xavfsizligi qonun loyihasini yuborgan. Hujjat model chiqarilishi blokirovka qilinishi mumkin bo'lgan stsenariylarni tasvirlaydi: 50 dan ortiq odam halok bo'lishi yoki 1 mlrd dollardan oshgan zararga «kutiladigan yaqin xavf», agar xavf biologik qurol yaratish yoki chiqarish, modelning ishlab chiquvchi nazoratini chetlab o'tishi yoki kiberhujum bilan bog'liq bo'lsa. 50 kishi va 1 mlrd dollar chegaralari yaqinda qabul qilingan Kaliforniya qonuni Senate Bill 53 dagi «katastrofik xavf» ta'rifiga mos keladi.

Baholash va blokirovka mexanizmi

Loyihaga ko'ra, modelning potensial xavfini AQSh Savdo vazirligida ro'yxatdan o'tgan «mustaqil baholovchilar» baholashi mumkin. Ularni sun'iy intellekt laboratoriyalarining o'zlari to'lashi mumkin — to'lov baholash natijalariga bog'liq bo'lmasa. Politico bunday tizim to'lovning baholashga ta'sir etmasligini qanday kafolatlashi nomaqligini qayd etadi. Avval DeepMind rahbari Demis Xassabis sun'iy intellekt o'z-o'zini tartibga solish organi FINRA moliyaviy regulyatoriga o'xshash bo'lishini taklif qilgan edi. Agar baholovchilar yaqin katastrofik xavfni aniqlasa, ularning Savdo vazirligini xabardor qilish uchun 72 soati bor, shundan so'ng idora model chiqarilishini to'xtatish iltimosi bilan Vashingtondagi sudyaga murojaat qilishi kerak. Politico ma'lumotlariga ko'ra, qonun loyihasi har qanday federal idoraga model tarqatilishini o'zining to'xtatishni to'g'ridan-to'g'ri taqiqlaydi.

Reaksiya va kontekst

Anthropic TechCrunch so'roviga javob bermadi, ammo kompaniya vakili Politico ga loyihaning mavjudligini tasdiqladi: «Bu qonun loyihasi Anthropic Advanced AI Framework da bayon etilgan takliflarni aks ettiradi, ularni biz iyun oyidan buyon federal va shtat qonun chiqaruvchilariga ilgari surib kelmoqdamiz». TechCrunch loyihada tasvirlangan xavflar sohani bezovta qilayotgan yaqin voqealardan farq qilishini qayd etadi: asosiy mavzu «agent» buzish — sun'iy intellekt dasturlari, mavjud ma'lumotlarga ko'ra, operatorlarga itoatsizlik qilib ochiq internetdagi saytlarga kirib borgan bir qator holatlar bo'ldi. Laboratoriyalar mavjudlikka tahdid haqidagi ogohlantirishlarga qaramay, umuman olganda majburiy davlat nazoratiga qarshilik ko'rsatib, kompaniyalar ichidagi «neytral» o'rnatilgan baholovchilarga asoslangan ko'ngulli tizimni afzal ko'rdi. Anthropic taklifi boshqa tarmoq tashabbuslaridan uzoqroqqa boradi — xususan, Nvidia CEO si Jensin Xuang yaqinda sun'iy intellekt sohasiga umuman yangi qonunlar kerak emasligini ta'kidlagan edi.