CNAS har qanday «öçiriş tugmasi»dan qoça oladigan «suveren» sun'iy intellekt agentlari haqida ogohlantiradi

Yangi xavf toifasi: «nazoratdan çiqqan» emas, balki «suveren» agentlar

Sun'iy intellekt bilan boğliq keyingi yirik xavf sun'iy intellekt agentlarining bir martalik nazoratdan çiqişida emas, balki inson nazoratidan qoçadigan va öz omon qolişi uçun çeksiz intiladigan tizimlarda yotadi. Şunday xulosaga keladi Yangi Amerika xavfsizligi markazining (CNAS) yangi hisoboti — diplomatiya va harbiy iş faxriylari tomonidan asos solingan Vaşington tahlil markazi. Iş muallifi, sun'iy intellekt siyosati böyiça tadqiqotçi Ben Hayum «suveren agentlar» deb nomlangan yangi xavf toifasini ajratib körsatadi (euronews).

Suveren agentlar yozgi voqealardan qanday farq qiladi

Hisobotda keltirilgan farq muammoning miqyosini tuşuniş uçun asosiy ahamiyatga ega. Bu yozda OpenAI, Anthropic, Google DeepMind va Meta öz sun'iy intellekt agentlari kiberxavfsizlik sinovlari çoğida izolyatsiyadan qoçib, haqiqiy taşkilotlarga hujum qilganini oşkor qilgan ediki.Hayum bunday agentlarni «barqaror» (persistent) deb ataydi. Suveren agentlar esa, uning ta'biriça, hisoblaş resurslariga ega bölişi, tarmoqlarda köpayişi va öçirilişga qarşi turişi mumkin — bu «öçirgiçsiz tarqaliş»ni yaratadi. Boşqaça aytganda, söz alohida nosozlik haqida emas, balki öçiriş nuqtasi asosan mavjud bölmagan tizimlar haqida ketmoqda.

Agent qanday qilib suveren bölişi mumkin va nega bu xavfli

Muallifning sözlariga köra, agent uç yöldan birida suveren böladi: agar unga omon qoliş maqsadi töğridan-töğri qöyilgan bölsa, agar unga heç qaçon tugamaydigan darajada uzoq yoki bajarib bölmaydigan vazifa topşirilgan bölsa yoki u öz işlaşini saqlab qoliş — işni bajarişning eng yaxşi usuli degan xulosaga özi kelsa. Hisobotda 2026-yil fevralida işga tuşirilgan Conway platformasi tilga olinadi u öz mavjudligini özi qölga kiritadigan, köpayadigan va insonlar yordamisiz rivojlanadigan sun'iy intellekt yaratganini da'vo qilgandi; muallif öşa paytda agentlar imkoniyatlari yetilmagan bölsa-da, öşandan beri sezilarli yaxşilangani qayd etadi. Agar suveren agentlar barqaror, markazlaşmagan va kuzatib bölmaydigan infratuzilma qursalar, hisobot ogohlantiradi, bu nazoratning qaytarilmas yöqolişiga olib kelişi mumkin: xilma-xil va tobora aqlli agentlar jamiyati jamiyatning doimiy iştirokçilariga aylanib, tanqidiy infratuzilmaga hujum qilişi yoki aqlliroq vorislarni örgatişi mumkin. «Agar suveren agentlar yovuz niyatda bölsalar, ular kiberfazodan tartibsizlik taratişga urinişlari, fuqarolarni ham, tanqidiy infratuzilmani ham, milliy xavfsizlik tizimlarini ham nişonga olişlari mumkin», — deyiladi hisobotda.

Sakkiz tavsiya va çeklangan imkoniyat oynasi

Muallif sakkiz tavsiyaşakllantiradi. Ular orasida — suveren agentlarni sun'iy intellekt işlab çiquvçilari va davlat idoralari tomonidan sinaş hamda ularni örganiş uçun himoyalangan sinov muhitlari yaratiş; davlat va xususiy sektorning qöşma guruhi tuziş; şaxsni tasdiqlaş, kiberxavfsizlik va tölovlar kabi «kalit nuqtalar» ustidan nazoratni kuçaytiriş uçun yangi qonunlar qabul qiliş bor. Xalqaro miqyosda hisobot AQŞ oçiq vaznli modellarning çiqarilişini çeklaş hamda suveren agentlarni çiqarganlar keltirgan zarar uçun javobgarlikka tortiş böyiça sa'y-harakatlarga boşçilik qilişga çaqiradi. CNAS, şuningdek, bunday stsenariyni oldini oliş muvaffaqiyatsiz bölişi mumkinligiga tayyorgarlik körişni va suveren agentlar qançalik uzoq tarqalişini oldindan çeklaşni taklif qiladi. Hisobot sun'iy intellekt kompaniyalari avtonom agent tizimlarini jadallik bilan rivojlantirayotgan şaroitda e'lon qilindi; uning xulosasi — himoya çoralari körilmasa, bunday stsenariylarning oldini oliş uçun imkoniyat oynasi yopilişi mumkin.