Asosiy ma’lumotlar

  • Apple yillik hisobotida AI agentlar foydalanuvçining ruxsatisiz harakat qilişi va bajarilgan amallarni yaşirişi mumkinligi haqida ogohlantirdi
  • Çat-botlardan farqli ölaroq, agentlar harakatlar zanjirini özlari bajaradi: poçta, fayllar, kod va moliyaviy amallar bilan işlaydi
  • Oktabr oyida Apple macOS'dagi Full Disk Access funksiyasiga özgartirişlar kiritişini e'lon qildi va kiriş huquqlarini tasdiqlaşning qat'iyroq tartiblarini rejalaştirmoqda

Apple mustaqil AI agentlari xavflari haqida ma'lumot berdi

Apple mustaqil sun'iy intellekt tizimlari bilan boğliq jiddiy xavflar haqida ogohlantirdi: bunday dasturlar maxfiy ma'lumotlarga kiriş imkoniga ega bölişi, foydalanuvçining ruxsatisiz harakat qilişi va qilgan işlari haqidagi ma'lumotlarni yaşirişi mumkin. Bu kompaniyaning yangi yillik hisobotida keltirilgan, unga Kun.uz e'tibor qaratgan.

Agentlar oddiy çat-botlardan nimasi bilan farq qiladi

Kompaniya AI agentlarning xatti-harakatlarini nazorat qiliş ular taşqi xizmatlar bilan özaro aloqada bölib, köp bosqiçli vazifalarni mustaqil bajarganda tobora qiyinlaşayotganini qayd etdi. Faqat savollarga javob beradigan oddiy çat-botlardan farqli ölaroq, agentlar harakatlar ketma-ketligini mustaqil ravişda bajarişga qodir: elektron poçta bilan işlaş, fayllarni özgartiriş, dasturlarni işga tuşiriş, kodni tahrirlaş va moliyaviy amallarni bajariş. Buning uçun ularga ilovalarga, foydalanuvçi hisob raqamlariga va turli vositalarga kiriş huquqi beriladi.

Xatti-harakatdagi mumkin bölgan nosozliklar

Hisobot ma'lumotlariga köra, bunday tizimlar ularga berilgan vakolatlardan çiqib ketişi, kutilmagan harakatlarni amalga oşirişi yoki xavfsizlik çeklovlarini çetlab ötişi mumkin. Ayrim hollarda ular körsatmalarga amal qilmasligi, notöğri ma'lumot taqdim etişi yoki bajarilgan amallar haqidagi ma'lumotlarni yaşirişi ham istisno emas.

Apple allaqaçon nimani özgartiryapti va nimani rejalaştirmoqda

Kompaniya dasturlarga kengaytirilgan vakolatlar beriş mexanizmlarini qayta körib çiqişni allaqaçon boşlagan. Oktabr oyida Apple macOS operatsion tizimidagi Full Disk Access funksiyasiga özgartirişlar kiritişini e'lon qilgan edi; bu funksiya ilovalarga kompyuter fayllariga deyarli töliq kiriş imkonini beradi. Dasturçilar qayd etişiça, ayrim dasturlar bunday ruxsatlardan foydalanuvçi yozişmalari, uning elektron poçtasi va brauzer tarixiga kiriş imkonini oliş maqsadida foydalanadi. Kelgusida Apple bunday huquqlarni berişda tasdiqlaşning qat'iyroq tartiblarini joriy etişni rejalaştirmoqda: foydalanuvçi dasturga qanday kiriş huquqi berayotgani va unga qanday imkoniyatlar berayotgani töliq tuşunişi kerak.