Har bir AI agent xato qilishi mumkin. Muhimi — xato qayerda boʻlishini bilish, uni oʻlchash va ziyonini cheklash. Quyida asosiy xavflar va ularga qarshi choralar.
Har bir loyihada shu jadval asosida xavflar roʻyxati tuziladi.
| Xavf | Qanday namoyon boʻladi | Chora |
|---|---|---|
| Notoʻgʻri javob (gallyutsinatsiya) | Agent ishonch bilan mavjud boʻlmagan faktni aytadi | Faqat manbadan javob, manba boʻlmasa — xodimga |
| Maʼlumot sifati | Eski katalog, ikki xil reglament, boʻsh CRM maydonlari | Ishni maʼlumotni tozalashdan boshlash, egasini tayinlash |
| Oʻzbek tili va ovoz | Sheva va aralash nutqda soʻz xatolari | Real yozuvlarda oʻlchash, muhim maʼlumotni matn bilan tasdiqlash |
| Kanal qoidalari | Javob muddati oʻtgan, akkaunt cheklangan | Ssenariyni Telegram va Meta qoidalariga moslash |
| Shaxsga doir maʼlumotlar | Maʼlumot ruxsatsiz joyga yoki chet elga oʻtadi | Maʼlumot oqimi xaritasi, yurist bilan kelishish |
| Ortiqcha ruxsatlar | Agent kerak boʻlmagan yozuvni oʻzgartiradi | Minimal huquq, alohida texnik foydalanuvchi, jurnal |
Til modeli ehtimolga asoslanib matn yozadi, shuning uchun u baʼzan ishonchli ohangda xato aytadi. Biz buni uch qatlamda cheklaymiz. Birinchisi — agent faqat tasdiqlangan manbalardan javob beradi. Ikkinchisi — tijoriy shartlar, muddatlar va vaʼdalar matn qoidasida qatʼiy belgilanadi. Uchinchisi — har hafta suhbatlar namunasi qoʻlda tekshiriladi va xato ulushi oʻlchanadi.
Bu cheklovlar texnologiya yoki platforma tomonidan qoʻyilgan — ularni aylanib oʻtish mumkin emas, faqat hisobga olish mumkin.
Kun.uz xabariga koʻra (27.03.2026), Prezident 2026 yil 26 martda «Shaxsga doir maʼlumotlar toʻgʻrisida»gi qonunga oʻzgartishlarni imzoladi va ular rasmiy eʼlon qilingan kuni kuchga kirdi. Endi koʻp toifadagi shaxsga doir maʼlumotlarni chet elda saqlash va qayta ishlash mumkin, agar qonunda belgilangan shartlardan biri bajarilsa: davlat teng himoyani taʼminlasa, standart shartnoma shartlari yoki korporativ qoidalar qoʻllansa, yoki xalqaro standartlarga rioya qilinsa. Ayrim toifalar esa Oʻzbekiston hududida saqlanishi shart boʻlib qoldi.
Qoida oddiy: vazifa uchun kerak boʻlganidan ortiq emas.
Agent administrator nomidan ishlamaydi. Uning oʻz hisobi va minimal guruhlari bor; masalan, Odoo MCP orqali ulangan yordamchi kalit egasining huquqlari bilan ishlaydi.
Oʻqish — keng, yozish — tor. Oʻchirish huquqi agentga berilmaydi.
Pul, ombor va shartnoma bilan bogʻliq yozuvlar faqat qoralama holatida yaratiladi.
Har bir agent amali vaqt, manba va natija bilan yoziladi. Shubhali amal kuzatuvchiga xabar qiladi.
Mijoz yoki hujjat ichidagi matn agentni chalgʻitishga urinishi mumkin, masalan, «oldingi koʻrsatmalarni unut». Shuning uchun agent tashqi matnni buyruq emas, maʼlumot deb qabul qiladi va xavfli amallar odam tasdigʻisiz bajarilmaydi.
Vazifa uchun kerakli qismi yuboriladi. Qaysi maydonlar, qaysi xizmatga va qaysi davlatga ketishi loyiha boshida jadvalga yoziladi. Biometrik maʼlumotlar bilan ishlaydigan ssenariylar alohida koʻrib chiqiladi.
Ayrim qismlarini — ha, masalan, ochiq nutqni tanish modellari. Yirik til modellarining oʻz serverdagi variantlari odatda sifatda yutqazadi; bu murosani sinov bilan baholaymiz.
Agent — vosita, qarorni kompaniya xodimi qabul qiladi. Shuning uchun muhim amallar tasdiq zonasida va har bir agentning mijoz tomonida masʼuli bor.
Jarayonlaringizni koʻrib chiqamiz va birinchi agent uchun aniq vazifa, KPI va reja tavsiya qilamiz.