ارسم العملية كاملة
قد يضم طلب واحد فحص الوصول والاسترجاع والترتيب وعدة نداءات للنموذج وأداة أعمال. مثّل هذه الخطوات كمقاطع في أثر واحد حتى تنسب التأخير إلى المزود أو الفهرس أو الأداة بدلاً من وصف عام بأن الذكاء الاصطناعي بطيء.
سجل اسم الخدمة والعملية والنموذج وإصداره وإعدادات التوليد وعدد الرموز والحالة ورمز الخطأ، واستخدم معرفات مستعارة للمستخدم والمشروع.
أبق المحتوى خارج السجل افتراضياً
قد تحتوي المطالبات والإجابات والوثائق المسترجعة على أسرار تجارية أو بيانات شخصية أو مفاتيح. يجب أن تحتفظ القياسات افتراضياً بالأحجام والبصمات والتصنيف والمراجع المحمية بدلاً من النص الكامل. لا يُفعّل تسجيل المحتوى إلا لاختبار مضبوط أو تحقيق بصلاحيات ومدة احتفاظ منفصلتين.
يجب تنفيذ التصفية قبل إرسال البيانات إلى المجمع؛ فالإخفاء بعد وصول النص إلى سجل مشترك لا يلغي التسريب.
اجمع الموثوقية والجودة والتكلفة
يشمل الحد التقني زمن أول رمز والمدة والأخطاء والمحاولات وطول الطابور وتشبع GPU. وتضيف إشارات التطبيق نجاح الاسترجاع وصحة الاستشهاد ورفض السياسة ونتيجة الموافقة والنتيجة التجارية.
وزع التكلفة حسب الطلب والمستخدم والفريق وحالة الاستخدام، وراقب القيم المتطرفة مثل حلقات الوكيل والسياق غير المعتاد والارتفاع المفاجئ في استدعاء الأدوات.
اجعل القياس جزءاً من القبول
لا تطلق نموذجاً أو مزوداً جديداً قبل مقارنة التأخير والجودة والتكلفة على مجموعة واحدة. اربط لوحة المتابعة إصدارات التطبيق والمطالبة والفهرس والنموذج كي يكون للتراجع سبب قابل للاختبار.
ينبغي أن يؤدي التنبيه إلى إجراء: تعطيل أداة أو تغيير المسار أو خفض التزامن أو استعادة الإعداد السابق. قيمة المراقبة في احتواء الحادث لا في إنشاء مخزن سجلات آخر.