اعتراض المحتوى أو تنقيحه في جلسة وكيل تفاعلية ثنائية الاتجاه

الهدف

أضف تصفية المحتوى وتنقيحه إلى التفاعل الحي كي لا يصل المحتوى المحظور إلى النموذج.

الخطوات

1. حدّد أجزاء المدخلات والمخرجات المطلوب فحصها وسياسة الحظر والتنبيه الظاهر للمستخدم. [live]
2. استخدم LlmAgent.before_model_callback أو after_model_callback أو callbacks المقابلة في BasePlugin وحدد شروط إرجاع LlmResponse بديل. [live]
3. أعد رداً بديلاً أو أنهِ الدور للمحتوى المخالف كي لا يرسل النص الأصلي لاحقاً. [live]
4. اختبر الحالات المسموحة والمنقحة والمرفوضة وتأكد من عدم نسخ callbacks للأسرار إلى السجلات. [live]

طريقة التحقق

لا تصل الأجزاء المحظورة إلى استدعاءات النموذج اللاحقة ويستمر المحتوى المسموح ولا تتضمن سجلات التدقيق حمولة حساسة أصلية.

معالجة الأعطال

إذا استمر الدور بعد الاستبدال، فتحقق من قيمة callback ودلالة الإنهاء؛ وعند تسرب السجل عطّل التصدير أولاً وأصلح التنقيح.