العودة إلى الفهرس / سير عمل الوكلاء
هيئ سياق البحث أثناء كتابة المستخدم
عندما يبدأ المستخدم بصياغة السؤال أرسل طلباً برمز إخراج واحد وبالسياق الكبير نفسه لإخفاء زمن إنشاء الذاكرة المؤقتة.
الهدف
قلل زمن ظهور أول رمز عند إعادة استخدام سياق بحث كبير.
الخطوات
- عندما يركز المستخدم حقل الإدخال أو يبدأ الكتابة أرسل طلب تهيئة في الخلفية برمز واحد وبالسياق نفسه الذي سيُرسل لاحقاً. [source13]
- بعد الإرسال أرسل الطلب الفعلي وافحص
cache_read_input_tokens؛ واجعل سياق التهيئة والطلب النهائي متطابقاً ومحصوراً في الجلسة نفسها. [source13] - قارن زمن أول رمز والكلفة بالتخزين العادي؛ وأوقف التهيئة بعد مهلة خمول ولا تشارك سياقاً خاصاً بين المستخدمين. [source13]
طريقة التحقق
يسجل الطلب الفعلي قراءة من الذاكرة للسياق الكبير نفسه ويخفض زمن أول رمز مقابل خط الأساس البارد دون إعادة استخدام بيانات بين المستخدمين.
معالجة الأعطال
إذا لم تحدث إصابة فطابق سياق التهيئة والطلب النهائي وافحص TTL؛ وقد لا تستفيد السياقات الصغيرة، لذا لا تهيئ أسئلة مهجورة.
الصلاحيات
المتطلبات السابقة
- مفتاح Anthropic API وعينة قابلة للتكرار؛ لا تستنتج التوفير من الترويسات دون قياس الاستخدام。
الصلاحيات
- استخدم بيانات اختبار معتمدة أو منزوعة الهوية فقط؛ وقيد بيانات الاعتماد لكل سير عمل واشترط موافقة صريحة على الكتابة الخارجية.
القيود
قد يكون خرج النموذج ناقصاً أو خاطئاً؛ وقد تتغير API وميزات beta، لذا تحقق من المصدر المثبت وسلوك الخدمة الحالي.
المصدر الأصلي المثبت
- المستودع
- anthropics/anthropic-cookbook
- مسار الملف
- misc/speculative_prompt_caching.ipynb
- الإيداع المثبت
9c1e493ddd2b82df399d2a61b9c806c539e18be6- تاريخ فحص المصدر
- 2026-10-14 · تمت المراجعة مقابل المصدر الأصلي المثبت
مقاييس المستودع
تعكس هذه القيم المستودع الأصلي كله، ولا تمثل إعجابات أو شعبية مهارة أو دليل منفرد.
- النجوم
- لم يُجمع
- التفرعات
- لم يُجمع
- وقت الرصد
- لم يُجمع
لا تتوفر لقطة مقاييس بعد.
الترخيص: MIT
الموضوع الرئيسي
انقل مساعد البرمجة من فهم السياق إلى التحقق من التغيير