دليل الدخل بالوكلاءموارد عامة مجانية
中文 EN العربية

العودة إلى الفهرس / سير عمل الوكلاء

هيئ سياق البحث أثناء كتابة المستخدم

عندما يبدأ المستخدم بصياغة السؤال أرسل طلباً برمز إخراج واحد وبالسياق الكبير نفسه لإخفاء زمن إنشاء الذاكرة المؤقتة.

الهدف

قلل زمن ظهور أول رمز عند إعادة استخدام سياق بحث كبير.

الخطوات

  1. عندما يركز المستخدم حقل الإدخال أو يبدأ الكتابة أرسل طلب تهيئة في الخلفية برمز واحد وبالسياق نفسه الذي سيُرسل لاحقاً. [source13]
  2. بعد الإرسال أرسل الطلب الفعلي وافحص cache_read_input_tokens؛ واجعل سياق التهيئة والطلب النهائي متطابقاً ومحصوراً في الجلسة نفسها. [source13]
  3. قارن زمن أول رمز والكلفة بالتخزين العادي؛ وأوقف التهيئة بعد مهلة خمول ولا تشارك سياقاً خاصاً بين المستخدمين. [source13]

طريقة التحقق

يسجل الطلب الفعلي قراءة من الذاكرة للسياق الكبير نفسه ويخفض زمن أول رمز مقابل خط الأساس البارد دون إعادة استخدام بيانات بين المستخدمين.

معالجة الأعطال

إذا لم تحدث إصابة فطابق سياق التهيئة والطلب النهائي وافحص TTL؛ وقد لا تستفيد السياقات الصغيرة، لذا لا تهيئ أسئلة مهجورة.

الصلاحيات

المتطلبات السابقة

الصلاحيات

القيود

قد يكون خرج النموذج ناقصاً أو خاطئاً؛ وقد تتغير API وميزات beta، لذا تحقق من المصدر المثبت وسلوك الخدمة الحالي.

المصدر الأصلي المثبت

https://github.com/anthropics/anthropic-cookbook/blob/9c1e493ddd2b82df399d2a61b9c806c539e18be6/misc/speculative_prompt_caching.ipynb

المستودع
anthropics/anthropic-cookbook
مسار الملف
misc/speculative_prompt_caching.ipynb
الإيداع المثبت
9c1e493ddd2b82df399d2a61b9c806c539e18be6
تاريخ فحص المصدر
2026-10-14 · تمت المراجعة مقابل المصدر الأصلي المثبت

مقاييس المستودع

تعكس هذه القيم المستودع الأصلي كله، ولا تمثل إعجابات أو شعبية مهارة أو دليل منفرد.

النجوم
لم يُجمع
التفرعات
لم يُجمع
وقت الرصد
لم يُجمع

لا تتوفر لقطة مقاييس بعد.

الترخيص: MIT

الموضوع الرئيسي

انقل مساعد البرمجة من فهم السياق إلى التحقق من التغيير

موارد ذات صلة