يُقصد بـ«تجاوز سعة السياق» الحالة التي يتم فيها إدخال كمية كبيرة جدًا من النص في مدخلات النموذج على أمل تحسين الإجابة. لكن في الواقع يحدث العكس. تعمل النماذج بشكل أكثر موثوقية مع المعلومات الموجودة في بداية ونهاية المدخلات، بينما تميل البيانات الموجودة في منتصف الكتلة الطويلة إلى أن تضيع. وفي الوقت نفسه، كلما زادت كمية النص، زاد خطر ظهور مقطع غير ذي صلة أو متناقض في الإجابة. لهذا التأثير نتيجة محددة على إنشاء المحتوى: يجب ألا تكون العبارة الرئيسية أو الرقم أو الشرط مخفية في منتصف فقرة طويلة، بل في مقدمة المقطع مباشرةً. وبالنسبة للشركات التي تبني حلولها الخاصة على أساس المستندات، فإن هذا يعني أن الاختيار الدقيق لعدد أقل من المقاطع يحقق نتائج أفضل من إدراج المستند بأكمله.
انظر أيضًا: استرجاع top-k، تقسيم المحتوى إلى مقاطع، التثبيت.
