Kontextové okno (context window)

Kontextové okno je maximálne množstvo textu, meraného v tokenoch, ktoré jazykový model dokáže naraz „vidieť“ a zohľadniť pri generovaní odpovede – vrátane celej histórie konverzácie, priložených dokumentov aj systémových inštrukcií. Väčšie kontextové okno umožňuje modelu pracovať s dlhšími dokumentmi, celými knihami alebo rozsiahlymi kódovými bázami bez straty dôležitých informácií zo začiatku textu. Ak zadanie presiahne veľkosť kontextového okna, model staršie časti konverzácie „zabudne“.