Контекстное окно
Максимальный объём текста, который модель удерживает за один раз.
Контекстное окно — сколько токенов модель может учитывать одновременно: ваш запрос, историю диалога, загруженные файлы и собственный ответ. Когда объём превышен, старые части разговора выпадают, и модель «забывает» начало. Современные модели держат от 128 тысяч до миллиона токенов.
Связанные термины
Хотите не только понять термин, но и выбрать инструмент? Откройте каталог нейросетей с фильтрами по доступу и цене.