Промпт — это весь текст, который вы отправляете модели: вопрос, инструкции, приложенные данные, примеры. Модель видит его целиком и отвечает с опорой на него. Чем больше полезного контекста вы дадите, тем меньше модели приходится «додумывать».
У модели есть контекстное окно — ограничение на объём текста, который она может удержать за один раз (промпт плюс ответ). Если документ слишком большой, его придётся разбивать на части или просить краткое содержание по фрагментам. Объём измеряют в токенах: один токен — это примерно 3–4 символа для русского текста, то есть короткое слово или его часть.
Важно: модель по умолчанию не помнит прошлые чаты. В пределах одного диалога она опирается на предыдущие сообщения, но в новом диалоге начинает «с чистого листа». Поэтому ключевой контекст полезно повторять в самом запросе.