
Projects в ChatGPT для контент-системы одного человека
Разбираем, как соло-эксперту организовать контент-систему в ChatGPT Projects: от идей и статей до соцсетей, обложек и публикаций.
Тема блога
Материалы о контексте AI ассистента и его влиянии на ответы. Разбираем системные инструкции, историю диалога, файлы, память, RAG, инструменты, runtime данные, контекстное окно и способы поддерживать релевантный контекст в длительной работе.
Материалы

Разбираем, как соло-эксперту организовать контент-систему в ChatGPT Projects: от идей и статей до соцсетей, обложек и публикаций.
Контекст ассистента представляет собой информацию, доступную AI системе в момент решения конкретной задачи. Именно на неё модель может опираться при интерпретации запроса и подготовке ответа.
В контекст могут входить текущий вопрос пользователя, предыдущие сообщения диалога, системные инструкции, правила конкретного ассистента, документы, файлы, результаты поиска, данные из подключённых сервисов, ответы инструментов и сведения о текущем состоянии приложения.
Такое понимание шире обычной истории чата.
Например, AI ассистент внутри облачной консоли может автоматически получать сведения о странице, открытом сервисе и выбранных ресурсах. В документации Yandex Cloud такой режим прямо называется контекстным: ассистент получает URL, тип страницы, название сервиса, идентификаторы ресурсов и другие данные, необходимые для более точного ответа по текущему окружению.
Контекст поэтому лучше рассматривать как временную рабочую среду модели, а не только как текст разговора.
На Vagizov.com эта taxonomy сейчас содержит один материал о Projects в ChatGPT для контент системы одного человека. В нём контекст рассматривается через практическую организацию проектов, инструкций, файлов и отдельных чатов. Родительская taxonomy «AI ассистенты» также содержит отдельную тему «Интерфейс ассистента». Поэтому страница «Контекст ассистента» должна раскрывать сам принцип формирования и управления контекстом, не повторяя пошаговый workflow ChatGPT Projects и не уходя в устройство интерфейса.
Эти понятия связаны, но не идентичны.
Контекстом можно назвать фактический набор информации, который система решила предоставить модели для текущей задачи.
Контекстное окно представляет собой технический предел объёма информации, который модель способна учитывать в одном цикле работы.
Документация Anthropic описывает context window как рабочую память модели для текущей генерации. В неё могут входить системная инструкция, сообщения, результаты инструментов, изображения и документы.
Поэтому большое контекстное окно лишь определяет потенциальную вместимость.
Оно не отвечает на вопрос, что именно следует туда помещать.
Правильно собранный короткий контекст может быть полезнее огромного массива документов, внутри которого важная информация теряется среди нерелевантного содержимого.
Контекст не следует смешивать с информацией, полученной моделью во время обучения.
Знания модели находятся в её параметрах.
Контекст передаётся во время конкретной работы.
Если модель знает общие принципы WordPress, это не означает, что она знает структуру конкретного сайта пользователя.
Чтобы работать с этим сайтом точнее, системе необходимо предоставить дополнительный контекст: структуру, инструкции, файлы, код, данные из CMS или другие материалы.
Так появляется важное различие.
Обучение формирует общие способности модели.
Контекст адаптирует эти способности к текущей задаче.
Удобно рассматривать несколько слоёв.
Первый слой задаёт правила работы.
Второй содержит текущую задачу и историю диалога.
Третий добавляет информацию о проекте и пользователе.
Четвёртый предоставляет внешние знания и документы.
Пятый содержит данные, полученные инструментами непосредственно во время выполнения задачи.
Конкретная архитектура зависит от продукта.
У простого чат бота может быть только инструкция и история нескольких сообщений.
У корпоративного агента контекст способен собираться из десятков источников.
OpenAI на примере внутреннего data agent описывает многослойный подход, где используются метаданные, экспертные аннотации, корпоративные документы, память и runtime данные, а релевантная информация извлекается в момент запроса.
Системные инструкции определяют базовые правила поведения ассистента.
Они могут задавать роль, ограничения, формат ответа, доступные инструменты и требования безопасности.
Например, редакционный ассистент может получать инструкции соблюдать определённую структуру SEO материалов.
Технический помощник может быть обязан запрашивать подтверждение перед изменением данных.
Системная инструкция является частью рабочего контекста, даже если пользователь её непосредственно не видит.
Поэтому конфликт между запросом пользователя и системными правилами может приводить к тому, что ассистент выполняет задачу не буквально.
Помимо общих правил у ассистента может существовать контекст конкретного проекта.
Туда входят стиль, терминология, структура материалов, требования к результату и ограничения.
Такой слой особенно полезен для длительной повторяющейся работы.
Например, для редакционного проекта можно один раз определить правила SEO Title, формат описаний, тип ссылок и стиль текста.
После этого каждая новая задача получает эти условия как часть рабочего контекста.
Существующий материал Vagizov.com о ChatGPT Projects уже подробно показывает этот сценарий через инструкции, файлы, шаблоны и отдельные чаты. Поэтому taxonomy «Контекст ассистента» должна рассматривать проектные инструкции как один из источников контекста, не повторяя сам workflow Projects.
Самый очевидный элемент контекста представляет собой текущее сообщение.
Но даже здесь важно учитывать связь с предыдущими данными.
Фраза:
сделай его короче
не содержит достаточной информации сама по себе.
Ассистент должен понимать, что обозначает слово «его».
Если предыдущий ответ или редактируемый документ находятся в контексте, задача понятна.
Если они потеряны, запрос становится неоднозначным.
Это простейший пример зависимости качества ответа от состояния контекста.
История позволяет ассистенту учитывать предыдущие сообщения.
Благодаря ей пользователю не приходится каждый раз повторять исходные условия.
В рамках одного разговора предыдущие сообщения обычно становятся частью контекста последующих ходов, пока продукт сохраняет их или использует другую форму управления состоянием.
Однако длинная история постепенно расходует доступный объём.
В какой то момент системе приходится удалять, сокращать или иным способом перерабатывать более ранние данные.
Именно поэтому история чата и контекстное окно нельзя считать бесконечными.
Современные агентные платформы используют compaction и другие методы управления состоянием, чтобы длинный процесс мог продолжаться после достижения естественных ограничений одного окна. OpenAI Agents API, например, автоматически уплотняет более ранний контекст в длительных сессиях, сохраняя информацию, необходимую агенту для продолжения работы.
Проектный контекст объединяет информацию, которая относится не к одному сообщению, а к целой рабочей области.
Это могут быть инструкции, файлы, описание сайта, контент план, список продуктов, структура репозитория или внутренний словарь.
Такой подход полезен, когда задачи меняются, но общие условия остаются стабильными.
Вместо повторения одинаковых вводных при каждом запросе они подключаются как постоянная часть рабочего окружения.
Однако проектный контекст тоже нужно поддерживать.
Если внутри накопились устаревшие инструкции и старые версии файлов, модель может получить противоречивую информацию.
Поэтому качество контекста зависит не только от объёма, но и от актуальности.
Документы, таблицы, код и другие файлы могут становиться частью контекста ассистента.
При этом существуют разные способы работы.
Небольшой документ можно передать модели целиком.
Для большой библиотеки более практично сначала найти релевантные фрагменты и добавить только их.
Выбор зависит от размера данных, задачи и возможностей системы.
Проблема подхода «передадим всё» заключается не только в технических лимитах.
Большой объём нерелевантной информации способен ухудшить фокус модели.
Поэтому хороший ассистент должен не просто иметь доступ к файлам, а уметь находить нужные материалы для конкретного запроса.
RAG означает retrieval augmented generation.
В такой архитектуре перед генерацией ответа система ищет релевантные данные во внешнем источнике и добавляет найденные фрагменты в текущий контекст модели.
Например, пользователь задаёт вопрос по внутренней документации компании.
Система не отправляет модели всю корпоративную библиотеку.
Сначала выполняется поиск.
Затем несколько подходящих фрагментов передаются вместе с вопросом.
OpenAI описывает аналогичный подход в своей внутренней системе анализа данных: информация индексируется, а во время выполнения запроса агент получает только релевантный контекст через retrieval, вместо последовательного просмотра огромного массива данных.
RAG поэтому не расширяет физическое контекстное окно.
Он помогает эффективнее использовать имеющееся пространство.
RAG и память часто смешивают, потому что оба механизма позволяют модели использовать информацию вне текущего сообщения.
Но их назначение различается.
RAG обычно извлекает сведения из внешней базы знаний по конкретному запросу.
Память хранит информацию, которую система решила сохранить между взаимодействиями.
Например, документация проекта в векторной базе относится к retrieval.
Предпочтение пользователя получать короткие ответы может храниться как персональная память.
В реальной системе оба механизма могут работать одновременно.
Сначала память добавляет персональные условия, затем retrieval находит документы по текущей задаче.
Память позволяет переносить отдельные сведения между разговорами или длительными периодами работы.
Это шире текущей истории чата.
OpenAI описывает память ChatGPT как механизм, позволяющий использовать релевантную информацию о предпочтениях, проектах и ограничениях пользователя в будущих разговорах. При этом память отличается от прямых инструкций пользователя.
Контекст представляет собой то, что активно используется сейчас.
Память представляет собой один из возможных источников для формирования этого контекста.
Не каждая сохранённая информация должна присутствовать в каждом запросе.
Если пользователь обсуждает настройку Nginx, сведения о другом независимом проекте могут быть совершенно нерелевантны.
Качественная система должна извлекать только то, что действительно помогает текущей задаче.
Краткосрочная память обычно связана с текущей сессией и историей взаимодействия.
Долговременная память существует за пределами одного разговора.
Она может хранить решения, предпочтения, факты о проекте и другие данные, которые пригодятся позже.
Современные агентные архитектуры всё чаще разделяют активный контекст и внешнюю память.
Когда информация перестаёт быть необходимой прямо сейчас, её можно вывести из активного окна и вернуть по запросу позже.
Такой подход позволяет поддерживать продолжительные процессы без постоянного удержания всей истории в модели. Anthropic также описывает сочетание context editing с memory, где важные сведения сохраняются до очистки старых результатов инструментов и при необходимости извлекаются позже.
Если ассистент умеет искать в интернете, выполнять код, обращаться к API или работать с базой данных, результаты этих действий также становятся частью контекста.
Например, пользователь спрашивает текущее состояние сервера.
Ассистент вызывает инструмент мониторинга.
Полученный ответ необходимо вернуть модели, чтобы она могла его проанализировать.
В длинном агентном процессе таких результатов может быть много.
Если сохранять каждый большой вывод полностью, контекст быстро разрастается.
Поэтому зрелые системы фильтруют, сокращают или сохраняют только существенные результаты.
OpenAI Agents API также развивает выбор инструментов и программную обработку результатов, чтобы возвращать в контекст только необходимую информацию.
Часть данных появляется только во время выполнения задачи.
Это может быть текущий URL, состояние приложения, открытый документ, выбранный объект, время выполнения, результат команды или состояние внешней системы.
Такую информацию можно назвать runtime контекстом.
Она особенно важна для встроенных AI ассистентов.
Например, помощник внутри панели управления может давать значительно более точный ответ, если знает, на странице какого сервиса находится пользователь.
В Yandex Cloud такой механизм используется непосредственно: текущая страница и параметры ресурсов могут передаваться AI ассистенту как контекст.
Контекст расходуется не только на текст пользователя.
Описания инструментов, схемы функций и правила их применения также необходимо предоставить модели, если она должна решать, каким инструментом воспользоваться.
При большом количестве интеграций этот слой становится заметным.
Поэтому современные агентные системы умеют динамически подключать только релевантные инструменты.
OpenAI, например, описывает tool search как способ загружать определения нужных инструментов по мере необходимости вместо постоянного помещения полного каталога в контекст.
Это хороший пример context engineering.
Задача состоит не в том, чтобы дать модели максимально много возможностей одновременно, а в том, чтобы своевременно предоставить именно нужные.
Context engineering можно описать как проектирование информации, которую модель получает для выполнения задачи.
Prompt engineering фокусируется главным образом на формулировке инструкций.
Context engineering рассматривает систему шире.
Необходимо решить, какие инструкции предоставить, какую историю сохранить, какие документы найти, какие данные загрузить из памяти, какие инструменты показать и какие старые результаты удалить.
OpenAI выделяет context engineering как отдельную практику в материалах для агентных систем и рассматривает краткосрочное состояние, долгосрочную память, compaction и другие механизмы как отдельные элементы архитектуры.
Поэтому хороший AI ассистент определяется не только качеством основной модели.
Очень многое зависит от того, какой контекст эта модель получает.
Промпт представляет собой инструкции или запрос, переданный модели.
Контекст включает промпт, но не ограничивается им.
Например, разработчик может написать идеальную инструкцию:
Ответь на вопрос по документации компании
Но если система не нашла правильную версию документа, модель всё равно будет работать с неправильными данными.
И наоборот, простой запрос может дать хороший результат, если система автоматически подставила точные инструкции, актуальный файл и нужные факты.
Поэтому prompt engineering отвечает за формулировку задания.
Context engineering отвечает за всю информационную среду, в которой это задание выполняется.
Интуитивно кажется, что модели следует передать как можно больше информации.
На практике лишний контекст создаёт несколько проблем.
Увеличивается расход токенов.
Возрастает стоимость и задержка.
Появляется больше потенциально противоречивых данных.
Старые решения могут конфликтовать с новыми.
Модели становится сложнее выделить наиболее важную информацию.
Anthropic прямо отмечает, что увеличение объёма контекста не гарантирует улучшения результата и описывает снижение точности при чрезмерно длинном контексте как context rot.
Поэтому эффективная стратегия состоит не в максимальном заполнении окна, а в отборе релевантных данных.
Контекст загрязняется, когда в нём накапливается информация, которая уже не нужна текущей задаче.
Например, пользователь долго разрабатывал один вариант архитектуры, затем выбрал другой.
Если старая архитектура остаётся в истории без явного указания, что она отменена, ассистент может продолжать ссылаться на неё.
Другой пример связан с файлами.
В проект загружены три версии технического задания, но не указано, какая является актуальной.
Каждый документ по отдельности выглядит корректно, но вместе они создают неоднозначность.
Таким образом проблема заключается не в недостатке информации, а в отсутствии управления её жизненным циклом.
Особенно опасны прямые конфликты.
В старой инструкции указано писать тексты до 5000 знаков.
В новой пользователь просит не ограничивать объём.
Если система не понимает приоритет и актуальность правил, ответ может быть непредсказуемым.
Поэтому инструкции полезно версионировать и удалять устаревшие требования.
В корпоративных системах также важно определять авторитет источника.
Официальная спецификация должна иметь приоритет над старой заметкой сотрудника, если они противоречат друг другу.
Для части задач информация быстро устаревает.
Цены, версии программ, состояние инфраструктуры и новости нельзя безопасно хранить как неизменный долгосрочный контекст.
Такие сведения лучше получать из актуального источника во время запроса.
OpenAI на примере своего внутреннего data agent описывает runtime context именно как способ запрашивать текущие данные в случаях, когда заранее сохранённой информации недостаточно или она могла устареть.
Поэтому хороший контекст должен учитывать не только релевантность, но и свежесть.
Если ассистент получает данные из корпоративных систем, важен вопрос доступа.
Сам факт технического подключения базы документов не означает, что каждый пользователь должен видеть все данные.
Система retrieval должна учитывать права пользователя и передавать модели только ту информацию, к которой текущий пользователь действительно имеет доступ.
OpenAI в описании внутреннего data agent отдельно отмечает сохранение метаданных и разрешений при извлечении корпоративных документов.
Это важный архитектурный принцип.
Проверять права нужно до попадания данных в контекст модели, а не пытаться скрыть их уже после генерации ответа.
Чем больше источников подключено к ассистенту, тем больше данных потенциально может участвовать в работе.
Поэтому пользователь должен понимать, какие источники используются.
Нужно отдельно определять правила хранения истории, памяти, файлов и результатов инструментов.
У разных продуктов эти условия отличаются.
Нельзя автоматически считать, что история чата, долговременная память и активный контекст имеют одинаковые сроки хранения и одинаковые настройки конфиденциальности.
Это разные уровни системы.
Для небольшого проекта правила могут быть простыми.
Например, всегда добавлять одну инструкцию и несколько последних сообщений.
Для большой системы этого недостаточно.
Требуется механизм отбора.
Часть данных выбирается по текущему проекту.
Документы можно искать семантически.
Память извлекается по релевантности.
Инструменты подключаются по задаче.
Runtime данные собираются из текущего состояния среды.
Так получается динамический контекст, который может отличаться для каждого запроса даже внутри одного разговора.
Не вся информация имеет одинаковый статус.
Системные ограничения обычно важнее обычного текста документа.
Актуальная инструкция важнее устаревшей версии.
Результат прямого запроса к базе данных может быть надёжнее сохранённого несколько месяцев назад значения.
Поэтому полезно проектировать иерархию источников.
Без неё модель может получить два корректных по форме, но несовместимых утверждения и не понимать, какое использовать.
По мере роста разговора всё больше информации претендует на место в активном окне.
Простой подход состоит в сохранении последних сообщений и удалении старых.
Но он может потерять важное решение, принятое в начале работы.
Более зрелый вариант использует summary или compaction.
Старые взаимодействия сокращаются до ключевых решений, ограничений и фактов.
OpenAI Agents API поддерживает автоматическое compaction для длительных агентных сессий. Anthropic также предоставляет серверное сжатие и редактирование контекста для продолжительных разговоров и агентных workflow.
Сжатие позволяет заменить большой объём прошлых сообщений более коротким представлением.
Например, вместо двадцати сообщений о выборе CMS сохраняется вывод:
Выбран WordPress. WooCommerce не используется. PHP 8.3. Основной сервер Nginx.
Для продолжения работы этого может быть достаточно.
Но сжатие всегда связано с потерей деталей.
Поэтому важные значения, решения и ограничения лучше сохранять структурированно, а не надеяться только на автоматически созданное резюме.
Прежде всего нельзя терять принятые решения.
Также важно сохранить ограничения задачи, имена используемых файлов, актуальные URL, параметры конфигурации и факты, которые влияют на дальнейшие шаги.
Эмоциональные или повторяющиеся части диалога можно сокращать значительно агрессивнее.
Таким образом сжатие должно сохранять не историю разговора как литературный текст, а рабочее состояние задачи.
В агентных workflow полезно отделять разговор от состояния работы.
Например, система может хранить:
текущую цель
выполненные шаги
оставшиеся действия
созданные файлы
обнаруженные ошибки
принятые решения
Такой state значительно надёжнее бесконечной истории сообщений.
Модель в каждом следующем шаге получает компактное состояние и только необходимую часть предыдущего диалога.
Именно поэтому современные агентные платформы выделяют session state и conversation state как самостоятельные технические компоненты. OpenAI в текущей документации также отдельно предоставляет управление conversation state, sessions и compaction.
Кодовый ассистент особенно сильно зависит от правильного контекста.
Для небольшой функции достаточно текущего файла и постановки задачи.
Для изменения архитектуры может понадобиться дерево проекта, связанные классы, тесты и документация.
Передавать весь репозиторий целиком необязательно.
Значительно эффективнее найти файлы, связанные с изменяемым компонентом, и постепенно расширять контекст при необходимости.
Так уменьшается риск того, что модель начнёт опираться на старый код или нерелевантную часть проекта.
Ассистент веб разработчика может получать структуру WordPress, активные плагины, шаблон, логи, конфигурацию Nginx и текущий URL.
Но для каждой задачи нужен свой набор.
При ошибке PHP не обязательно загружать весь контент сайта.
При SEO аудите конкретной страницы не всегда нужны настройки базы данных.
Хорошая система подбирает контекст под задачу, а не хранит один огромный пакет вводных для любого вопроса.
В SEO задачах контекстом могут быть данные Search Console, поисковый интент, текущая страница, соседние URL, структура taxonomy, семантика и редакционные правила.
Без этой информации модель способна написать общий текст, но не знает, существует ли на сайте уже другая страница по тому же запросу.
Именно поэтому контекст особенно важен для предотвращения каннибализации.
Перед созданием материала ассистенту полезно предоставить не только ключевой запрос, но и текущую структуру проекта.
В редакционной работе полезно сохранять tone of voice, правила заголовков, структуру материалов, требования к ссылкам и список уже опубликованных страниц.
Однако не следует помещать в каждый запрос весь архив статей сайта.
Гораздо эффективнее извлекать только материалы, связанные с текущей темой.
Существующая статья Vagizov.com о ChatGPT Projects уже показывает практический вариант организации такого рабочего пространства через отдельные проекты, инструкции, файлы и чаты.
Taxonomy «Контекст ассистента» дополняет этот материал более общим объяснением того, почему такая структура работает.
Персонализация тоже строится на контексте.
Если система знает предпочтительный язык, формат ответа или постоянные ограничения пользователя, их можно учитывать автоматически.
Но персональные данные должны добавляться только тогда, когда они действительно помогают.
OpenAI прямо указывает, что ChatGPT обращается к памяти и другим источникам релевантного контекста не обязательно в каждом ответе, а когда такая информация может сделать результат полезнее.
Это хороший принцип и для собственной разработки.
Не нужно добавлять весь профиль пользователя в каждый запрос.
Современный ассистент может учитывать не только текст, но и состояние интерфейса.
Например, выбранный объект, открытый файл или текущий экран.
Такой подход уменьшает количество вводных, которые человеку приходится описывать вручную.
Пользователь спрашивает:
почему этот ресурс не запускается
а система уже знает, какой именно ресурс открыт.
Yandex Cloud использует похожую модель в своём встроенном AI ассистенте, передавая ему информацию о текущей странице и ресурсах.
При этом тема интерфейса ассистента уже существует на Vagizov.com отдельно, поэтому здесь важно только показать интерфейс как потенциальный источник контекста.
Контекст может включать не только текст.
Современные модели способны получать изображения, документы и другие поддерживаемые типы данных.
Это особенно важно для ассистентов, работающих со скриншотами, схемами, PDF или визуальным интерфейсом.
Но мультимодальность не отменяет общих правил.
Большое количество изображений также расходует доступное пространство и может содержать нерелевантную информацию.
Поэтому визуальный контекст необходимо отбирать так же внимательно, как текстовый.
Подключение MCP и других инструментов расширяет возможности ассистента получать данные во время работы.
Но сам MCP сервер не является контекстом.
Он является способом доступа к инструментам и ресурсам.
Контекст появляется после того, как ассистент запросил конкретные данные и получил результат.
Это важное различие.
Не нужно заранее загружать всю систему в модель.
Достаточно предоставить инструмент, с помощью которого она сможет получить нужную информацию в подходящий момент.
Первая распространённая ошибка состоит в передаче слишком большого количества данных.
Система пытается помочь модели и загружает всё, что доступно.
В результате полезная информация теряется среди второстепенной.
Вторая ошибка связана с устаревшими данными.
Старая инструкция продолжает использоваться после изменения правил.
Третья проблема возникает из за противоречивых источников.
Четвёртая появляется, когда важная информация сохраняется только в начале длинного диалога и исчезает после очистки истории.
Пятая ошибка заключается в полном отсутствии внешней памяти для длительных процессов.
Слово «забывает» может обозначать несколько разных ситуаций.
Информация могла выйти за пределы активного контекста.
Система могла сжать старую историю и не сохранить нужную деталь.
Память могла не считать факт достаточно значимым.
Retrieval мог не найти нужный документ.
Новый чат мог вообще не иметь доступа к предыдущему диалогу.
Поэтому при диагностике необходимо сначала определить, где именно должна была храниться информация.
Не стоит объяснять любую потерю данных только размером контекстного окна.
Первый принцип состоит в релевантности.
В контекст следует добавлять то, что реально необходимо для текущей задачи.
Второй принцип связан с актуальностью.
Изменяемые сведения лучше получать из живого источника.
Третий принцип заключается в разделении контекста и памяти.
Текущие детали задачи хранятся в активном состоянии, устойчивые сведения могут находиться во внешней памяти.
Четвёртый принцип состоит в приоритизации источников.
Ассистент должен понимать, какая версия инструкции является актуальной.
Пятый принцип связан с регулярной очисткой.
Старые результаты инструментов и промежуточные обсуждения не обязательно хранить бесконечно.
Для серьёзных задач полезно понимать происхождение факта.
Если ассистент использовал внешний документ, хорошо иметь возможность определить источник.
Если значение получено через API, полезно сохранить момент получения и сам источник.
Если правило пришло из проектной инструкции, должно быть понятно, какую версию инструкции использовала система.
Такой подход облегчает диагностику.
Когда ответ ошибочен, можно определить, ошиблась ли сама модель или ей был предоставлен неправильный контекст.
Хороший контекст способен уменьшать количество ошибок, но не устраняет их полностью.
Даже если модели передан правильный документ, она может неверно его интерпретировать.
Поэтому важные факты всё равно требуют проверки.
Однако отсутствие нужного контекста значительно увеличивает вероятность того, что модель начнёт опираться на общие знания или предположения.
OpenAI на примере внутреннего data agent прямо связывает качество сложных корпоративных ответов с наличием точного контекста и использует несколько его слоёв для привязки работы агента к реальным данным организации.
Каждый дополнительный фрагмент, переданный модели, может увеличивать объём входных данных.
Поэтому управление контекстом связано не только с качеством, но и с экономикой системы.
Нет смысла каждый раз отправлять сотни страниц документации, если задача касается одного раздела.
Retrieval, кэширование и сжатие позволяют снизить лишний объём.
При этом кэширование само по себе не означает, что данные перестают занимать место в контекстном окне. Оно меняет способ обработки и стоимость повторяющегося префикса, но не отменяет технические ограничения контекста. Anthropic отдельно подчёркивает это в документации по context windows.
Сначала необходимо определить задачи системы.
После этого становится понятно, какие данные нужны модели.
Далее следует разделить их на стабильные и динамические.
Стабильные инструкции можно хранить как правила ассистента.
Долговременные факты можно вынести в память.
Большую базу документов лучше подключить через retrieval.
Текущие данные системы получать инструментами во время запроса.
Историю разговора необходимо управляемо сохранять и сжимать.
Так архитектура строится от задачи, а не от желания передать модели максимальное количество информации.
Недостаточно проверить только правильный ответ на одном запросе.
Полезно создавать тесты на конфликтующие данные, длинную историю, устаревшие документы и отсутствие нужного источника.
Например, можно проверить, использует ли ассистент новую инструкцию после изменения политики.
Другой тест показывает, сохранится ли важное решение после сжатия длинного чата.
Ещё один сценарий проверяет, не получает ли пользователь данные из документа, к которому у него нет доступа.
Такие проверки позволяют тестировать саму систему формирования контекста отдельно от качества базовой модели.
Чем дольше работает агент, тем важнее управление состоянием.
В начале задачи можно хранить почти всю историю.
После десятков вызовов инструментов этот подход становится неэффективным.
Поэтому длительные агенты используют комбинацию активного контекста, компактного состояния, внешней памяти и сохранённых результатов.
OpenAI при запуске Agents API отдельно выделяет context management как один из необходимых компонентов длительной агентной работы и поддерживает автоматическое сжатие сессий при приближении к пределу окна.
Таким образом долгий агентный процесс не означает один бесконечный промпт.
Это система управления информацией между последовательными шагами.
Сравнивать AI ассистентов только по используемой модели недостаточно.
Одна и та же модель может давать совершенно разные результаты в двух продуктах.
В первом случае ей передают точные инструкции, нужный документ и актуальные данные.
Во втором только короткий пользовательский вопрос.
Разница в качестве может определяться именно контекстным слоем.
Поэтому при разработке ассистента полезно отдельно оценивать модель, retrieval, память, инструменты и правила формирования контекста.