Когда контекст вредит: 4 способа испортить

🍲 Рабочий стол повара можно испортить, а не только недозагрузить

Вернёмся к нашей кухне. Контекст — это рабочий стол повара (модели): всё, что лежит у него перед глазами в момент готовки, из чего он собирает блюдо-ответ. В прошлой теме мы учились этот стол правильно накрывать: выложить ровно нужные продукты и рецепты, чтобы повар не бегал и не гадал.

Но у стола есть и обратная беда. Можно не недодать, а испортить то, что на нём лежит. И вот что важно понять с самого начала: повар не перепроверяет каждый продукт на столе. Он доверяет тому, что перед ним выложили, и работает с этим. Лежит на столе протухший кусок — он его и кинет в кастрюлю, с серьёзным лицом, как будто так и надо. Завален стол ненужным — он будет в этом копаться и тормозить. Лежат две противоречивые записки — он схватит ту, что ближе, и неважно, верную ли.

Способов испортить стол ровно четыре, и их удобно держать парами. Первые два — про количество и качество того, что лежит на столе: протухло или навалено лишнего. Вторые два — про противоречия: что-то на столе спорит само с собой. Вторая пара тоньше, на ней и путаются чаще всего, так что к ней приглядишься внимательнее. У каждого способа свой симптом и своя бытовая картинка — дальше разберём каждый отдельно, а потом ты будешь узнавать их по почерку.

🤢 Отравление (poisoning): ошибка тянется дальше

Представь: в начале готовки на стол положили протухший продукт, а повар его не заметил и кинул в общую кастрюлю. Дальше всё, что он из этой кастрюли черпает, отравлено — и первая порция, и десятая. Беда не в одной порции, а в том, что зараза разошлась по всему блюду.

С контекстом то же самое. В него попал неверный факт — модель сама что-то напутала на раннем шаге, или ты подложил устаревшую цифру, или в загруженном документе была ошибка. И дальше эта ошибка живёт в контексте и заражает каждый следующий ответ.

Спросил клиента про скидку — модель один раз «решила», что у него тариф «Премиум» (хотя у него базовый), и теперь весь диалог считает его премиумом: предлагает не те условия, ссылается на не те правила. Ошибка не исчезает сама — она лежит на столе и работает дальше.

Особенно коварно это в долгих диалогах и у агентов, которые работают много шагов подряд: одна ранняя оплошность тихо отравляет всю цепочку, и к концу уже не понять, где свернули не туда.

🗂️ Отвлечение (distraction): завалили лишним

А это — прямой портрет того самого «закину всё на всякий случай». Стол не отравлен, продукты свежие. Но их слишком много. Повару нужен один лимон, а перед ним вывалили всю кладовую: и лимон где-то есть, но пока он его найдёт среди мешков с мукой и ящиков с картошкой — половину уже забудет, за что брался.

Так и работает перегруженный контекст. Ты дал модели нужный кусочек, но утопил его в десяти ненужных: вся переписка за полгода, три старых договора, инструкция на сорок страниц — ради одного абзаца, который реально был нужен. Модель вынуждена «смотреть» на всё это разом, и важное теряется в шуме. Помнишь из темы про рабочий стол повара: руки работают только под носом, а середина стола — в полумраке. Чем больше навалил, тем больше нужного уезжает в этот полумрак.

Симптом отвлечения узнаваемый: модель отвечает «вообще» и мимо, цепляется за случайную деталь из вываленного, упускает то главное, ради чего ты вообще к ней пришёл. И платишь ты за это дважды — деньгами (за каждый лишний кусок текста идёт счёт) и качеством.

🏷️ Путаница (confusion): противоречивая информация

Третий способ тоньше. Продукты на столе свежие, и их не слишком много — но среди них лежат две версии одного и того же, и они не сходятся. Две банки подписаны «соль», но в одной соль, а в другой сахар. Повар возьмёт ту, что ближе, — и блюдо испорчено, хотя он всё делал «по этикетке».

В контексте это противоречащие друг другу сведения. В базе знаний лежат две инструкции по возврату: старая говорит «14 дней», новая — «30 дней», а пометок, какая актуальна, нет. Или в загруженных документах цена товара указана в трёх местах по-разному. Модель не звонит уточнить и не «чувствует», где правда — она просто хватает одну из версий, часто наугад, и уверенно строит на ней ответ. Сегодня ответит «14 дней», завтра на тот же вопрос — «30». А виноватым кажется AI, хотя противоречие ты принёс ему сам.

Чем больше всего вываливаешь в контекст «на всякий случай», тем выше шанс, что внутри этой кучи факты начнут спорить друг с другом, — и отвлечение незаметно перетекает в путаницу.

📋 Столкновение (clash): конфликт инструкций

Четвёртый способ — не про факты, а про команды. Представь, что повару одновременно сунули две записки от двух менеджеров. В одной: «готовь строго по техкарте, ни шагу в сторону». В другой: «делай как считаешь нужным, импровизируй». Обе с печатью, обе «начальство». Повар в ступоре: он буквально не может выполнить обе сразу и начинает метаться — то слушается одной, то другой.

В работе с AI это конфликт инструкций. Чаще всего сталкиваются должностная инструкция (system prompt — общие правила, заданные один раз: «всегда отвечай официально, никогда не обещай скидок») и то, что прилетает дальше по ходу: твой запрос «дай неформально и пообещай человеку бонус» или указание в загруженном документе. Команды противоречат — и модель ведёт себя непредсказуемо: то держит старое правило, то нарушает его. То же самое, когда в одном длинном промпте ты сначала просишь «коротко», а в конце — «распиши подробно». Сам себе подсунул две записки.

Разница с путаницей простая и её стоит держать в голове: путаница — это когда спорят факты («сколько дней на возврат»), а столкновение — когда спорят приказы («как себя вести»). Симптом тоже разный: при путанице модель выдаёт неверный факт, при столкновении — нарушает правило, которое ты вроде бы жёстко задал.

🧪 Точка перед тренажёром: проверь свою гипотезу

Прежде чем щёлкать кнопки — собери картину в голове. Перед тобой будет пять реальных ситуаций, и в каждой контекст испорчен одним из четырёх способов. Вот рабочая гипотеза, которую стоит держать как фильтр:

Ключевой вопрос к каждому кейсу: что именно не так на столе — гнильё, завал, спорные факты или спорные приказы? Сформулируй ответ про себя до того, как нажмёшь. Расхождение твоей версии с разбором тут полезнее угаданного совпадения: на нём видно, какие два способа ты пока путаешь между собой.