Почему LLM сам ничего не делает

👨‍🍳 Сначала — одна сцена с кухни

В теме про устройство агента ты уже видел «мозг» и «руки» рядом — как две из частей агента. Теперь разберём вплотную, почему мозг сам по себе вообще ничего не трогает. Начнём с кухни.

Представь шефа. Опытного, насмотренного — того самого «повара по насмотренности» из той же темы про агента (насмотренность — это что модель начиталась гор текста раньше и теперь складно продолжает по образцу). Гость заказал блюдо. Шеф командует: «Обжарь лук до золотистого, потом влей бульон». Звучит как действие, правда? «Обжарь», «влей» — глаголы, приказы.

Но смотри, что произошло на самом деле. Шеф не прикоснулся ни к луку, ни к сковороде. Он только сказал словами, что надо сделать. Лук режет и жарит кто-то другой — поварёнок, у которого есть нож, сковорода и плита. Бульон достаёт из кладовой третий. Шеф — это голова и рот. Руки — отдельные люди и отдельная техника.

Вот ровно так же устроена языковая модель, та самая LLM (большая языковая модель — то, что крутится внутри ChatGPT и подобных). Сама по себе она умеет только одно: превращать текст в текст. Ты дал ей текст — она выдала текст в ответ. Всё. Это её единственное действие, как у шефа — только говорить.

🧠 Модель — это мозг без рук

Скажу прямее, без метафоры, потому что это центр всей темы. Модель не умеет:

• зайти на сайт и посмотреть, что там сейчас;
• открыть твой файл и прочитать его;
• отправить письмо, нажать кнопку, сохранить документ;
• посчитать точно — сложить в столбик длинные числа без ошибки.

Она умеет ровно одно: получить текст и дописать к нему текст-продолжение — складно, по насмотренности. Это её природа, а не недоработка. Как у мозга в банке: он может думать и формулировать сколько угодно, но без рук он ни нальёт чаю, ни откроет дверь.

«Но погоди, — скажешь ты, — я же сам видел, как ChatGPT искал в интернете и рисовал картинки». Видел. И вот тут вся соль: это делал не „мозг". Это делали „руки", которые к мозгу приделали отдельно.

🔧 Что такое «руки» (обвязка) и кто их приделывает

Когда продукт вроде ChatGPT «ищет в интернете», происходит вот что. Модель не лезет в сеть сама. Она выдаёт текст-команду в духе «надо поискать вот это». А рядом сидит обычная программа — её написали разработчики, никакого AI, — которая эту команду читает, реально идёт в поисковик, приносит результат и кладёт его модели обратно как новый текст. И только теперь модель пишет тебе ответ, уже опираясь на принесённое.

Вот эта программа-помощник, которая ходит, кликает, считает и носит результаты туда-сюда, — и есть «руки». В курсе мы зовём такие добавки инструментами (по-английски tools), а всю прослойку вокруг модели — обвязкой. Им посвящён отдельный модуль дальше, тут нам важно одно: их приделывают люди-разработчики, и приделывают по одному, осознанно. Дали инструмент «поиск» — модель умеет искать. Не дали — не умеет, хоть проси, хоть умоляй.

Поэтому одна и та же модель в разных продуктах ведёт себя по-разному. В одном чате она лезет в свежие новости, в другом — нет. Мозг тот же. Руки приделаны разные.

💡 Почему тебе это важно как владельцу

Ты тут не разработчик, который приделывает руки. Ты владелец кухни AI — твоё дело понимать, где мозг, а где руки, чтобы тебя не развели и ты сам не ждал чуда не от того места. Три рабочих вывода.

• «Модель сама всё сделает» — это маркетинг, а не факт. Сама она только думает и говорит. Всё «сделает» — это про руки, которые кто-то должен спроектировать, приделать и оплатить. Услышал «оно само» — спрашивай: а руки-то откуда, кто их встроил?
• Если в продукте нет нужного инструмента — модель этого не умеет. Голая модель не знает сегодняшнюю цену, не видит твой файл, не отправит письмо. Хочешь, чтобы умела, — нужна обвязка. Это отдельная работа и отдельные деньги, а не само собой разумеющееся.
• То, что «руки» приделали, можно приделать и под тебя. Хорошая новость обратной стороной: раз почти всё полезное — это инструменты вокруг модели, то под свою задачу руки тоже можно собрать. Именно это и проектируют, когда строят AI-решение под бизнес.

Запомни картинку одной фразой: модель — это мозг, который думает и говорит. Всё остальное ей приделывают руками. Держи этот разрез в голове — и маркетинговый туман расходится сам.