Урок 8: Обучение vs вывод

Главная мысль

У модели две жизни, и они не пересекаются. Первая — обучение: один раз, месяцы, очень дорого, и это единственное время, когда веса меняются. Вторая — вывод: твой запрос проходит сквозь уже замороженные веса за секунды, дёшево, миллионы раз в день — и не оставляет в них следа. Ты всегда на второй фазе. «Дообучить модель своим примером» из чата нельзя; можно положить пример во вход — фото, текст, — и он будет работать, пока лежит там. Файн-тюнинг — настоящее обучение номер два — существует, но это не кнопка на сайте.

Объяснение

Две фазы, которые не пересекаются

Уроки 4–7 описали первую жизнь модели: примеры, попытки, ошибка-число, сдвиг весов — миллионы раз. Это обучение (training). Оно случилось один раз, заняло месяцы, стоило как небольшой завод, и в конце веса заморозили. Дальше начинается вторая жизнь — вывод (inference): замороженные веса ставят на сервер и через них прогоняют запросы. Твой, мой, миллионы чужих. Каждый проход — секунды и копейки. И ни один проход не трогает весов.

Фаза 1 · Обучение — один раз, до тебя

Миллионы примеровподписи и картинки, тексты, звук — собраны заранее, до тебя

›

Попытка → ошибка → сдвигцикл урока 7, миллионы раз. Здесь веса двигаются

›

Месяцы и очень дорогоодин раз на модель; повторяют только ради новой версии

›

Веса замороженыитог фазы: набор чисел, который больше не меняется

Фаза 2 · Вывод — миллионы раз, это ты

Твой входтекст, фото-референс, история чата — всё, что ты положил в окно

›

Проход сквозь весате же замороженные числа: умножил, сложил, сравнил — слой за слоем

›

Секунды и дёшевомиллионы раз в день, для всех сразу

›

Результаткадр, ответ, трек. Веса после него — те же, что до

Две строки схемы соединяет один узел — «веса заморожены». Всё, что выше него, случилось без тебя и до тебя. Всё, что ниже, — то, что ты видишь на сайте. Между строками нет обратной стрелки: ничего из второй фазы не поднимается в первую.

Закон 1. Две фазы: обучение — веса меняются, один раз и дорого; вывод — веса заморожены, миллионы раз и дёшево.

Зачем это тому, кто уже жмёт кнопку ▶

Оператору важно, что из этого следует про цену и скорость. Вывод дёшев ровно потому, что не трогает весов: один проход, никакой сверки с ответом, никакого сдвига. Поэтому один кадр стоит столько, сколько написано у кнопки, а не столько, сколько стоило обучение. И поэтому «ещё раз» — это ещё один проход через те же веса с тем же входом: другой seed (урок 24) даст другой кадр, но не другую модель.

Ты всегда на второй фазе

Что бы ты ни делал на сайте — кнопка генератора, чат, «повторить», «ещё вариант», — это вывод. Обучение закончилось до того, как ты открыл страницу, и на твоём экране нет ни одной кнопки, которая бы его запустила. Твой запрос — вход. Он проходит стопку слоёв (урок 6) сквозь замороженные веса, на выходе кадр или ответ, и веса после этого точно такие же, как до. Проверить легко: тот же вход и тот же seed (урок 24) завтра дадут практически тот же результат.

Обучение закончилось до тебявеса подобрали на чужих примерах и заморозили. Эта дверь закрыта

›

Любая кнопка на сайте — выводгенератор, чат, «повторить»: один проход через те же веса

›

Запрос проходит, не оставляя следавеса до и после — одни и те же числа. Модель не «привыкает» к тебе

Из этого следует то, что многие не могут принять: модель тебя не запоминает. Не «плохо запоминает» — не запоминает вовсе, потому что во второй фазе нечем: единственное место, где хранится что-то надолго, — веса, а они заморожены. Всё, что похоже на память, лежит во входе: история чата, референс, файл. Пока оно во входе — работает; убрал — исчезло.

Закон 2. Ты всегда на выводе. Твои запросы проходят через веса и не оставляют в них следа.

Зачем это тому, кто уже жмёт кнопку ▶

Веса заморожены — и это не ограничение, а гарантия. Гарантия для тебя: сосед не «испортит» модель своими запросами, а твой промпт из вчера не изменит сегодняшний. Гарантия воспроизводимости: один вход + один seed = тот же кадр с точностью до мелочей, сколько ни повторяй. Из этого же следует, что «модель стала хуже» без смены версии — иллюзия: числа те же; изменился твой вход, seed или настройки. По-настоящему что-то меняется только при смене версии — это новая фаза 1 у разработчика, и после неё пороги смещаются (урок 5), промпты надо перепроверять.

Почему «дообучить в чате» нельзя

Самая частая просьба в чате: «запомни, что я пишу так», «выучи мой стиль», «больше не делай так». Понятная просьба к человеку — и невозможная к весам. Чтобы модель «выучила», нужен цикл первой фазы: примеры, попытка, ошибка, сдвиг весов. Во второй фазе этого цикла нет — нет сравнения с ответом, нет сдвига. Твоё «выучи» — обычный вход: он пройдёт стопку и повлияет на ответ ровно так, как любые другие слова в окне, и ровно до тех пор, пока в окне лежит.

Что ты хочешь«выучи мой стиль»: сдвинуть веса своим примером, чтобы это осталось навсегда

Что происходитпример становится входом. Он влияет на ответ, пока лежит в окне; новый чат — окно пустое, веса те же

Вот почему «модель забыла» — неправильное слово. Забывать — значит когда-то помнить. Модель ничего не помнила: она отвечала с примером во входе. Как только пример из входа ушёл — новый чат, лимит окна (урок 14), убранный референс, — ответ снова идёт от «среднего по примерам» из урока 4.

Закон 3. В чате нельзя учить — можно только показывать. Пример работает, пока он во входе.

Зачем это тому, кто уже жмёт кнопку ▶

Есть механики, которые выглядят как память, — и все они кладут текст во вход за тебя. Системная инструкция, «память чата», профиль, закреплённые файлы — это строки, которые сервис подставляет в начало окна при каждом сообщении. Полезно, но помни две вещи: они занимают место в окне (урок 14) и они не меняют весов — это тот же пример во входе, только автоматический. Убери их — и поведение вернётся к среднему за один ответ.

Пример во вход: референс и текст

Раз в весах ничего не изменить, весь твой рычаг — вход. И этого много. Хочешь своё лицо на кадре — не проси «запомнить», клади фото в референс каждый раз: лицо придёт пикселями, а это самый громкий вход из возможных (урок 5). Хочешь свой стиль в тексте — не проси «выучить», покажи образец в том же сообщении: «вот два абзаца, как я пишу, — напиши так же». Хочешь, чтобы чат «помнил» правило, — повторяй его в окне, когда оно перестаёт держаться.

Фото-референспример в пикселях: лицо, предмет, стиль. Работает в этом запуске; в следующий — приложи снова

Образец в тексте«вот как я пишу — пиши так же». Пример словами, в том же сообщении, а не в прошлом чате

Правило в окне«важное» держится, пока оно в контексте; сползло — повтори последней строкой (урок 14)

Разница между «выучи» и «вот пример» — не в вежливости, а в фазе. Первое требует обучения, которого нет. Второе — вход, который есть. Модель одинаково не помнит ни того, ни другого; но второе работает прямо сейчас, а первое не работает никогда.

Закон 4. Не «выучи», а «вот пример»: положи его во вход — референсом, образцом, строкой — и он заработает сейчас.

Зачем это тому, кто уже жмёт кнопку ▶

У практика пример во входе — это техника, а не костыль. Референс на каждый запуск — норма серии, а не «неудобство». Образец стиля кладётся не в начало длинного чата, где его выдавит окно, а в то же сообщение, что и задача, и достаточно короткий: три-пять предложений, которые показывают ритм и лексику, а не «всё творчество». И проверка: если ответ «не в стиле», сначала смотри, есть ли образец в окне вообще, а не «модель испортилась».

Файн-тюнинг — одним абзацем

Настоящее «выучить» существует и называется файн-тюнинг (fine-tuning): готовую модель ещё раз пропускают через цикл первой фазы, но на твоих примерах. Сотни-тысячи пар «вход — правильный ответ», часы на серверах с видеокартами, отдельная копия весов — и на выходе новая модель, которая уже без образца во входе тянет в твою сторону. Это делают компании под свою задачу. Это не кнопка в чате, не «запомни» и не то, что происходит от твоих запросов: у файн-тюнинга есть примеры с ответами, сравнение и сдвиг — всё, чего во второй фазе нет.

Файн-тюнинг = обучение №2тот же цикл: примеры → попытка → ошибка → сдвиг весов, но на твоих данных

›

Ценасотни размеченных примеров, часы серверов, отдельная копия модели, проверка, что не сломалось прежнее

›

Итог — новая модельдругие веса, отдельный движок. Не кнопка в чате и не «память» — ещё одна фаза 1

Зачем это знать тебе, если ты не будешь этого делать? Чтобы не путать. Когда сервис говорит «модель учится на данных пользователей» — это либо обещание фазы 1 где-то в будущем и в другой версии, либо просто автоматический пример во входе. На кнопке, которую ты жмёшь сейчас, — всегда вывод. Задание ниже — про то, как перестать просить «выучи» и начать давать пример.

Закон 5. Файн-тюнинг — настоящее обучение №2 на своих примерах, с ценой обучения. К кнопке на сайте отношения не имеет.

Принеси пример во вход словами

Заготовка — сообщение в чат, где вместо «выучи мой стиль» лежит сам образец и задача в одном сообщении. Подсказки рабочие, можно оставить как есть. Собранный текст уйдёт в окно чата.

Образец — два-три предложения, как ты пишешь Что сохранить из образца Задача Чего не делать

Сообщение появится здесь, когда заполнишь поля.

Открыть чат с этим сообщением →

Сообщение спишет около 0,4ⓥ ≈ 13 ₽ (обычный ответ Claude; цена — по длине текста) — цену сообщения сайт показывает под полем до отправки. Потом открой новый чат и попроси то же самое без образца — и сравни: разница между двумя ответами и есть разница между «пример во входе» и «средним по примерам».

Зачем это тому, кто уже жмёт кнопку ▶

Если ты уже жмёшь кнопку, у тебя есть шаблон вместо памяти. Заведи файл с тремя блоками — образец стиля, что сохранить, чего не делать — и вставляй его в первое сообщение каждого рабочего чата: это твой ручной файн-тюнинг за ноль рублей и ноль часов серверов. Для кадров то же самое — папка референсов, которые ты прикладываешь к каждому запуску серии. Не «модель запомнила», а «я приношу пример» — и результат стабильнее любой памяти.

Аналогия

Аналогия · напечатанная книга

Представь справочник, который писали и проверяли годами: тысячи авторов, правки, споры — и наконец тираж напечатан. Печать — момент, когда текст замёрз. Дальше книгу читают миллионы людей, по сто раз в день, и ни одно чтение не меняет ни буквы. Ты можешь читать вслух, с выражением, подчёркивать — книга та же. Обучение — это годы правок до печати. Вывод — каждое чтение после.

Теперь ты просишь справочник «запомнить, что в моём городе улицу переименовали». Он не может: тираж напечатан. Что ты можешь — вложить в него закладку с поправкой и читать вместе с ней. Закладка работает, пока лежит в книге; передал книгу другому без закладки — улица снова старая. А «новое издание с твоей поправкой» — это опять редакция, набор и печать: возможно, но это не закладка, и не за минуту.

Что это значит на практике

Помни, на какой ты фазе. Любая кнопка на сайте — вывод: проход через замороженные веса. Ни один запрос не учит модель и не портит её для других.
Не проси «запомни» и «выучи» — давай пример. Своё лицо — референсом на каждый запуск, свой стиль — образцом в том же сообщении, правило — строкой в окне, когда сползает.
«Забыла» — неправильное слово. Проверь, лежит ли пример во входе: новый чат, лимит окна, убранный референс — и пример исчез, а веса те же.
Файн-тюнинг — не кнопка. Это обучение №2 с примерами, серверами и новой копией модели. Обещание «учится на данных пользователей» — либо будущее в другой версии, либо автоматический пример во входе.

Заблуждение, которое мешает

Заблуждение, которое убивает этот урок: «Модель учится на мне. Чем больше я с ней работаю, тем лучше она меня понимает, — а если стала отвечать хуже, значит, я её чему-то плохому научил».

Оно вредит в трёх местах.

Первоеты ждёшь накопления там, где его нет. Двадцатый чат начинается с тех же весов, что первый. «Лучше понимает» — потому что ты стал лучше подавать вход, а не она — запоминать

Второеты винишь себя или модель за «испортилась». Веса те же; изменился вход, seed, версия или настройка. Ищи там, а не в «переучилась»

Третьеты не носишь примеры. Раз «она уже знает», референс и образец кажутся лишними — и ровно поэтому лицо и стиль уплывают

Из этой веры вырастает привычка вести один бесконечный чат «чтобы не потерять обученное» — в котором окно давно переполнено, а «обученного» не было ни на один вес. Стабильность даёт не длинный чат, а пример, который ты приносишь каждый раз.

Проверка

Выбери вариант — разбор появится сразу, и на верный, и на неверный.

1. Ты сделал сто запросов к модели на сайте. Что изменилось в её весах?

2. В прошлом чате модель отлично держала твой стиль. В новом — пишет «средне». Что случилось?

3. Что такое файн-тюнинг?

Понял?

Отмечай только то, что можешь прямо сейчас сказать вслух своими словами. Это не галочки для отчёта, а проверка, что урок улёгся.

Могу назвать две фазы: обучение — веса меняются, один раз и дорого; вывод — веса заморожены, миллионы раз и дёшево

Знаю, что я всегда на выводе: мои запросы проходят через веса и не оставляют в них следа

Понимаю, почему «выучи в чате» не работает, а «вот пример во входе» работает — пока пример там лежит

Умею принести пример во вход: референс на каждый запуск, образец в том же сообщении, правило строкой — и знаю, что файн-тюнинг не кнопка

Итог

Две фазы, один узел между ними. Обучение — веса меняются, один раз, дорого. Вывод — веса заморожены, миллионы раз, дёшево. Обратной стрелки нет.
Ты всегда на выводе. Запросы проходят и не оставляют следа; модель не запоминает и не портится. Всё, что похоже на память, лежит во входе — и живёт, пока лежит.
Не «выучи», а «вот пример». Референс, образец, строка в окне. Файн-тюнинг — настоящее обучение №2 с его ценой, не кнопка на сайте.

Следующий урок: Параметры и масштаб → Все уроки теории →