← Кузница ВАЙМАН
Кузница ВАЙМАН · Теория · Урок 9
Теория · Урок 9

Параметры и масштаб

«Открой чат на сайте и разверни список моделей: у каждой строчки своя цена за одну и ту же тысячу токенов. Вопрос один, слова те же — а счёт разный. Ты не менял ни кнопки, ни текста. Разница в том, сколько весов крутится за ответом. Урок про это: что даёт размер, чего не даёт и сколько стоит.»

⏱ 8–10 минут 📏 сравнительная полоса, 0ⓥ 💬 кнопка одна, в чат
01

Главная мысль

Параметры модели — это её веса, те самые числа из урока 5, только их миллиарды. Чем больше весов, тем больше закономерностей модель успела запомнить, но каждое слово ответа проходит через все веса разом: большая модель дороже и медленнее на каждом токене. Поэтому «самая большая» — не «самая правильная», а самая дорогая; размер подбирают под задачу.

02

Объяснение

Параметры — те самые веса

В уроке 5 ты двигал один ползунок — вес — и смотрел, как меняется исход у одного нейрона. Теперь представь, что ползунков не один, а миллиарды, и все они выставлены обучением, а не рукой. Слово «параметры» (parameters) — это и есть эти ползунки. Когда говорят «модель на столько-то миллиардов параметров», говорят ровно про число весов внутри неё: сколько чисел в ней настроено.

Один нейронвес из урока 5 — одно число, одна связь между входом и выходом
›
Слойтысячи весов — одна ступень обработки (урок 6)
›
Модельмиллиарды весов — всё, что она выучила, лежит в них. Это и есть «размер»

Ничего другого «внутри» нет. Нет базы фактов, нет правил, записанных словами, нет памяти о твоих прошлых запросах. Есть числа, выставленные на примерах, и вход, который через эти числа проходит. Поэтому «размер модели» — это не размер экрана, не длина ответа и не число кнопок на странице. Это количество весов. Из него растёт всё остальное: и что модель умеет, и сколько стоит её запуск.

Закон 1. Параметры = веса. Модель — это её веса; «размер» — сколько их. Больше ничего внутри нет.
Зачем это тому, кто уже жмёт кнопку ▶
Когда на странице движка стоит переключатель версии — как Flare / Sunburst у GPT Image 2.5, где чипы подписаны «быстрая» и «макс. качество», — перед тобой та же развилка, что в этом уроке: скорость против запаса на сложное. Сколько весов в каждой и как они устроены, страница не раскрывает, и выдумывать не надо: это два разных почерка (урок 3), и проверочный текст гоняй на обоих, а не переноси выводы с одного на другой. Цена за пачку кадров у них на сайте одна, так что разницу ищи в почерке, а не в счёте.

Больше весов — больше закономерностей

Попроси в чате переписать три строчки короче — справится почти любая модель из списка. Попроси разобрать длинный договор, удержать десять условий и найти, где они противоречат друг другу, — малая модель начнёт терять нить на середине, большая дотянет. Разница не в «уме». В большой модели просто больше места под закономерности: она видела те же примеры, но запомнила из них больше связей — между словами, между абзацами, между «если» в начале и «то» в конце.

Малая

Скоростьвысокая
Цена за словонизкая
Что умеет: короткие типовые задачи — переписать, сократить, разложить по пунктам, ответить на простой вопрос.

Средняя

Скоростьсредняя
Цена за словосредняя
Что умеет: тексты подлиннее, несколько условий сразу, черновик статьи, разбор письма.

Большая

Скоростьниже
Цена за слововысокая
Что умеет: длинные документы, много условий, рассуждение по шагам, редкие темы, где закономерность встречалась редко.

Полоса условная: здесь порядок, а не числа. Точные размеры и цены у каждой модели свои — смотри их в списке на странице чата.

Но «больше закономерностей» — не «понимание». Большая модель так же тянет жребий из распределения (урок 15), так же уверенно врёт там, где примеров не было (урок 20), и так же не знает, что она написала минуту назад, если это не лежит в окне (урок 14). Она реже ошибается на сложном — потому что чаще видела похожее, — и это всё. Гарантии размер не даёт; он двигает вероятность.

Закон 2. Больше весов — больше запомненных закономерностей. Не понимание и не гарантия: реже ошибка на сложном, тот же жребий на любом.
Зачем это тому, кто уже жмёт кнопку ▶
Практическая проверка размера — не «умный вопрос», а длинная связка условий: дай пять требований и попроси текст, который выполняет все пять. Малая модель обычно теряет одно-два к концу; большая держит. Если задача укладывается в одно требование — размер не покажет разницы, а деньги возьмёт. И помни: длину ответа и окно (урок 14) размер модели не меняет — это отдельные рычаги.

Почему большая дороже и медленнее

Вернись к списку моделей в чате. Цена там написана за тысячу токенов — на вход и на выход, — и у моделей она разная. Почему? Каждый токен ответа проходит через все веса модели, от первого слоя до последнего (урок 6). Больше весов — больше умножений на один токен, больше времени на видеокарте, больше электричества. Это и есть цена запуска, о которой шла речь в уроке 3: сервис не рисует, он подаёт и считает, а считать ему приходится то, что реально сгорело в железе.

Твой запросрежется на токены (урок 13)
›
Каждый токен × все весачем больше весов, тем дольше и дороже один шаг
›
Ответ по токенамдлиннее ответ — больше шагов
›
Счётразмер × длина — за это сайт списывает ⓥ

Отсюда два следствия, которые видны на сайте. Первое: одна и та же модель стоит тебе тем больше, чем длиннее вход и выход, — поэтому под полем чата сайт показывает оценку «спишется ~ столько-то ⓥ» до отправки. Второе: за один и тот же короткий вопрос большая модель берёт больше, чем малая, — потому что весов, через которые прошёл каждый токен, у неё больше. Ты платишь за размер на каждом слове, а не один раз за вход.

Закон 3. Цена запуска = размер × длина. Большая модель дороже и медленнее на каждом токене, и сайт списывает именно это.
Зачем это тому, кто уже жмёт кнопку ▶
Экономить можно с двух сторон. Со стороны длины — короче вход: не вставляй в чат весь документ, когда нужен абзац; окно (урок 14) считает всё, что в нём лежит, и оценка под полем растёт вместе с ним. Со стороны размера — модель поменьше на подготовительные шаги: разложить задачу, набросать план, вычистить текст, а большую звать на один финальный проход. Две дешёвые итерации плюс одна дорогая обычно выходят дешевле трёх дорогих.

Малые модели — быстрее и дешевле, для простого

Малая модель отвечает быстрее и стоит дешевле — и есть задачи, где ты не заметишь разницы вообще. Переписать абзац короче. Исправить ошибки в тексте. Перевести описание товара на нейтральный тон. Сделать из списка таблицу. Здесь нет «десяти условий», нет редкой темы, нет рассуждения — есть типовая закономерность, которую видела любая модель. Большая сделает то же самое, только дольше и за большие деньги.

Задача простая и типоваяпереписать, сократить, разложить, поправить тон
›
Малая модельбыстро, дёшево; разницы с большой почти не видно
Задача длинная, с условиями, редкаядоговор, десять требований, рассуждение по шагам
›
Большая модельмедленнее, дороже, но реже теряет нить

На сайте эта развилка есть и в картинках. У GPT Image 2.5 два варианта на одной странице — Flare и Sunburst; чипы подписаны «быстрая» и «макс. качество», а что у них внутри, страница не говорит. Цена пачки у них одна, так что выбирать между ними надо по почерку на своём проверочном тексте, а не по счёту. А в чате разница в цене видна напрямую в списке моделей — и именно там выбор размера окупается: на десяти простых запросах в день малая модель экономит заметно, не теряя в результате.

Закон 4. Малая модель — быстрее и дешевле; для простого и типового её хватает. Гнаться за самой большой на простом — переплачивать за то же самое.
Зачем это тому, кто уже жмёт кнопку ▶
Хороший рефлекс: по умолчанию — модель поменьше, а большую включать по симптому, не заранее. Симптомы: потеряно условие, ответ «поплыл» к концу, тема редкая и ответ звучит уверенно, но сомнительно (урок 20). Тогда тот же запрос — в большую, без переписывания: так ты увидишь, что изменил размер, а не формулировка (урок 18).

Как подбирать: сначала задача, потом модель

Маршрут простой: сначала смотри на задачу, потом на список моделей. Сколько условий надо удержать? Длинный ли вход? Редкая ли тема? Нужно ли рассуждать по шагам? Каждое «да» — плюс к размеру. Ни одного — бери малую. Ниже — задание на простую задачу, где размер не нужен: попробуй в чате и посмотри на оценку списания под полем до отправки.

Простая задача — малой модели

Впиши текст, который надо ужать, и предел по словам. Это типовая задача: любой размер справится, а платить за большую нет смысла. На странице чата открой список моделей и возьми ту, что дешевле.

Запрос появится здесь, когда заполнишь поля.
Открыть чат с этим заданием →

Сообщение спишет цена сообщения зависит от модели и длины — сайт показывает «спишется ~…ⓥ» под полем до отправки. Перед отправкой посмотри на строку под полем: там точная оценка списания — она растёт с длиной входа и с размером модели.

Закон 5. Подбирай размер под задачу: считай условия, длину и редкость темы. Ни одного «да» — малая; несколько — большая, и только на финальный проход.
Зачем это тому, кто уже жмёт кнопку ▶
Оператор держит два коротких проверочных запроса: простой (переписать абзац) и сложный (пять условий сразу). Новую модель в списке прогоняет на обоих и записывает: время, цена по оценке под полем, что потеряла. Через пять таких прогонов у тебя своя полоса «малая / средняя / большая» — по деньгам и по делу, а не по рекламе.
03

Аналогия

Аналогия · маленькая мастерская и большой цех

Представь две мастерские. В маленькой один мастер и сотня инструментов на стене: он быстро делает то, что делал тысячу раз, — табурет, полку, раму. В большой — цех, десять тысяч инструментов и оснастка под редкие заказы: резная лестница, мебель по чертежу с двадцатью условиями. Инструменты — это веса. Их число — размер. Большой цех умеет больше редкого, потому что у него есть оснастка под редкое; но табурет он сделает не лучше, а дольше и дороже — заказ надо прогнать через весь цех.

И ни одна мастерская не «понимает», зачем тебе табурет. Она делает то, что похоже на прошлые заказы. Если чертёж редкий и таких заказов у цеха не было — большой цех тоже ошибётся, только увереннее. Поэтому выбирают не «самую большую мастерскую в городе», а ту, чьи инструменты подходят под заказ. Табурет — маленькой, лестницу — большой, и счёт получится честным.

04

Что это значит на практике

  1. Посчитай задачу до выбора модели: условия, длина входа, редкость темы, нужно ли рассуждать по шагам. Каждое «да» — плюс к размеру.
  2. По умолчанию — модель поменьше. Простое: переписать, сократить, разложить, поправить тон. Большую включай по симптому: потеряно условие, ответ поплыл, тема редкая.
  3. Смотри на оценку под полем чата до отправки: она показывает, за что спишется — длину и модель. Укороти вход, прежде чем менять модель.
  4. Не жди от размера гарантии. Большая модель реже ошибается на сложном, но врёт так же уверенно там, где примеров не было. Проверяй факты в любой модели.
05

Заблуждение, которое мешает

Заблуждение, которое убивает этот урок: «Чем больше модель, тем она умнее, и большая всегда ответит правильнее. Значит, надо всегда брать самую большую — и всё будет хорошо».

Оно вредит сразу в трёх местах.

Первое: ты платишь на каждом слове за то, что и малая модель сделала бы так же. Сократить абзац большой моделью — то же, что заказать табурет в цехе с оснасткой под лестницы.

Второе: ты веришь ответу большой модели сильнее и перестаёшь проверять — а жребий и галлюцинации у неё те же. На редкой теме уверенный тон звучит одинаково у правды и у выдумки.

Третье: ты ищешь «самую большую», когда надо чинить формулировку (урок 18) или окно (урок 14). Размер не лечит плохой запрос: типичное на пустой промпт придёт из любой модели, только дороже.

Размер — один рычаг из нескольких, и не первый. Сначала запрос, потом окно, потом размер.

06

Проверка

Выбери вариант — разбор появится сразу, и на верный, и на неверный.

1. В списке моделей чата два варианта, один дороже за тысячу токенов. Что стоит за разницей в цене?
2. Надо переписать абзац описания товара короче. Какую модель брать?
3. Большая модель уверенно ответила на редкий вопрос. Что это значит?

Понял?

Отмечай только то, что можешь прямо сейчас сказать вслух своими словами. Это не галочки для отчёта, а проверка, что урок улёгся.

Могу сказать, что такое параметры: веса из урока 5, только их миллиарды, и кроме них внутри модели ничего нет
Понимаю, что даёт размер — больше запомненных закономерностей — и чего не даёт: ни понимания, ни гарантии
Понимаю, почему большая модель дороже и медленнее: каждый токен проходит через все веса, и сайт списывает размер × длину
Умею подбирать размер под задачу: считаю условия, длину и редкость; простое — малой, сложное — большой на финальный проход

07

Итог

  1. Параметры — это веса; размер модели — сколько их. Больше весов — больше закономерностей, не понимание.
  2. Каждый токен проходит через все веса: большая модель дороже и медленнее на каждом слове; сайт списывает размер × длину, и оценка видна под полем чата.
  3. Малая — для простого и типового, большая — для условий, длины и редкого. Сначала запрос и окно, размер — потом.
Следующий урок: Эмбеддинг → Все уроки теории →