Как выбирается следующее слово

Список, а не ответ

Договори фразу: «Утром я выпил…». Первым в голову приходит «кофе», но ты слышишь и «чай», и «воды», а «компот» — где-то далеко. У тебя в голове не один ответ, а список с оттенками уверенности. У модели точно так же, только список записан числами: после «Утром я выпил» она держит перед собой все куски словаря, и у каждого стоит вероятность. «Кофе» — высокая, «чай» — пониже, «гвоздь» — почти ноль.

Ответ на экране — не «мысль, записанная целиком». Это цепочка: список — жребий — приклеили — новый список — жребий. Каждый выбранный кусок становится частью текста, по которому строится следующий список, и поэтому первое выбранное слово меняет всё, что за ним. Модель не знает, чем кончится её фраза, когда её начинает. Она знает только список для ближайшего куска.

Жребий: почему тот же запрос — другой ответ

Список один и тот же, но выбор из него — жребий. Кофе с вероятностью 35 % — значит, примерно в двух случаях из трёх выпадет что-то другое. Отправил запрос дважды — два жребия. Там, где верхний вариант сильно оторвался от остальных, оба раза выпадет он. Там, где два-три варианта идут вровень, ответы разойдутся — и дальше по цепочке разойдутся всё сильнее, потому что следующий список строится по разному тексту.

Поэтому «тот же запрос — другой ответ» — не сбой, не «передумала» и не «врёт». Это устройство: жребий по списку. Урок 4 называл это «частое приходит по умолчанию, поровну — выпадает случайно», и вот механика этого случая. Расхождение двух ответов — не брак, а информация: где они совпали, там верхний вариант оторвался; где разошлись, там список плоский и у модели нет одного явного лидера.

Температура: форма списка

Есть одна ручка, которая меняет не сам список, а его форму, — температура. При температуре ноль список схлопывается: верхнему варианту достаётся всё, жребий перестаёт быть жребием, «кофе» выпадает всегда. При высокой температуре список расплющивается: разрыв между «кофе» и «компотом» тает, шанс получают дальние варианты, а на самой высокой — почти любой кусок словаря. Знания модели при этом не меняются ни на грамм. Меняется только, насколько жребий слушается лидера.

Механика внутри честная: сырые веса вариантов делятся на температуру, потом превращаются в вероятности. Делишь на маленькое число — разрывы растут, лидер забирает всё. Делишь на большое — разрывы сжимаются, все выравниваются. Ручка одна, а поведение — от «диктофон» до «генератор случайных слов». И ни в одном положении температура не добавляет модели ни знаний, ни вкуса — только меняет, насколько жребий слушается лидера списка.

Ты только что видел это на шести словах: при нуле пять раз из пяти — одно и то же, при двойке — почти каждый раз разное. У настоящей модели вариантов десятки тысяч, и на двойке жребий начинает доставать куски, которые в этой фразе не стояли никогда. Поэтому «высокая температура = креативность» — миф: это непредсказуемость, а не идеи.

Когда нужна низкая, когда высокая

Ты просишь код, расчёт или выдержку из документа — тебе нужно верхнее из списка, каждый раз одно и то же: если два запуска дают разный код, один из них точно неверен. Ты просишь заголовок, название, идею для сцены — тебе нужен именно разброс: пять одинаковых заголовков бесполезны, а лучший часто стоит в списке не первым. Это два разных режима одной модели, и какой нужен — решаешь ты до запроса.

• Низкая — верхнее из списка: факты и выдержки из источника, код, расчёты, перевод, извлечение данных из текста, строгие шаблоны. Всё, где «другой ответ» — ошибка.
• Высокая — разброс: заголовки, названия, слоганы, идеи сцен, варианты формулировок, «а как ещё можно». Всё, где ценность — в веере, а выбирать будешь ты.
• Ни та, ни другая не про правду: верхнее из списка при нуле может быть галлюцинацией (урок 20); дальнее при двойке — не «свежая идея», а случайный кусок.
• Смешанные задачи — в два шага: сначала веер (разброс), потом выбор и доводка (верхнее). Одним сообщением — задание ниже.

Частая ошибка — ждать от одного режима обоих свойств. Просить «точный факт» и удивляться, что второй запуск отличается, — значит ждать нуля там, где список плоский. Просить «идей» и получать один и тот же заголовок в трёх чатах — значит не попросить разброс явно. Модель не угадывает, какой режим тебе нужен: она тянет жребий по списку, как есть. Режим задаёшь ты.

В наших чатах температуру не крутят — крутят формулировку

Открой любой чат на сайте — Claude, ChatGPT, Grok, Gemini: ползунка температуры там нет и не будет. Это не урезанная версия: ручка, у которой полезный диапазон узкий, а всё остальное — шум, в интерфейсе не нужна. Всё, что она делает, делается формой ответа — и точнее. Хочешь ноль — задай жёсткий шаблон. Хочешь веер — попроси веер числом и признаком различия. Хочешь и то и другое — попроси в одном сообщении, по очереди.

Формула из задания ниже — «дай три заметно разных варианта, потом один самый точный и объясни, чем он точнее» — делает за одно сообщение то, для чего в программном доступе крутят ручку туда и обратно. «Три разных» заставляет модель нарочно пройти по списку вниз, а не остановиться на лидере. «Один самый точный и почему» возвращает её к верхнему — но уже среди своих же вариантов и с критерием, который ты видишь. Ты получаешь и разброс, и выбор, и проверяемую причину.