← Кузница ВАЙМАН
Кузница ВАЙМАН · Теория · Урок 10
Теория · Урок 10

Эмбеддинг: где живут слова

«Ты заменил в запросе одно слово — «женщина» на «дама» — и кадр перекрасился целиком: другой возраст, другая одежда, другой свет. Для тебя это синонимы. Для модели — две разные точки на карте смыслов, и всё, что стояло вокруг новой точки, пришло вместе с ней.»

⏱ 8–10 минут 🧭 живая карта слов 💬 кнопка одна, в чат
01

Главная мысль

Слово для модели — не буквы и не словарная статья, а точка среди миллионов других точек. Близкие по смыслу стоят рядом, далёкие — далеко, а синоним — соседняя точка, не та же самая. Поэтому слова в запрос подбирают не «красивые», а те, что стоят в нужной окрестности: откуда слово, оттуда и придёт ответ.

02

Объяснение

Буквы для модели ничего не значат

Напиши в чат «кот» и «код» — одна буква разницы, а модель ни разу их не спутает. Напиши «кошка» и «cat» — ни одной общей буквы, а ответ придёт про одно и то же животное. Значит, модель сравнивает не написание. Перед тем как слово попадёт внутрь, оно превращается в набор чисел — координаты, — и дальше модель работает только с ними. Слова с похожими координатами для неё похожи, как бы они ни писались.

Слово «кошка»то, что ты написал: буквы, которые модель сама по себе не сравнивает
›
Номер в словаремодель находит слово в своём списке; у «кошки» и «cat» номера разные
›
Набор чиселпо номеру достаются координаты — их сотни, и они сложились при обучении
›
Точка на карте смысловрядом стоят «кот», «котёнок», «собака»; «cat» — почти в той же точке

Этот набор чисел и называют эмбеддингом (embedding) — вложением слова в пространство смыслов. Ставит координаты не человек: они сложились при обучении из того, в каких окружениях слово встречалось в чужих текстах (урок 4). Модель не «понимает» слово — она знает, где оно стоит и кто стоит рядом.

Закон 1. Модель не читает буквы — она ставит слово точкой на карту смыслов. «Похожие» для неё значит «рядом», как бы слова ни писались.
Зачем это тому, кто уже жмёт кнопку ▶
Точку получает не слово, а токен (урок 13): длинное или редкое слово режется на куски, и у каждого куска — свои координаты. Отсюда практическое: опечатка в частом слове обычно не страшна — куски всё равно попадут в нужную окрестность; опечатка в редком термине может увести в другой район карты. Латинские названия техник и объективов вроде 85mm или bokeh — тоже точки, часто с очень плотной и точной окрестностью, поэтому в промпте они работают надёжнее описательных слов.

Близкое — рядом, далекое — далеко

Почему «кошка» и «собака» стоят рядом, а «кошка» и «чай» — далеко? Потому что в миллионах текстов кошку и собаку окружали одни и те же слова: «кормить», «гладить», «ветеринар», «лапы». А чай окружали «заварить», «чашка», «кипяток». Обучение двигало точки так, чтобы слова с похожим окружением оказались рядом. Расстояние на карте — это сходство окружений. Потрогай сам: карта ниже учебная, но закон на ней тот же.

Задание. Найди слово, у которого три ближайших соседа — из двух разных тем.
Нажми на любое слово — подсветятся три ближайших и расстояние до каждого.
Это учебная карта: положение слов задано вручную по смыслу, а расстояние — просто длина отрезка на ней. У настоящей модели координат не две, а сотни, и ставит их обучение, а не человек. Закон тот же: близкие по смыслу — рядом.
Что это доказывает. Модель хранит слово не как буквы, а как точку среди других точек. «Похожие» для неё значит «рядом», и слова на границе тем тянутся сразу в две стороны.

На карте видно и слова-мосты: «молоко», «корова», «деревня» стоят между районами. Настоящая карта в сотни раз плотнее, но мосты на ней те же — и в промпте они работают как развилки: тянут сразу в две темы.

Закон 2. Расстояние между словами — это сходство их окружений в чужих текстах. Близко — значит, употребляли в одних и тех же местах.
Зачем это тому, кто уже жмёт кнопку ▶
Расстояние между точками — число, и модель пользуется им постоянно: так работает поиск похожих запросов, подбор картинки по описанию, ответ «этот вопрос похож на прошлый». Для промпта важнее другое: слово на границе тем тянет сразу в две стороны. «Молоко» на карте стоит между напитками и животными — и к стакану в кадре придёт корова. Слова-мосты хороши, когда нужны обе темы, и опасны, когда нужна одна.

Синоним — соседняя точка, не та же

Вернись к «женщине» и «даме». Для тебя одно; на карте — две точки в одном районе, но в разных дворах. Вокруг «дамы» стоят «шляпа», «бал», «перчатки», «эпоха»; вокруг «женщины» — «работа», «дом», «возраст», «портрет». Заменяя слово, ты переезжаешь в другой двор, и модель приносит соседей нового слова. В уроке 18 это звучало как «синоним — смена полки». Полка и есть окрестность точки.

  • «Фотка» — соседи: телефон, селфи, сторис, вспышка в лоб. Окрестность любительская — оттуда и кадр.
  • «Снимок» — соседи: плёнка, фотограф, выдержка, архив. Окрестность репортажная, с зерном и случайным светом.
  • «Фотопортрет» — соседи: студия, свет, объектив, ретушь. Окрестность постановочной съёмки — та, что обычно и нужна.

Три слова, которые словарь назовёт синонимами, приносят три разных кадра — не потому, что модель придирается к словам, а потому, что у каждого свой двор. Выбирай не то, что звучит привычнее, а то, чьи соседи нужны тебе в кадре.

Закон 3. Синоним для тебя — другая точка для модели, и она приносит своих соседей. Сменил слово — сменил окрестность, из которой придёт ответ.
Зачем это тому, кто уже жмёт кнопку ▶
Проверка окрестности стоит одно сообщение: попроси чат назвать десять слов, которые чаще всего стоят рядом с твоим. Если в списке нет ничего из того, что нужно в кадре, — слово не с той полки, каким бы точным оно ни казалось. Для картинок особенно коварны бытовые уменьшительные: «фотка», «картинка», «портретик» — их окрестность любительская, и движок принесёт любительский кадр, сколько техники ни допиши рядом.

Красивое слово стоит не там, где ты думаешь

Слова «профессионально», «качественно», «красиво», «стильно» кажутся усилителями. На карте они стоят в окрестности рекламы и стока: рядом «баннер», «акция», «идеально», «улыбка». Оттуда и приходит стоковый кадр — гладкая кожа, ровная улыбка, никакой фактуры. Слова из технической окрестности — «свет из окна слева», «объектив 85 мм», «кожа с текстурой» — стоят рядом с «съёмка», «выдержка», «фотограф» и приносят кадр оттуда.

Посмотри соседей двух слов

Заготовка — запрос, который заставляет модель показать окрестности двух формулировок и сказать, какая ближе к задаче. Впиши свои слова или оставь пример. Кнопка откроет чат с этим текстом.

Запрос появится здесь, когда заполнишь поля.
Открыть чат с этим текстом →

Сообщение спишет около 0,4ⓥ ≈ 13 ₽ (обычный ответ Claude; цена — по длине текста) — цену сообщения сайт показывает под полем до отправки. Карту модель тебе не покажет, но её ответ — отражение карты: соседи, которых она перечислит, и есть окрестность слова. Сравни два списка: в каком из них есть то, что нужно в кадре?

Закон 4. Выбирай слово по соседям, а не по звучанию. Где слово стоит на карте, оттуда и придёт кадр.
Зачем это тому, кто уже жмёт кнопку ▶
Рабочий приём: в каждом слоте промпта (кто, план, свет, фон, обработка — урок 17) заменяй оценку словом из окрестности съёмки. «Красивый свет» → «мягкий свет из окна слева»; «качественно» → «объектив 85 мм, кожа с текстурой». Оценочные слова не запрещены, но к слотам они не добавляют ничего, а тянут в стоковую окрестность. Нужен стиль — называй его через то, что стоит рядом: «плёночное зерно», «жёсткая тень от полуденного солнца», а не «атмосферно».

Запрос — это путь по карте

Целый запрос модель тоже превращает в точки — по одной на каждый кусок. Ответ собирается из окрестности, куда сходятся все тяги: каждое слово тянет к своим соседям. Два слова из одной окрестности усиливают друг друга; слово из чужой сдвигает всё. Поэтому одно «мультяшно» в конце запроса про фотопортрет перекрашивает кадр: оно тянет в район, где нет ни объектива, ни текстуры кожи.

«Портрет по грудь»тянет в окрестность съёмки: план, камера, модель в кадре
«Мягкий свет из окна»тянет туда же: свет, окно, фотограф — тяги складываются
«Мультяшно»тянет в окрестность анимации: контур, заливка, большие глаза
Кадр приходит из точки, где сошлись тягимежду съёмкой и анимацией: ни фото, ни мультфильм — то самое «перекрасилось»

Это же объясняет, почему длинный промпт из точных слов надёжнее короткого из общих: десять слов из одной окрестности тянут в одну сторону, и ответ приходит из плотного места. Одно-два общих слова оставляют модель посреди карты, откуда идти можно куда угодно.

Закон 5. Запрос — сумма тяг: каждое слово тянет к своим соседям. Одно слово из чужой окрестности сдвигает весь кадр.
Зачем это тому, кто уже жмёт кнопку ▶
Отсюда правило чистоты: не смешивай окрестности, если не хочешь смеси. Стиль — одним районом («плёночная съёмка», «студийный свет»), а не «фото, но чуть как картина и немного как аниме». Запрет (negative_prompt, где он есть) — это тяга от окрестности: он отодвигает, но не ставит нужное на место. Порядок слов — тоже часть пути: ранние куски выбирают район первыми (урок 18). Не знаешь, куда тянет слово, — спроси у чата его соседей; это дешевле, чем запуск.
03

Аналогия

Аналогия · город, где слова — дома

Представь город, где каждое слово — дом, и дома стоят не по алфавиту, а по смыслу. Район животных, район напитков, район музыки. Внутри района — дворы: «кошка» и «кот» в одном дворе, «собака» через дорогу, «тигр» на соседней улице. «Чай» — на другом конце города. Модель не знает, что такое кошка. Она знает адрес и то, кто живёт по соседству.

Когда ты пишешь запрос, ты называешь адреса. «Дама» и «женщина» — дома в одном районе, но в разных дворах, и у каждого двора свои соседи: у одного шляпы и бал, у другого работа и портрет. Модель приносит то, что нашла вокруг названного дома. Поэтому «красивое» слово — не то, что хорошо звучит, а то, чей двор тебе нужен.

04

Что это значит на практике

  1. Проверяй соседей, а не звучание. Сомневаешься в слове — спроси чат, что стоит рядом с ним. Нет в списке нужного — слово не из той окрестности, каким бы точным оно ни казалось.
  2. Синоним — переезд. Меняя слово в рабочем промпте, жди, что сменится не одна деталь, а окружение целиком. Не хочешь перекраски — не трогай слово, которое уже работает.
  3. Оценку меняй на технику. «Профессионально», «качественно», «красиво» стоят в окрестности стока; «свет из окна слева», «объектив 85 мм», «кожа с текстурой» — в окрестности съёмки.
  4. Не смешивай районы без нужды. Одно слово из чужой окрестности тянет весь кадр. Стиль — одним районом, а не тремя понемногу.
05

Заблуждение, которое мешает

Заблуждение, которое убивает этот урок: «Модель понимает слова как словарь: синонимы для неё равны, а важно только правильно написать».

Оно вредит сразу в трёх местах.

Первое: ты правишь рабочий промпт «почти тем же словом» и удивляешься, что кадр перекрасился. Слово было другой точкой, и оно принесло других соседей.

Второе: ты «усиливаешь» запрос эпитетами — «профессионально», «качественно», «шедеврально» — и получаешь сток. Эпитеты стоят в окрестности рекламы, и модель честно принесла оттуда.

Третье: ты боишься опечаток и латинских терминов, хотя первые модель обычно прощает, а вторые — самые точные адреса на карте.

Из этой веры вырастает привычка выбирать слова по звучанию. Вместо неё — привычка думать адресами: где стоит слово и кто рядом.

06

Проверка

Выбери вариант — разбор появится сразу, и на верный, и на неверный.

1. Почему «кошка» и «собака» на карте рядом, а «кошка» и «чай» — далеко?
2. Ты заменил в рабочем промпте «женщина» на «дама» — и кадр перекрасился целиком. Что произошло?
3. Нужен портрет врача для сайта клиники. Какое добавление к запросу вернее?

Понял?

Отмечай только то, что можешь прямо сейчас сказать вслух своими словами. Это не галочки для отчёта, а проверка, что урок улёгся.

Могу объяснить, почему модель не читает буквы: слово — точка на карте смыслов, и «похожие» для неё значит «рядом»
Понимаю, откуда взялись расстояния: из сходства окружений в чужих текстах, а не из словаря или биологии
Умею читать синоним как переезд: другая точка — другие соседи, и знаю, почему «дама» перекрасила кадр
Знаю, что оценочные слова стоят в окрестности стока, и умею заменять их словами из окрестности съёмки

07

Итог

  1. Слово — точка на карте смыслов. Модель не сравнивает буквы: она знает, где слово стоит и кто рядом, а расстояние сложилось из окружений в чужих текстах.
  2. Синоним — соседняя точка, не та же. Сменил слово — сменил окрестность, и модель принесла других соседей. Это и есть «смена полки» из урока 18.
  3. Слова подбирают по соседям. Оценки стоят в окрестности стока, техника — в окрестности съёмки; одно слово из чужого района сдвигает весь кадр.
Следующий урок: LLM — что это → Все уроки теории →