Предисловие

Предисловие

Эта книга не учит пользоваться нейросетями.

Она учит другому навыку: видеть, почему архитектура выглядит именно так — и какие ещё варианты можно было бы проверить.


На рынке полно специалистов, которые берут готовую модель, собирают датасет, обучают, внедряют. Это нормальная и нужная работа. Но есть другой уровень — когда человек смотрит на блок вроде CSP или Attention и понимает не «как вызвать», а «какую боль этот блок закрыл и чем за это заплатили».

Именно оттуда растут новые архитектуры. Не из желания «придумать что-то новое», а из ощущения, что старое решение перестало укладываться в ограничения.


Для кого это

Книга рассчитана на технического читателя:

  • backend- и системных разработчиков;
  • embedded- и FPGA-инженеров;
  • DevOps и людей, которые живут latency и throughput;
  • ML-инженеров, которые хотят выйти за пределы готовых чекпоинтов;
  • студентов, которым важнее причинно-следственные связи, чем список слоёв.

Мы почти не будем объяснять через охотников и альпинистов.
Мы будем объяснять через инженерные аналогии: компилятор, который внезапно стал медленнее на большом проекте; протокол, который обменял универсальность на скорость; систему, в которой «добавить ещё один модуль» почему-то всё ухудшило.


Как устроена книга

Каждая глава — расследование.

Сначала проблема.
Потом гипотезы.
Потом эксперимент.
Потом компромисс.
И только в конце — имя решения, которое вошло в историю.

В конце многих глав будет раздел:

Если бы вы были автором статьи…

Там не будет правильного ответа внизу страницы. Будут вопросы, на которые позже ответит следующая глава — иногда подтверждением, иногда тупиком.


Главная мысль

Почти вся инженерия — это не поиск идеального решения.

Это поиск правильного обмена:

Решение Чем пожертвовали Что получили
Свертка Универсальностью полносвязного слоя Локальность и экономию параметров
Residual Простотой графа вычислений Глубину без коллапса обучения
YOLO Частью точности двухстадийных методов Скорость, пригодную для реального времени
Transformer Линейной сложностью по длине Параллелизм и длинный контекст
FlashAttention Простотой наивной реализации Эффективную работу с памятью GPU

Через пять лет названия моделей изменятся.
Логика останется: проблема → ограничения → гипотеза → эксперимент → компромисс → новое решение.

Именно эту логику мы и будем тренировать.