Что такое?

ИИ и машинное обучение

LLM, RAG, эмбеддинги, MLOps и инференс. Объясняем, как устроены современные AI-системы — от трансформеров до vLLM.

Современные AI-системы строятся из слоёв: модели, данные, retrieval, оркестрация агентов и продакшен-инференс. В разделе собраны термины — от трансформеров и RAG до vLLM и RLHF — с фокусом на практику, а не на академические определения.

Материалы помогут сравнить подходы (fine-tuning vs RAG), понять узкие места (контекстное окно, галлюцинации, квантизация) и связать понятия с инфраструктурой: векторные БД, пайплайны MLOps, фреймворки вроде LangChain.

Начните с блока «С чего начать», если вы проектируете чат-бота, внедряете поиск по документам или выбираете стек для inference в продакшене.

С чего начать

Термины в теме (25)

Частые вопросы

  • Чем RAG отличается от fine-tuning?

    RAG подмешивает релевантные документы в промпт на лету, не меняя веса модели. Fine-tuning обучает модель на ваших данных и меняет поведение, но дороже в сопровождении. Часто комбинируют: RAG для актуальности, fine-tuning для стиля и домена.

  • С чего начать изучение LLM в продакшене?

    Базовые понятия: токенизация, контекстное окно, эмбеддинги и векторный поиск. Затем — промпт-инжиниринг, оценка качества ответов и выбор способа инференса (API vs self-hosted vLLM).

  • Нужен ли MLOps, если модель уже обучена?

    Да, если система уходит в прод: версионирование данных и моделей, мониторинг дрейфа, A/B тесты промптов, логирование и контроль стоимости токенов — это зона MLOps, а не разовая настройка.