Практическое руководство по методологии LLMOps: разработке, внедрению и эксплуатации приложений на базе больших языковых моделей (LLM) в производственных средах. Книга охватывает весь современный стек LLM-разработки: от промпт-инжиниринга и генерации с дополненной выборкой (RAG) до агентных систем, памяти, мультимодальности и реальной производственной инфраструктуры. Уделено внимание работе с экосистемой LangChain, векторными базами данных, технологиями оркестрации, подходами к оценке качества моделей и принципами построения масштабируемых ИИ-сервисов. Содержится большое количество практических примеров, упражнений и кейсов, основанных на реальных сценариях разработки корпоративных ИИ-систем.
Книга рассчитана на ML-инженеров, исследователей данных, MLOps-инженеров, бэкенд-разработчиков, технических руководителей и специалистов, экспериментирующих с большими языковыми моделями.
Для ИИ-разработчиков
Большие языковые модели (LLM) стремительно меняют подход к разработке программного обеспечения. Однако создание прототипа на основе LLM — лишь первый шаг. Настоящие сложности начинаются тогда, когда систему необходимо вывести в продакшн, обеспечить релевантность ответов, масштабируемость и безопасность используемых моделей, а также контроль затрат.
Для решения всех этих задач в настоящее время развивается парадигма LLMOps (Large Language Model Operations) —эксплуатация больших языковых моделей. LLMOps относится к специализированным практикам и инструментам, предназначенным для управления всем жизненным циклом больших языковых моделей в производственных средах.
Эта книга посвящена полному жизненному циклу разработки современных ИИ-приложений на основе больших языковых моделей.
Рассмотрены следующие темы:
- Промпт-инжиниринг и методы повышения качества ответов
- Работа с векторными представлениями (эмбеддингами) и семантическим поиском
- Построение RAG-систем и корпоративных баз знаний
- Работа с системой LangChain
- Оркестрация пайплайнов и автоматизация процессов
- Агентные системы и интеграция внешних инструментов
- Тонкая настройка и адаптация моделей под бизнес-задачи
- Системы памяти и персонализация
- Развертывание и масштабирование моделей в производственных средах
- Мультимодальные агентные приложения
- Свободные модели с открытым исходным кодом и инференс на локальной машине
- Практические кейсы разработки ИИ-продуктов
Автор уделяет особое внимание инженерным аспектам разработки: тестированию, мониторингу, CI/CD, управлению стоимостью, отказоустойчивости и архитектурным решениям, необходимым для создания надежных ИИ-сервисов.
Страниц 480
Формат скан pdf
