Поймёте теорию, узнаете про основные сложности и отточите знания на практике
Курс для тех, кто уже работает в индустрии и хочет:
Разобраться в теории
Освоить фреймворки
Поднять скиллы
Перенять опыт
Чтобы понимать, как работает каждый метод ускорения сетей
И оптимальным образом ускорять модели под каждый вычислитель
Освоить востребованный навык, чтобы поднять свою ценность
Узнать про все сложности от экспертов области
Чему вы научитесь:
Ускорять инференс за счёт изменения архитектуры и утилизации вычислителя
Узнаете, как устроен каждый алгоритм: дистилляция, прунинг, квантизация, матричные разложения и NAS
Совмещать все методы воедино
Сможете комбинировать различные подходы и решать вытекающие трудности
Запускать инференс на различных устройствах
Разберетесь в устройстве CPU, GPU, NPU и научитесь запускать сети на смартфонах и микрокомпьютерах
Сохранять точность при ускорении
Создавать модели с высокой точностью и высоким fps даже на одноплатных компьютерах
Программа
Блок 1. База – 8 лекций
1. Distillation
2. Pruning
3. Low-Precision computing
4. NAS
5. Эффективные архитектуры
6. Инференс на процессоре
7. Инференс на графическом ускорителе. Part 1
8. Инференс на графическом ускорителе. Part 2
Блок 2. LLM – 2 лекции
1. Основы ускорения LLM
2. Специфичные методы ускорения LLM
Блок 3. Device – 3 лекции
1. CPU. Part 2: ARM + Android
2. CPU. Part 3: ARM + iOS
3. Одноплатники и их особенности для нейросетей