Научитесь решать задачи эффективно
Поймёте теорию, узнаете про основные сложности и отточите знания на практике
Курс для тех, кто уже работает в индустрии и хочет:
- Разобраться в теории
- Освоить фреймворки
- Поднять скиллы
- Перенять опыт
- Чтобы понимать, как работает каждый метод ускорения сетей
- И оптимальным образом ускорять модели под каждый вычислитель
- Освоить востребованный навык, чтобы поднять свою ценность
- Узнать про все сложности от экспертов области
Чему вы научитесь:
- Ускорять инференс за счёт изменения архитектуры и утилизации вычислителя
- Узнаете, как устроен каждый алгоритм: дистилляция, прунинг, квантизация, матричные разложения и NAS
- Совмещать все методы воедино
- Сможете комбинировать различные подходы и решать вытекающие трудности
- Запускать инференс на различных устройствах
- Разберетесь в устройстве CPU, GPU, NPU и научитесь запускать сети на смартфонах и микрокомпьютерах
- Сохранять точность при ускорении
- Создавать модели с высокой точностью и высоким fps даже на одноплатных компьютерах
Программа
Блок 1. База – 8 лекций
1. Distillation
2. Pruning
3. Low-Precision computing
4. NAS
5. Эффективные архитектуры
6. Инференс на процессоре
7. Инференс на графическом ускорителе. Part 1
8. Инференс на графическом ускорителе. Part 2
Блок 2. LLM – 2 лекции
1. Основы ускорения LLM
2. Специфичные методы ускорения LLM
Блок 3. Device – 3 лекции
1. CPU. Part 2: ARM + Android
2. CPU. Part 3: ARM + iOS
3. Одноплатники и их особенности для нейросетей
