Данный курс рассматривает основы глубокого обучения и методы применения нейронных сетей в различных задачах. Курс позволит слушателям приобрести прикладные навыки работы с современными моделями и понять теоретические основы работы нейронных сетей. Практическая часть курса включает в себя работу с текстами, изображениями, вопросно-ответными системами и генеративными моделями.
Видеотрансляции занятий будут доступны всем желающим. Студенты, записавшиеся на курс, смогут выполнять домашние задания с автоматической проверкой и получать обратную связь от преподавателей в течение семестра.
Данный курс является составляющей частью серии курсов по искусственному интеллекту в МГУ имени М.В. Ломоносова. Рекомендован к прослушиванию после курсов по программированию на Python и основам машинного обучения. Цель этой серии курсов – предоставление студентам актуальных и современных знаний в области искусственного интеллекта и в различных областях науки о данных.
Список всех тем лекций
Лекция 1. Нейронные сети.
Информация о курсе
Тема лекции: нейронные сети
Логистическая регрессия
XOR Problem
Генерация данных для получения выборки
Построение графика
Построение логистической регрессии и изображение интенсивность ее выхода
Генерация промежуточных признаков
Ответы на вопросы
Преобразование признаков
Полносвязная нейросвязь из идеи улучшения логрегрессии
Элементы нейронных сетей
Нейросети для задачи регрессии
Итоги
Лекция 2. PyTorch, Градиентный спуск для обучения нейросети.
Тема и план лекции
История и применение
Создание полносвязной нейронной сети
Полносвязная нейронная сеть для приближения функции косинуса
Обучение нейронных сетей в Pytorch
Оптимизаторы в PyTorch
Завершение
Лекция 3. Обучение по батчам, регуляризация.
Практика
Напоминание: процедура обучения нейронной сети; алгоритм градиентной оптимизации
Алгоритм обратного распространения ошибки
Обучение по батчам
Нормализация входов сети
Валидационная выборка
Ответы на вопросы
Практика: загрузка датасета
Построение сети
Обучение нейросети
Разделение тренировочных данных на train и val; обучение модели
Завершение
Лекция 4. Компьютерное зрение.
Тема и план лекции: компьютерное зрение
Полносвязная сеть для работы с изображениями
Идея работы сверточной сети
Смысл операции свертки
Прототип сверточной сети для классификации четверок и восьмерок
Pooling
Создание сверточной нейросети
Завершение
Лекция 5. Transfer Learning.
Тема лекции: Transfer Learning
ImageNet
Архитектуры нейросетей
Применение алгоритмов
Тест предобученной сети на одной картинке
Transfer Learning
Заморозка слоев
Скачивание данных
Обучение сети
Завершение
Лекция 6. Эмбеддинги, Word2Vec.
Лекция 7. Рекуррентные нейронные сети (RNN).
Лекция 8. Языковое моделирование.
Лекция 9. Машинный перевод, Seq2Seq, Attention.
Лекция 10. Компьютерное зрение. Сегментация и детекция.
Лекция 11. Компьютерное зрение. Autoencoders & GANs.