Страница курса: https://lk.msu.ru/course/view?...

Курс включает знакомство с основными понятиями теории машинного обучения и прогнозирования. В первой части курса рассматривается формализация основных задач машинного обучения, излагаются алгоритмы обучения для линейно разделимых обучающих выборок, методы градиентного спуска и его разновидности, метод обучения нейронных сетей, метод опорных векторов, ядерные методы машинного обучения, регрессионный анализ, метрические и вероятностные модели машинного обучения, логические модели машинного обучения. Во второй части рассматриваются задачи адаптивного прогнозирования в нестохастических теоретико-игровой и сравнительной постановках: игры с прогнозами и прогнозы с использованием экспертных стратегий.

Список всех тем лекций

Лекция 1. Задачи и модели машинного обучения.
Вводное слово к курсу Задачи машинного обучения Выпуклая оболочка множества точек Теорема 1

Лекция 2. Линейно разделимые выборки. Алгоритм обучения Розенблатта. Теорема Новикова.
Уточнение к предыдущей лекции Алгоритм обучения Розенблатта Теорема Новикова Задача прогнозирования

Лекция 3. Задача принятия решений. Алгоритм оптимального распределения потерь.
Задача принятия решений Теорема 1 Случай, когда эксперты любого типа Теорема 2 Алгоритм оптимального распределения потерь Теорема 3

Лекция 4. Алгоритм оптимального распределения потерь.
Алгоритм оптимального распределения потерь Лемма Утверждение (в лемме) Теорема

Лекция 5. Бустинг.
Качество экспертов Алгоритм машинного обучения Преобразование слабых классификаторов в сильные Теорема Следствие из теоремы

Лекция 6. Агрегирующий алгоритм Вовка.
Лемма Агрегирующий алгоритм Вовка Теорема Алгоритм обучения Лемма Доказательство теоремы

Лекция 7. Теоретико-игровой супермартингал. Часть 1.
Агрегирующий алгоритм Вовка (повторение материала предыдущей лекции) Теорема Теоретико-игровой супермартингал Теорема Лемма

Лекция 8. Теоретико-игровой супермартингал. Часть 2.
Задача (прогноз без опоры на имеющиеся ресурсы) Теоретико-игровой супермартингал Теорема Применение теоремы к функциям потерь Построение супермартингала

Лекция 9. Предсказательные стратегии.
Предсказательные стратегии Смешивающая предсказательная стратегия Минимаксная предсказательная стратегия Предсказательная стратегия Лапласа Детерминированное и вероятностное прогнозирование

Лекция 10. Построение предсказаний без экспертов.