Классический ML. 5. Градиентный бустинг
- 00:05Задача безусловной оптимизации
- 04:16Методы решения задачи оптимизации
- 05:25Общий вид метода оптимизации
- 07:26Методы спуска
- 14:40Метод Ньютона
- 18:05Классические методы оптимизации для задачи машинного обучения
- 20:28Стохастические и пакетные методы обучения
- 22:45Важные модификации градиентного метода
- 26:47Другие популярные модификации метода SGD
- 29:35Идея градиентного бустинга
- 36:47Борьба с переобучением
- 42:16Функции потерь
- 51:48Современные алгоритмы бустинга
- 56:59Гистограммный метод для числовых признаков
- 01:02:35Дополнительные модификации деревьев решений и методов подвыборок бустинга
- 01:21:12Градиентный sampling
- 01:27:45Упорядоченный бустинг
- 01:39:05Особенности классического градиентного бустинга деревьев решений
- 01:40:14Учёт потерь ансамбля в каждом дереве


