Нейробайесовские методы в машинном обучении

2021/2022

Учебный год

RUS

Обучение ведется на русском языке

4

Кредиты

Кто читает:

Департамент информатики

Статус:

Курс по выбору

Когда читается:

2-й курс, 3 модуль

Преподаватель

Кузнецов Антон Михайлович

Программа дисциплины

Аннотация

Является дисциплиной по выбору. Дисциплина посвящена применению байесовских методов в глубинном обучении. На лекциях будет рассказано о применении вероятностного моделирования для построения порождающих моделей данных, использованию состязающихся сетей для приближенного вывода, моделированию неопределенности в параметрах нейронной сети и о некоторых открытых проблемах глубинного обучения.

Цель освоения дисциплины

• Изучение байесовских методов в глубинном обучении.

Планируемые результаты обучения

• Владеть эвристиками для ускорения работы нейробайесовских алгоритмов и для снижения дисперсии стохастических градиентов
• Знать различные вариации методов байесовского вывода
• Уметь анализировать теоретические свойства рассматриваемых алгоритмов машинного обучения
• Уметь выбирать и обучать генеративные модели из семейства GAN
• Уметь выбирать и обучать генеративные модели из семейства VAE
• Уметь осуществлять сжатие нейронных сетей на основе байесовского подхода

Содержание учебной дисциплины

• Стохастический вариационный вывод
• Вариационный автокодировщик
• Байесовские нейронные сети
• GAN

Элементы контроля

• Домашнее задание 1
• Домашнее задание 2
• Экзамен

Промежуточная аттестация

• 2021/2022 учебный год 3 модуль
  0.3 * Домашнее задание 1 + 0.3 * Домашнее задание 2 + 0.4 * Экзамен

Список литературы

Рекомендуемая основная литература

• Геворкян Гурген Аркадиевич. (2017). Нейронные сети: графический интерфейс пользователя в Matlab. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.4576DF4C
• Дифференциальные уравнения и вариационное исчисление : Учебник для вузов, Эльсгольц, Л. Э., 2000
• Нейронные сети, генетические алгоритмы и нечеткие системы, Рутковская, Д., 2008

Рекомендуемая дополнительная литература

• U. Rabtsau N., & В. Рябцев Н. (2015). Stochastic Approach for Evaluation of Reliability and Residual Life of Transport Structures ; Стохастический Подход К Оценке Надежности И Остаточного Ресурса Транспортных Сооружений. Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.74B384A1
• Байесовские методы статистического оценивания : надежность технических объектов, Савчук, В. П., 1989
• Бутусов Олег Борисович, Butusov Oleg Borisovich, Джулай Анна Алексеевна, & Dzhulai Anna Alekseevna. (2018). Применение методов визуального моделирования и программирования в образовательном процессе по дисциплине «Нейронные сети». Retrieved from http://search.ebscohost.com/login.aspx?direct=true&site=eds-live&db=edsbas&AN=edsbas.E28243B