Optimization Methods

2020/2021

Academic Year

RUS

Instruction in Russian

4

ECTS credits

Delivered at:

Department of Informatics

Course type:

Elective course

When:

1 year, 2, 4 module

Instructors

Ершов Василий Алексеевич

Sadovnikov, Alexander

Программа дисциплины

Аннотация

Является дисциплиной по выбору. Целью освоения дисциплины является изучение соответствующих разделов методов решения оптимизационных задач, формирование навыков применения методов оптимизации при разработке и применении численных методов решения задач из многих областей знания, а также формирование навыков построения и исследования математических моделей таких задач. В результате освоения дисциплины студент должен: знать:  типовые методы оптимизации; уметь:  формализовать типовые модели исследования операций в виде задач математического программирования; разработать программные реализации типовых задач исследования операций; владеть:  методами решения оптимизационных задач с использованием алгоритмических языков высокого уровня (С++, Python).

Цель освоения дисциплины

• Целями освоения дисциплины «Методы оптимизации» являются формирование у студентов теоретических знаний по выпуклому анализу, основным видам задач математической оптимизации, умения проводить анализ сложности (сходимости) методов их решений и практических навыков по методам решения задач математической оптимизации как основного математического аппарата для решения задач машинного обучения.

Планируемые результаты обучения

• Владеет понятием выпуклости в математике. Знает основные параметры задач выпуклой оптимизации. Знает квадратичные функции. Знает свойства итеративных процессов.
• Знает метод Лагранжа для задач с ограничениями в виде равенств. Знает условия Каруша-Куна-Такера. Владеет понятием двойственности.
• Владеет понятием линейной регрессия и метода наименьших квадратов. Знает методы решения СЛАУ.
• Владеет понятием градиентного спуска. Знает ускоренные градиентные методы. Владеет понятием стохастического градиентного спуска. Знает проксимальные методы.

Содержание учебной дисциплины

• Основы выпуклого анализа
• Теория двойственности в задачах с ограничениями.
• Задачи линейной регрессии, МНК, связь СЛАУ и задач оптимизации.
• Градиентные методы в задачах оптимизации.

Элементы контроля

• Домашнее задание 1
• Домашнее задание 2
• Письменный экзамен

Промежуточная аттестация

• Промежуточная аттестация (2 модуль)
  0.25 * Домашнее задание 1 + 0.25 * Домашнее задание 2 + 0.5 * Письменный экзамен
• Промежуточная аттестация (4 модуль)
  0.25 * Домашнее задание 1 + 0.25 * Домашнее задание 2 + 0.5 * Письменный экзамен

Список литературы

Рекомендуемая основная литература

• Черняк А. А., Черняк Ж. А., Метельский Ю. М., Богданович С. А. - МЕТОДЫ ОПТИМИЗАЦИИ: ТЕОРИЯ И АЛГОРИТМЫ 2-е изд., испр. и доп. Учебное пособие для академического бакалавриата - М.:Издательство Юрайт - 2019 - 357с. - ISBN: 978-5-534-04103-3 - Текст электронный // ЭБС ЮРАЙТ - URL: https://urait.ru/book/metody-optimizacii-teoriya-i-algoritmy-438378

Рекомендуемая дополнительная литература

• Токарев В. В. - МЕТОДЫ ОПТИМИЗАЦИИ. Учебное пособие для бакалавриата и магистратуры - М.:Издательство Юрайт - 2019 - 440с. - ISBN: 978-5-534-04712-7 - Текст электронный // ЭБС ЮРАЙТ - URL: https://urait.ru/book/metody-optimizacii-438843