Optimization Methods

2024/2025

Academic Year

RUS

Instruction in Russian

5

ECTS credits

Delivered at:

Department of Informatics

Course type:

Elective course

When:

3 year, 3, 4 module

Instructors

Головкина Анна Геннадьевна

Kalishenko, Eugene

Программа дисциплины

Аннотация

Дисциплина направлена на изучение соответствующих разделов методов решения оптимизационных задач, формирование навыков применения методов оптимизации при разработке и применении численных методов решения задач из многих областей знания, а также формирование навыков построения и исследования математических моделей таких задач. Для освоения дисциплины студентам необходимы знания, полученные в результате изучения дисциплины «Теория вероятностей и математическая статистика».

Цель освоения дисциплины

• Формирование у студентов теоретических знаний по выпуклому анализу, основным видам задач математической оптимизации, умения проводить анализ сложности (сходимости) методов их решений и практических навыков по методам решения задач математической оптимизации как основного математического аппарата для решения задач машинного обучения.

Планируемые результаты обучения

• Владеет понятием выпуклости в математике. Знает основные параметры задач выпуклой оптимизации. Знает квадратичные функции. Знает свойства итеративных процессов.
• Владеет понятием градиентного спуска. Знает ускоренные градиентные методы. Владеет понятием стохастического градиентного спуска. Знает проксимальные методы.
• Владеет понятием линейной регрессия и метода наименьших квадратов. Знает методы решения СЛАУ.
• Знает метод Лагранжа для задач с ограничениями в виде равенств. Знает условия Каруша-Куна-Такера. Владеет понятием двойственности.

Содержание учебной дисциплины

• Раздел 1. Основы выпуклого анализа
• Раздел 2. Теория двойственности в задачах с ограничениями.
• Раздел 3. Задачи линейной регрессии, МНК, связь СЛАУ и задач оптимизации.
• Раздел 4. Градиентные методы в задачах оптимизации.

Элементы контроля

• Домашнее задание №2
  Домашнее задание №2 выдается студентам в одном варианте и состоит из 2 задач с 3 подпунктами каждая. Каждому пункту присвоен свой балл. Срок выполнения домашнего задания - 1 недели. Форма представления обучающимися домашнего задания - представленные в письменном виде решения задач.
• Домашнее задание №1
  Домашнее задание №1 выдается студентам в одном варианте и состоит из 3 задач с 3 подпунктами каждая. Каждому пункту присвоен свой балл. Срок выполнения домашнего задания — одна неделя. Форма представления обучающимися домашнего задания - представленные в письменном виде решения задач.
• Письменный экзамен
  Письменный экзамен проводится в форме ответов на вопросы экзаменационного билета. Экзаменационный билет содержит два вопроса из перечня вопросов к экзамену. На подготовку ответа выделяется 40 минут.

Промежуточная аттестация

• 2024/2025 4th module
  ОРезультирующая = 0,4 * Онакопленная + 0,6 * Оэкзамен, где Онакопленная рассчитывается как взвешенная сумма всех форм текущего контроля.

Список литературы

Рекомендуемая основная литература

• Методы оптимизации: теория и алгоритмы : учебное пособие для академического бакалавриата / А. А. Черняк, Ж. А. Черняк, Ю. М. Метельский, С. А. Богданович. — 2-е изд., испр. и доп. — Москва : Издательство Юрайт, 2019. — 357 с. — (Бакалавр. Академический курс). — ISBN 978-5-534-04103-3. — Текст : электронный // Образовательная платформа Юрайт [сайт]. — URL: https://urait.ru/bcode/438378 (дата обращения: 28.08.2023).

Рекомендуемая дополнительная литература

• Токарев, В. В.  Методы оптимизации : учебное пособие для бакалавриата и магистратуры / В. В. Токарев. — Москва : Издательство Юрайт, 2019. — 440 с. — (Бакалавр и магистр. Академический курс). — ISBN 978-5-534-04712-7. — Текст : электронный // Образовательная платформа Юрайт [сайт]. — URL: https://urait.ru/bcode/438843 (дата обращения: 28.08.2023).

Авторы

• Кузнецов Антон Михайлович