We use cookies in order to improve the quality and usability of the HSE website. More information about the use of cookies is available here, and the regulations on processing personal data can be found here. By continuing to use the site, you hereby confirm that you have been informed of the use of cookies by the HSE website and agree with our rules for processing personal data. You may disable cookies in your browser settings.

  • A
  • A
  • A
  • ABC
  • ABC
  • ABC
  • А
  • А
  • А
  • А
  • А
Regular version of the site

Monte Carlo and ML methods

2024/2025
Academic Year
RUS
Instruction in Russian
4
ECTS credits
Course type:
Compulsory course
When:
3 year, 3, 4 module

Instructor

Программа дисциплины

Аннотация

Курс "Методы Монте-Карло и Машинное обучение" знакомит студентов с передовыми методами в области статистического моделирования и машинного обучения. Программа курса включает изучение ключевых алгоритмов Методов Монте-Карло, применение байесовских методов в машинном обучении, а также использование библиотеки PyMC3 для построения и анализа байесовских моделей. Студенты получат не только теоретические знания, но также и практические навыки работы с данными, что позволит им успешно применять передовые методы анализа данных и построения моделей в своей профессиональной деятельности.
Цель освоения дисциплины

Цель освоения дисциплины

  •  Освоить фундаментальные принципы методов Монте-Карло и их применение для моделирования и оценки неопределенности в задачах машинного обучения.
Планируемые результаты обучения

Планируемые результаты обучения

  • Развить навыки работы с различными типами данных, включая текстовые, аудио- и визуальные данные, с целью их анализа с использованием методов Монте-Карло.
  • Применять методы Монте-Карло для повышения надежности и точности нейросетевых моделей, а также для оценки доверительных интервалов и вероятностных предсказаний.
  • Приобрести навыки оптимизации процесса обучения нейросетевых моделей с использованием методов Монте-Карло, включая стохастическую оптимизацию и байесовскую оптимизацию гиперпараметров.
  • Углубить знания в областях обработки естественного языка, речевых технологий и компьютерного зрения, с акцентом на применение методов Монте-Карло для решения сложных задач.
  • Развить способность к проведению самостоятельных исследований и разработке решений на основе методов Монте-Карло, включая работу с большими данными.
  • Сформировать умение интегрировать методы Монте-Карло в современные архитектуры глубокого машинного обучения и адаптировать эти методы для решения реальных прикладных задач.
  • Углубить знания в областях обработки естественного языка, речевых технологий и компьютерного зрения, с акцентом на применение методов Монте-Карло.
  • Развить способность к проведению самостоятельных исследований и разработке решений на основе методов Монте-Карло.
  • Разрабатывать и реализовывать алгоритмы Монте-Карло, включая Марковские цепи Монте-Карло и сэмплирование, для моделирования, оптимизации и оценки неопределенности в задачах машинного обучения.
  • Применять методы Монте-Карло для улучшения надежности нейросетевых моделей, включая оценку доверительных интервалов и вероятностных предсказаний, особенно в задачах обработки естественного языка, речевых технологий и компьютерного зрения.
  • Оптимизировать обучение нейросетевых моделей с использованием методов Монте-Карло, применяя стохастическую оптимизацию и байесовскую оптимизацию гиперпараметров для повышения производительности моделей.
  • Использовать современные библиотеки глубокого машинного обучения, такие как PyTorch, TorchAudio, Timm и Vit-Pytorch, для разработки и тестирования сложных нейросетевых моделей.
  • Проводить самостоятельные исследования и разработки в области методов Монте-Карло, решая сложные задачи и улучшая модели для реальных приложений.
  • Интегрировать методы Монте-Карло в существующие архитектуры глубокого машинного обучения, адаптируя их для различных задач, связанных с обработкой естественного языка, речевыми технологиями и компьютерным зрением.
  • Работать с большими объемами данных, масштабируя методы Монте-Карло и эффективно управляя вычислительными ресурсами для выполнения задач машинного обучения.
  • Проводить исследования и разработки в области методов Монте-Карло, решая сложные задачи и улучшая модели для реальных приложений.
  • Использовать библиотеки глубокого машинного обучения, такие как PyTorch, TorchAudio, Timm и Vit-Pytorch, для разработки и тестирования сложных нейросетевых моделей.
  • Анализировать и интегрировать данные из различных модальностей (тексты, изображения, аудиосигналы), применяя методы Монте-Карло для повышения точности и надежности моделей.
  • Оптимизировать обучение нейросетевых моделей с использованием методов Монте-Карло, применяя стохастическую оптимизацию и байесовскую оптимизацию гиперпараметров.
  • Применять знания Монте-Карло для улучшения надежности нейросетевых моделей, включая оценку доверительных интервалов и вероятностных предсказаний, особенно в задачах обработки естественного языка, речевых технологий и компьютерного зрения.
  • Разрабатывать алгоритмы Монте-Карло, включая Марковские цепи Монте-Карло и сэмплирование, для моделирования, оптимизации и оценки неопределенности в задачах машинного обучения.
  • Реализовывать алгоритмы Монте-Карло, включая Марковские цепи Монте-Карло и сэмплирование, для моделирования, оптимизации и оценки неопределенности в задачах машинного обучения.
  • Сформировать знание интегрировать методы Монте-Карло в современные архитектуры глубокого машинного обучения и адаптировать эти методы для решения реальных прикладных задач.
  • Углубить знания в областях обработки естественного языка, речевых технологий.
  • Освоить современные инструменты и библиотеки для глубокого обучения, такие как PyTorch, Transformers, TorchAudio, Timm и Vit-Pytorch с целью эффективной разработки и тестирования моделей машинного обучения.
Содержание учебной дисциплины

Содержание учебной дисциплины

  • Введение в методы Монте-Карло.
  • Основы случайного моделирования.
  • Методы Монте-Карло для интеграции и оценки.
  • Марковские цепи Монте-Карло.
  • Монте-Карло в задачах обработки естественного языка (NLP).
  • Монте-Карло для улучшения речи (Speech Enhancement).
  • Методы Монте-Карло в компьютерном зрении (CV).
  • Оптимизация гиперпараметров с использованием Монте-Карло.
  • Мультимодальные данные и методы Монте-Карло.
  • Мультизадачные модели и методы Монте-Карло.
  • Методы Монте-Карло для предсказания и прогнозирования.
  • Методы Монте-Карло в больших данных.
  • Применение Монте-Карло в индустрии.
  • Заключение курса.
Элементы контроля

Элементы контроля

  • блокирует часть оценки/расчета Домашние задание
  • блокирующий Итоговый проект
Промежуточная аттестация

Промежуточная аттестация

  • 2024/2025 4th module
    0.25 * Домашние задание + 0.25 * Домашние задание + 0.5 * Итоговый проект
Список литературы

Список литературы

Рекомендуемая основная литература

  • Методы Монте-Карло в статистической физике, , 1982
  • Соболевский, Н. М. Метод Монте-Карло в задачах о взаимодействии частиц с веществом : учебное пособие / Н. М. Соболевский. — Москва : ФИЗМАТЛИТ, 2017. — 208 с. — ISBN 978-5-9221-1723-4. — Текст : электронный // Лань : электронно-библиотечная система. — URL: https://e.lanbook.com/book/104985 (дата обращения: 00.00.0000). — Режим доступа: для авториз. пользователей.