Applied Mathematics and Information Science

Delivered at:: Department of Informatics

Course type:: Elective course

When:: 4 year, 1, 2 module

Instructor

Яковлев Дмитрий

Дополнительные материалы в LMS Задать вопрос

Аннотация

В ходе изучения дисциплины «Распределенные вычисления и параллельное программирование» студенты получат знания в области параллельных и распределенных вычислений, овладеют навыком разработки, отладки и исследования производительности параллельных программ. Задачи дисциплины состоят в изучении и практическом освоении современных суперкомпьютерных технологий.

Цель освоения дисциплины

Формирование у обучающихся системного понимания принципов организации параллельных и распределённых вычислений и приобретение практических навыков разработки, анализа и оптимизации параллельных программ для многопроцессорных и распределённых вычислительных систем.

Планируемые результаты обучения

Классифицирует вычислительные системы по архитектурным признакам.
Оценивает потенциальное ускорение с использованием закона Амдала. Выбирает аппаратную платформу под характеристики задачи.
Определяет тип параллелизма, применимый для конкретной вычислительной задачи.
Декомпозирует последовательный алгоритм на параллельные подзадачи. Оценивает вычислительную сложность и коммуникационные затраты параллельного алгоритма. Выбирает стратегию балансировки нагрузки под структуру задачи. Применяет паттерны параллельного программирования при проектировании решения.
Разрабатывает параллельные программы с использованием директив OpenMP.
Применяет механизмы синхронизации для корректной работы с разделяемыми данными.
Настраивает параметры планирования итераций для оптимальной загрузки потоков. Профилирует OpenMP-приложения и выявляет узкие места.
Реализует распределённые вычисления с использованием MPI. Оценивает коммуникационные издержки MPI-программ.
Выбирает подходящие коллективные операции для эффективного обмена данными. Проектирует топологию коммуникаторов под структуру задачи.
Разрабатывает гибридные MPI+OpenMP приложения для кластеров. Реализует параллельные вычисления на GPU с использованием CUDA. Оптимизирует CUDA-ядра с учётом особенностей архитектуры GPU. Оценивает применимость GPU-ускорения для конкретной задачи.
Реализует параллельные алгоритмы для типовых задач вычислительной математики. Оценивает ускорение и эффективность параллельных реализаций.
Сравнивает различные стратегии распараллеливания алгоритмов. Адаптирует существующие алгоритмы под параллельную архитектуру.

Содержание учебной дисциплины

Тема 1. Введение в параллельные вычисления и архитектуры вычислительных систем
Тема 2. Модели параллельного программирования и анализ алгоритмов
Тема 3. Параллельное программирование с OpenMP
Тема 4. Распределённое программирование с MPI
Тема 5. Гибридные модели и ускорение на GPU
Тема 6. Параллельные алгоритмы вычислительной математики

Элементы контроля

ДЗ №4
Тест
ДЗ №3
ДЗ №1
ДЗ №2

Промежуточная аттестация

2026/2027 2nd module
0.1 * ДЗ №1 + 0.6 * Тест + 0.1 * ДЗ №4 + 0.1 * ДЗ №3 + 0.1 * ДЗ №2

Список литературы

Авторы

Оленчук Ольга Геннадьевна
Любавина Светлана Вячеславовна