Large Language Models

2025/2026

Academic Year

RUS

Instruction in Russian

4

ECTS credits

Delivered at:

Department of Informatics

Course type:

Compulsory course

When:

4 year, 3 module

Программа дисциплины

Аннотация

Данная дисциплина представляет собой полный цикл изучения больших языковых моделей — от классических основ NLP до проектирования промышленных LLM-систем. Дисциплина начинается с эволюции методов представления текста, от векторизации на основе статистики до современных контекстуальных эмбеддингов и ключевых архитектур (RNN, Attention, Трансформер). Слушатели детально изучат фреймворк обучения и дообучения LLM, включая передовые техники выравнивания (RLHF, DPO) и архитектурные инновации (MoE, reasoning). Особый фокус сделан на практическом применении LLM как инструмента: построении RAG-систем, создании AI-агентов, а также на критически важных аспектах промышленного развертывания. Дисциплина охватывает методы ускорения инференса (квантизация, FlashAttention), работу с инференс-серверами, мониторинг и оценку качества.