«Это обучение дало мне больше понимания про доверительный аспект ИИ»: студент Питерской Вышки стал участником проектной смены в Сириусе
Попасть в Сириус было не так просто. В качестве вступительного испытания нужно было приложить резюме, мотивационное письмо, решения теоретической и практической задачи. Но, как признаётся Никита, ему удалось стать участником смены без труда, потому что уже есть хороший университетский «бэкграунд» в области математики и информатики и внушительное резюме.
Никита Денисов, студент ОП «Прикладная математика и информатика»
В Сириусе я уже был 3 раза. Правда, все разы это были школьные смены — там было очень круто. И когда мне впервые предложили поехать на студенческую смену, я с удовольствием согласился. Это обучение дало мне больше понимания про доверительный аспект ИИ, о котором я раньше особо не задумывался. Это, действительно, важное направление развития мира в ближайшем будущем.
Первая неделя проектной смены в Сириусе была насыщена лекциями — по 5–8 в день. Молодые учёные искали ответы на разные вопросы. В какой степени мы можем доверять ИИ? Какие есть атаки на него и методы защиты? Безопасно ли пользоваться беспилотными машинам? Можно ли обходить ограничения больших языковых моделей с этической стороны?
Каждый участник должен был выбрать, что ему интереснее изучать. А уже вторую неделю студенты полностью посвящали работе над проектом с ментором. Темы исследований были самые разные. Одни больше связанны с ИИ, например: определение архитектуры нейросети по запросам к ней, построение минимально достаточного примера для воровства языковой модели, федеративное обучение. Другие темы были с математическим уклоном, например, про стохастическую оптимизацию в условиях тяжелых хвостов и очень тяжелых хвостов в распределении стохастических градиентов. И даже больше инженерные проекты, такие как MLOps, lifelong learning и фаззинг нейросетей. Никита же исследовал атаку на суммаризацию в больших языковых моделях. Эта тема связана с его дипломной работы.
Стать участником подобных проектов помогают не только знания, но и опыт. У абитуриентов Школы физико-математических и компьютерных наук будет возможность научиться новому: в конце февраля стартует обучение в Школе по практическому программированию и анализу данных. Подробнее о мероприятии можно узнать на сайте.