Efficient DL’22: объявления

#ШАД В понедельник (18 апреля) перед демками у нас состоится гостевая лекция, которую прочитает Иван Комаров — разработчик отдела NLP в Яндексе. Лекция будет сильно более глубоким и практическим погружением в архитектуру GPU и профайлинг, чем на week01/week05…Ссылка на лекцию: https://yandex.zoom.us/j/99970578573

#ШАД В понедельник (18 апреля) перед демками у нас состоится гостевая лекция, которую прочитает Иван Комаров — разработчик отдела NLP в Яндексе. Лекция будет сильно более глубоким и практическим погружением в архитектуру GPU и профайлинг, чем на week01/week05, поэтому всячески рекомендую послушать и помучать лектора вопросами, особенно если вам захотелось узнать больше после тех занятий.Эффективное применение DL-моделей на (GP)GPUКогда обученная DL-модель начинает использоваться в продакшене под нагрузкой, имеет смысл оптимизировать используемые в ней примитивы так, чтобы они эффективно использовали мощности видеокарты. Часто так можно ускорить применение модели на десятки процентов, а иногда и в разы.На лекции я сначала в целом опишу вычислительную модель современных GPU и расскажу, какие ресурсы мы хотим эффективно использовать. Затем на примере примитивов из современных нейросетей покажу, как работать с профайлерами и определять, что именно имеет смысл оптимизировать. И наконец, разберу CUDA-реализацию конкретного примитива из одного из существующих DL-фреймворков и продемонстрирую, какие трюки в ней используются.Время обычное, ссылку на трансляцию скину в канал

Один из наших студентов Станислав Белясов написал хороший рекап материалов 4 (и кусочка 5) недели. Очень рады такому контенту, если кто зареган на медиуме, призываю полайкать!https://bestasoff.medium.com/how-to-fine-tune-very-large-model-if-it-doesnt-fit-on-your-gpu-3561e50859af

#ФКН #ШАД Подъехала долгожданная бонусная активность: на последних занятиях (26 марта 13:00 на ФКН и 11+18 апреля в ШАД) мы устроим блиц-демонстрации ряда open-source проектов с GitHub на тематику курса, за которые можно будет получить бонусные баллы (до 0.5…#ШАД Так как на демки записалось пока что всего три человека, сегодня занятие мы проводить не будем. Напомню, что есть возможность получить бонусы за демонстрацию того, что опенсорсный код не работает

#ФКН #ШАД Мы потихоньку начали проверять ваши домашние задания, и чтобы помочь себе и вам с народной забавой «подсчет накопа», сделали вот такую табличку, в которой будут высчитываться итоговые оценки: https://docs.google.com/spreadsheets/d/1vOIlPFhtFIxETSoGd…#ФКН Таблица с оценками финализирована, сегодня вечером ведомость уйдет в УО. Проверьте на всякий случай, что оценка не станет для вас сюрпризом

Кстати, пользуясь случаем, хочу поблагодарить тех, кто уже оставил фидбек по курсу в форме, а также попросить оставить его, если вы хотите что-то нам высказать и ещё этого не сделали. Мы всё читаем и учитываем!#ШАД Ссылка на форму для фидбека также появилась в LMS

#ФКН #ШАД Мы потихоньку начали проверять ваши домашние задания, и чтобы помочь себе и вам с народной забавой «подсчет накопа», сделали вот такую табличку, в которой будут высчитываться итоговые оценки:https://docs.google.com/spreadsheets/d/1vOIlPFhtFIxETSoGd-mu43KfuEuOdjultqk4FEEMOf8/edit?usp=sharingЗелёным заголовком помечены целиком проверенные домашки, по мере проверки таблица будет обновляться. Формула и табличка для ШАДа появятся чуть позже, как только мы очухаемся после проверки домашек у ФКН

#ШАД В LMS появилось последнее домашнее задание, дедлайн — 15 апреля

Сейчас проходит блиц-демонстрация от студентов #ФКН по ссылке https://zoom.us/j/94770955938?pwd=eDE1UHRzblJsSUVDOGJHVG93eTJrUT09А после этого по той же ссылке будет приглашенная лекция от Геннадия Пехименко (https://t.me/efficientdl_22/40)

#ФКН #ШАД Подъехала долгожданная бонусная активность: на последних занятиях (26 марта 13:00 на ФКН и 11+18 апреля в ШАД) мы устроим блиц-демонстрации ряда open-source проектов с GitHub на тематику курса, за которые можно будет получить бонусные баллы (до 0.5…#ФКН На самом деле в объявлении косяк и ссылки на репо надо прислать до 23:59 дня перед семинаром, но из-за нашей ошибки штрафов за сдачу завтра не будет. Давайте только условимся, что вы пришлёте ссылки после семинара, поскольку демонстрации в любом случае должны опираться на код из ваших репозиториев

#ФКН #ШАД По поводу записи: она откроется по ссылке https://forms.gle/Ax3LGju2h4ZFHx459 в 12:00, помимо проекта и вашего имени потребуется ещё указать ссылку на профиль в Anytask или LMS, чтобы мы потом вас не потеряли. Чтобы не выбирать уже кем-то забитый…#ФКН #ШАД Запись открылась, не забывайте про требование о ссылке на репозиторий!

#ФКН Сегодня ночью убью multi-GPU-машину, просьба эвакуировать все нужные данные до этого момента

#ШАД С учётом того, что наш курс довольно большой по количеству тем и заданий, мы утвердили вместе с кураторами его полноценный семестровый статус. Таким образом, можно спокойно отписаться от чего-нибудь ещё семестрового, что вам нравится поменьше, и по-прежнему закрыть это полугодие

#ФКН #ШАД Подъехала долгожданная бонусная активность: на последних занятиях (26 марта 13:00 на ФКН и 11+18 апреля в ШАД) мы устроим блиц-демонстрации ряда open-source проектов с GitHub на тематику курса, за которые можно будет получить бонусные баллы (до 0.5…#ФКН #ШАД По поводу записи: она откроется по ссылке https://forms.gle/Ax3LGju2h4ZFHx459 в 12:00, помимо проекта и вашего имени потребуется ещё указать ссылку на профиль в Anytask или LMS, чтобы мы потом вас не потеряли. Чтобы не выбирать уже кем-то забитый репозиторий, ответы можно будет посмотреть тут https://docs.google.com/spreadsheets/d/1I34eTax_bSmBcsRH6VDWx32sGBaPMeiFPbtVUfy_Xvo/edit?usp=sharing

#ФКН #ШАД Мы тут решили, что вам пока хватит мучений, а коллектив преподавателей устал вместе с вами, поэтому домашних заданий по неделям 7, 9 и 10 не будетКак это влияет на оценивание:Для ФКН: веса трёх «больших» домашних заданий (week02–04, 05, 06–08) в формуле итоговой оценки умножаются на 5/4.Для ШАД: для «отлично» теперь нужно заработать 50 баллов, для «хорошо» — 35, для «удовлетворительно» — 25.Изменения уже отражены на страницах курса на вики ФКН и в LMS ШАД.