ML engineer (LLM optimization & inference acceleration)

Меня крайне заинтересовала вакансия ML-инженера, сфокусированная на оптимизации инференса LLM. Учитывая мой опыт работы с алгоритмами машинного обучения и глубокое понимание архитектур трансформеров, я готов внести вклад в улучшение задержек и масштабируемости ваших AI-систем. Технологии вроде квантования и спекулятивного декодирования являются для меня приоритетными областями развития.

Я обладаю навыками работы с PyTorch и CUDA, что позволит мне эффективно реализовывать низкоуровневые оптимизации. Уверен, что мой опыт в области сжатия моделей и оптимизации генерации поможет вашей команде достичь новых высот в производительности. Буду рад обсудить, как мои знания могут быть полезны для ваших текущих задач.