Lead ML Engineer - LLM Inference & NLP
Оценка ИИАктуальный стек технологий (LLM, NLP) и удаленный формат работы делают вакансию очень привлекательной. Однако отсутствие указания компании и вилки зарплаты немного снижает прозрачность предложения.
Сформировано ИИ автоматически. Не является проверкой вакансии или работодателя.
Улучшите резюме под эту вакансию
Возьмём требования и создадим новую версию резюме с акцентом на нужный опыт
Сложность вакансии
Оценка ИИРоль требует редкого сочетания глубоких знаний в области системного программирования для GPU (vLLM, TensorRT-LLM) и лидерских качеств для управления командой инженеров. Высокая сложность обусловлена необходимостью оптимизации производительности на уровне инфраструктуры.
Сформировано ИИ автоматически. Не является проверкой вакансии или работодателя.
Анализ зарплаты
Оценка ИИПозиция Lead ML Engineer в области LLM Inference является одной из самых высокооплачиваемых на текущем рынке из-за дефицита специалистов с таким стеком. Предложенная роль соответствует верхнему сегменту рынка для опытных лидов.
Сформировано ИИ автоматически. Не является проверкой вакансии или работодателя.
Сопроводительное письмо
Составьте сопроводительное письмо под эту вакансию с вашим резюме
Описание вакансии
Lead ML Engineer - LLM Inference & NLP
#LeadMLEngineer #LLM #LLMInference #NLP #FullTime #Удаленно
Требования:
Опыт оптимизации LLM-инференса с SGLang, vLLM или TensorRT-LLM. Работа с большими моделями на распределённой GPU-инфраструктуре. Понимание KV cache, batching, quantization и профилирования GPU. Опыт обучения и дообучения LLM, уверенное владение PyTorch. Умение направлять инженеров через ревью, наставничество и технические решения.
Локация:*📍*Удалённо. Full-time.
Контакт для отклика: Откликнуться +CV
Больше похожих вакансий + автоотклики с ИИ
Умный подбор, сопроводительные письма, советы по отказам — больше приглашений.
Навыки
- LLM
- NLP
- vLLM
- TensorRT-LLM
- PyTorch
- GPU Profiling
- Quantization
- SGLang
- Distributed Computing
Возможные вопросы на собеседовании
Проверка практического опыта работы с инструментами оптимизации инференса.
С какими основными проблемами вы сталкивались при внедрении vLLM или TensorRT-LLM в продакшн и как их решали?
Оценка понимания механизмов работы памяти при работе с LLM.
Как вы подходите к оптимизации KV cache при обработке длинных контекстов в распределенной среде?
Проверка навыков работы с эффективностью моделей.
Какие методы квантования (AWQ, GPTQ, FP8) вы считаете наиболее эффективными для сохранения точности при максимальном ускорении?
Оценка лидерских качеств и подходов к качеству кода.
Как вы выстраиваете процесс код-ревью в ML-команде, чтобы сбалансировать скорость разработки и техническое совершенство?
Проверка навыков профилирования.
Опишите ваш стек инструментов и методологию профилирования GPU для поиска узких мест в пайплайне инференса.
Сформировано ИИ автоматически. Не является проверкой вакансии или работодателя.
