- Страна
- Россия
Откликайтесь
на вакансии с ИИ
Senior ML Engineer (LLM, RAG, Agents)
Оценка ИИСильная команда, работа с передовым стеком технологий (LLM, Agents) и масштабные задачи в крупном банке делают эту вакансию крайне привлекательной для Senior-специалистов.
Сложность вакансии
Оценка ИИРоль требует глубоких знаний в области LLM, RAG и инфраструктуры для их обучения и инференса (vLLM, DeepSpeed). Высокий порог входа обусловлен необходимостью опыта работы с multi-GPU системами и сложными методами оптимизации.
Анализ зарплаты
Оценка ИИЗарплата для Senior ML инженеров в банковском секторе РФ обычно находится в диапазоне 400-600 тысяч рублей. Газпромбанк предлагает конкурентные условия, соответствующие рыночным ожиданиям для экспертов в области Generative AI.
Сопроводительное письмо
Составьте идеальное письмо к вакансии с ИИ-агентом
Откликнитесь в Газпромбанк уже сейчас
Присоединяйтесь к команде Газпромбанка и создавайте передовые LLM-решения для одного из крупнейших банков страны!
Описание вакансии
*👨💻*Senior ML Engineer (LLM, RAG, Agents) в Газпромбанк
Опыт работы: 3–6 лет
Мы объединяем профессионалов в кросс-функциональные команды, которые совершенствуют подходы к внутренней разработке, развивают data science-экспертизу, open source-решения и поддерживают инновации. Так создается новая цифровая организация с датацентричной архитектурой. Присоединяйся!
ЧЕМ ВЫ БУДЕТЕ ЗАНИМАТЬСЯ:
- Строить системы извлечения и анализа ключевой информации из документов (PDF/сканы/HTML/DOCX), парсинг web-сайтов;
- Разрабатывать RAG-системы, включая выбор эмбеддингов, стратегии чанкинга, гибридный поиск (BM25+dense), reranking, обучение ретривера, генератора, Reward-модели, мониторинг качества;
- Обучать/дообучаать LLM на multi-node/multi-GPU: SFT/PEFT/LoRA, SFT+DPO, проводить распределённое обучение (FSDP/DeepSpeed), профилировать и оптимизировать;
- Отвечать за инференс и оптимизацию больших языковых моделей: внедрение и настройка vLLM, TensorRT‑LLM, Triton; реализация батчинга, спекулятивного декодирования и квантования; оптимизация соотношения качества, латентности и стоимости инференса;
- Проводить оценку качества: дизайн датасетов и сценариев, автоматические метрики (RAGAS, faithfulness, precision/recall), human-in-the-loop, онлайн-эксперименты и A/B.
Создайте идеальное резюме с помощью ИИ-агента
Навыки
- Python
- PyTorch
- LLM
- LoRA
- RAG
- BM25
- FSDP
- SFT
- DPO
- Triton
- vLLM
- DeepSpeed
- TensorRT-LLM
- Ragas
- PEFT
Возможные вопросы на собеседовании
Проверка понимания архитектуры RAG и способов улучшения качества поиска.
Какие стратегии реранкинга и гибридного поиска вы считаете наиболее эффективными для работы с финансовой документацией?
Оценка опыта работы с распределенным обучением.
С какими сложностями вы сталкивались при использовании FSDP или DeepSpeed для дообучения моделей на нескольких узлах?
Проверка навыков оптимизации производительности.
Как бы вы оптимизировали задержку (latency) при инференсе модели уровня Llama-70B для высоконагруженного сервиса?
Оценка методологии тестирования.
Как вы выстраиваете процесс Human-in-the-loop для оценки качества генерации ответов в специфических доменах?
Проверка знаний в области обработки данных.
