- Страна
- Россия
- Зарплата
- до 700 000 ₽
Откликайтесь
на вакансии с ИИ
Inference-инженер в команду разработки внутренней LLM-платформы
Оценка ИИВысокая заработная плата, возможность удаленной работы из любой точки мира и работа с передовыми технологиями (LLM) делают вакансию крайне привлекательной. Точка известна своей сильной инженерной культурой и отсутствием бюрократии.
Сложность вакансии
Оценка ИИРоль требует редкого сочетания глубоких знаний бэкенд-разработки на Python (asyncio, FastAPI) и специфического опыта в ML-инфраструктуре. Высокая планка по зарплате и работа с highload-инференсом подразумевают экспертный уровень владения инструментами.
Анализ зарплаты
Оценка ИИПредлагаемая зарплата до 700 000 ₽ находится на верхней границе рынка для Senior/Lead ML Infrastructure ролей в России и СНГ. Это значительно выше медианы для стандартных Python-разработчиков, что объясняется узкой специализацией в области LLM Inference.
Сопроводительное письмо
Составьте идеальное письмо к вакансии с ИИ-агентом
Откликнитесь в Точка уже сейчас
Присоединяйтесь к команде Точки и создавайте фундамент для работы с нейросетями в одном из ведущих финтехов!
Описание вакансии
Ищем Inference-инженера в команду разработки внутренней LLM-платформы Точка Банк.
Мы — финтех-компания, создаём онлайн-банк и экосистему сервисов для бизнеса.
*📍*До 700 000 ₽, удалёнка по всему миру, возможность влиять и быть услышанным.
Фокус команды — техническая инфраструктура и базовые инструменты. Мы развиваем LLM-гейтвей, инференс внутренней LLM, систему Information Retrieval и guardrails. Именно на этих компонентах строится работа с нейросетями.
Мы плотно работаем с инференс-движками: не просто запускаем, а конфигурируем под highload и патчим исходный код при необходимости.
Ты подойдёшь, если
- Есть опыт работы с Python и asyncio, а также с aiohttp и FastAPI от 4 лет.
- Любишь работать на низком уровне: тебе интересно разбираться, как инструменты работают под капотом, а также оптимизировать их производительность.
- Спокойно относишься к тому, что в поиске лучшего решения код может часто меняться или «выбрасываться».
- Комфортно работаешь в условиях неопределённости и быстрых экспериментов.
- Умеешь брать ответственность за результат и коммуникацию.
Самостоятельно организуешь свою работу и определяешь вектор, исходя из прозрачных целей команды.
- Есть опыт работы с ML-инфраструктурой и ML-сервисами. Понимаешь базовые принципы работы LLM, их ограничения и возможности.
Подробнее Откликнуться
Создайте идеальное резюме с помощью ИИ-агента
Навыки
- Python
- asyncio
- aiohttp
- FastAPI
- LLM
- Information Retrieval
- Machine Learning Infrastructure
- Highload
Возможные вопросы на собеседовании
Вакансия предполагает работу с highload и оптимизацию производительности.
Расскажите о вашем опыте оптимизации производительности Python-приложений. Какие инструменты профилирования вы использовали и каких результатов удалось достичь?
В описании указано, что команда патчит исходный код инференс-движков.
Приходилось ли вам вносить изменения в open-source библиотеки или работать с исходным кодом инференс-движков (например, vLLM, TGI)? С какими сложностями вы сталкивались?
Работа ведется над LLM-платформой.
Как бы вы организовали систему мониторинга и guardrails для LLM-гейтвея, чтобы обеспечить стабильность и безопасность ответов в реальном времени?
Упоминается работа в условиях неопределенности и быстрых экспериментов.
Опишите ситуацию, когда вам приходилось полностью переписывать или выбрасывать код после эксперимента. Как вы подходите к принятию решения о смене архитектурного подхода?
Требуется понимание базовых принципов LLM.
Какие техники оптимизации инференса LLM (например, квантование, спекулятивное декодирование, Continuous Batching) вы считаете наиболее эффективными для снижения latency?
Похожие вакансии
ML разработчик ( Senior )
Senior/Lead AI Engineer
Middle-разработчик (AI-инженер)
AI Content Creator (ComfyUI)
Middle+ AI инженер
Senior ML разработчик
1000+ офферов получено
Устали искать работу? Мы найдём её за вас
Quick Offer улучшит ваше резюме, подберёт лучшие вакансии и откликнется за вас. Результат — в 3 раза больше приглашений на собеседования и никакой рутины!