Senior LLM Engineer

Описание вакансии

tldr: Senior LLM Engineer в крупный банк. Внутренняя AI Platform, open-source LLM, агенты/RAG. Гибрид, Москва.

[вилки нет, но вакансия прошла голосование на высоком доверии к автору, деньги есть]

Мы в команде CIB LLM Team отвечаем за AI Platform для корпоративного бизнеса банка: LLM API Gateway, AI Chat, агентные решения, инфраструктуру для моделей и агентов, инструменты для создания AI-продуктов.

Ищем LLM-инженера, который усилит нашу команду в направлении внутренних AI-продуктов, агентов, RAG и оптимизации инференса.

Что делать:

\* отвечать за внутреннюю AI Platform и инструменты для AI-приложений;

\* проектировать агентов для автоматизации бизнес-процессов;

\* работать с RAG, tool calling и корпоративными знаниями;

\* оптимизировать качество, стоимость и latency инференса;

\* участвовать в выборе и эксплуатации open-source LLM;

\* доводить гипотезы и прототипы до production.

Что важно:

\* уверенный Python;

\* опыт ML/DL от 2 лет;

\* понимание современных LLM/NLP/GenAI;

\* опыт production-систем на базе LLM;

\* понимание retrieval, routing, tool calling, memory, evaluation;

\* опыт с Docker/Kubernetes и микросервисной архитектурой.

Будет плюсом:

\* глубокое понимание эвалов для LLM-систем;

\* опыт в self-hosted инференсе;

\* опыт промышленной разработки.

Мы предлагаем:

\* возможность работать над AI Platform для крупного корпоративного бизнеса;

\* работу над продуктами, которыми ежедневно пользуются сотрудники банка;

\* сильную инженерную команду, автономность и влияние на архитектуру;

\* возможность работать с современными open-source моделями и GPU-кластером;

\* ДМС, обучение, конференции, гибрид и офис в центре Москвы.

Откликнуться: присылайте резюме Камиле — Откликнуться