Backend/Platform Developer в команду LLM Platform

Описание вакансии

*❣️ Backend/Platform Developer в команду LLM Platform*

LLM Platform — единая точка входа для работы с LLM в Яндексе. Мы помогаем командам эффективно использовать LLM в продуктах, внутренних сервисах и бизнес-процессах.

Позиция подойдёт разработчику, которому интересно строить не просто продуктовые фичи, а внутреннюю платформу масштаба крупной компании.

Какие задачи вас ждут:

• Разработка системы управления квотамиСистема должна позволять задавать квоты на разные типы запросов, управлять лимитами, предоставлять аналитику, реализовывать биллинг и cost allocation.

• Интеграции с LLM-провайдерами и внутренними моделямиРазвивать единый API для работы с разными моделями и провайдерами: подключать LLM-провайдеров и собственные инференсы, унифицировать форматы запросов и ответов, разрабатывать механизмы маршрутизации запросов и т. д.

• Безопасное использование данныхПроектировать механизмы безопасной передачи данных в публичные модели, разрабатывать фильтры и политики обработки запросов, интегрироваться с системами контроля.

Мы ждём, что вы:• Занимались бэкенд-разработкой на Go на промышленном уровне

• Понимаете принципы построения распределённых систем

• Проектировали API и интеграции сервисов

• Понимаете observability (метрики, логи, алерты)

• Готовы разбираться в области LLM

Почему у нас классно:

Мы заботимся, чтобы вы были сыты, и компенсируем обеды. А на кофепойнтах всегда можно перекусить свежими фруктами. Это не все бонусы — полный список тут.

*📩* Откликнуться на нашем сайте

#рекламные_технологии #бэкенд #python #go #москва #питер