ML-инженер

Описание вакансии

ML-инженер

Локация: Удаленно

Компания: Staffberry

ЗП: обсуждается на собеседовании

Занятость: Полная

Мы создаём передовой блокчейн для распределенных вычислений в сфере ИИ. Мы ищем инженера, специализирующегося на инфраструктуре и производительности вывода машинного обучения. Ваша задача — сделать крупномасштабный вывод ИИ быстрым, экономически эффективным и безопасным в среде гетерогенных GPU-узлов, включая конфиденциальные и минимизированные по уровню доверия среды.

Обязанности:

Архитектура и разработка децентрализованных ИИ-систем корпоративного уровня (pro-code);

Создание и масштабирование ИИ-инфраструктуры на базе Kubernetes с использованием Docker, K8s, Terraform/Pulumi и распределенных фреймворков (KubeRay, SkyPilot);

Оптимизация вывода LLM / Transformer (задержки, пропускная способность, память);

Работа с vLLM, SGLang, пакетной обработкой, KV-кэшем, потоковым выводом;

Развертывание и настройка Triton Inference Server, TensorRT, ONNX Runtime;

Применение квантования (INT8 / FP16 / FP8) и анализ компромиссов между точностью и скоростью;

Профилирование и оптимизация использования CUDA/GPU;

Выбор и тестирование GPU для распределенных рабочих нагрузок;

Построение защищенных конвейеров вывода с использованием TEE (Intel SGX, NVIDIA Confidential Computing, аттестация):

Интеграция вывода ИИ с планированием на основе блокчейна и уровнями доверия.

Требования:

• AI / Inference: PyTorch, ONNX; vLLM, SGLang; Triton Inference Server, TensorRT; CUDA, NVIDIA NGC;
• Знания в области систем машинного обучения: Архитектура Transformer, механизм внимания; KV-кэш, токенизация, эмбеддинги; Линейная алгебра для повышения производительности машинного обучения;
• Языки программирования: Python, Rust.

🌐 Резюме отправлять: Откликнуться

–––

Бесплатный постинг вакансий: @freeIT_job

Забирай 📚 Базу Знаний