- Страна
- Великобритания
Member of Technical Staff - Model Evaluation
Оценка ИИЭто уникальная возможность работать в одной из самых передовых ИИ-компаний мира над флагманским продуктом Grok. Высокий престиж, работа с топовыми инженерами и отсутствие бюрократии делают эту вакансию максимально привлекательной.
Сформировано ИИ автоматически. Не является проверкой вакансии или работодателя.
Улучшите резюме под эту вакансию
Возьмём требования и создадим новую версию резюме с акцентом на нужный опыт
Сложность вакансии
Оценка ИИРоль требует исключительных навыков в области LLM и инфраструктуры инференса (vLLM, SGLang). Работа в xAI подразумевает высокую интенсивность и готовность к прямому вкладу в продукт без бюрократии.
Сформировано ИИ автоматически. Не является проверкой вакансии или работодателя.
Анализ зарплаты
Оценка ИИЗарплата в xAI для позиций MTS в Лондоне обычно значительно выше среднерыночной и включает существенные опционы, что делает совокупный доход конкурентоспособным на уровне топовых компаний Кремниевой долины.
Сформировано ИИ автоматически. Не является проверкой вакансии или работодателя.
Сопроводительное письмо
Составьте сопроводительное письмо под эту вакансию с вашим резюме
Описание вакансии
About xAI
xAI’s mission is to create AI systems that can accurately understand the universe and aid humanity in its pursuit of knowledge. Our team is small, highly motivated, and focused on engineering excellence. This organization is for individuals who appreciate challenging themselves and thrive on curiosity. We operate with a flat organizational structure. All employees are expected to be hands-on and to contribute directly to the company’s mission. Leadership is given to those who show initiative and consistently deliver excellence. Work ethic and strong prioritization skills are important. All employees are expected to have strong communication skills. They should be able to concisely and accurately share knowledge with their teammates.
ABOUT THE ROLE:
You will join the Enterprise Model Evaluation team to define and measure how Grok performs on high-value real-world tasks. Your focus will be on identifying critical enterprise use cases and building evaluations that capture performance on those use cases. In doing so, you will uncover model weaknesses, track performance over time, and work with the core modeling team to hill-climb.
Your work will directly shape the future of Grok's capabilities and intelligence. We're hiring intelligent, execution-focused people for this high-intensity environment—interstellar ambitions demand exceptional talent in a flat, low-overhead culture where smart people get shit done without bureaucracy.
RESPONSIBILITIES:
- Identify high-value enterprise use cases
- Provide complete assessment of models
- Deep dive into model training and data to identify the weakness point revealed in evaluation
- Communicate with modeling and data team to produce plans to improve model quality
BASIC QUALIFICATIONS:
- Model assessment and evaluation task development (including public and in-house benchmarking)
- Collect data and synthesize data for new evals
- Build infrastructure and framework for easy-to-use model evaluation, familiarity with inference frameworks like SGlang and vLLM
xAI is an equal opportunity employer. For details on data processing, view ourRecruitment Privacy Notice.
Больше похожих вакансий + автоотклики с ИИ
Умный подбор, сопроводительные письма, советы по отказам — больше приглашений.
Навыки
- LLM Evaluation
- vLLM
- SGLang
- Benchmarking
- Python
- Inference Frameworks
- Data Synthesis
- Machine Learning Infrastructure
Возможные вопросы на собеседовании
Проверка практического опыта работы с инструментами, указанными в вакансии.
Расскажите о вашем опыте оптимизации или настройки фреймворков инференса, таких как vLLM или SGLang, для задач оценки моделей.
Оценка способности кандидата выявлять и исправлять недостатки моделей.
Как бы вы подошли к созданию системы оценки для выявления галлюцинаций в специфических корпоративных сценариях?
Проверка навыков работы с данными для бенчмаркинга.
Опишите ваш процесс синтеза данных для создания новых внутренних бенчмарков, когда публичных данных недостаточно.
Оценка умения работать в кросс-функциональной команде.
Как вы транслируете результаты оценки в конкретные рекомендации для команды обучения моделей (modeling team)?
Проверка соответствия культуре xAI.
Приведите пример сложной технической задачи, которую вы решили в сжатые сроки с минимальным контролем со стороны руководства.
Сформировано ИИ автоматически. Не является проверкой вакансии или работодателя.
