- Зарплата
- 60 000 $ – 250 000 $
Откликайтесь
на вакансии с ИИ
Research Engineer / Research Scientist
Оценка ИИИсключительная возможность для исследователей: работа в престижном нон-профите с отличным финансированием, гибким форматом и прямым путем в топовые лаборатории (Anthropic, DeepMind).
Сложность вакансии
Оценка ИИВысокая сложность обусловлена требованиями к научной степени (PhD) или сильному инженерному бэкграунду, а также необходимостью иметь публикации в топовых конференциях уровня NeurIPS/ICML.
Анализ зарплаты
Оценка ИИПредлагаемая вилка $60k-250k является очень конкурентоспособной для некоммерческого сектора и соответствует рыночным уровням для Research-ролей в США и Европе, особенно учитывая возможность удаленной работы.
Сопроводительное письмо
I am writing to express my strong interest in the Research Engineer/Scientist position at Principles of Intelligence (PIBBSS). With a solid background in machine learning and a deep interest in mechanistic interpretability, I am particularly drawn to your mission of bridging diverse scientific disciplines to solve AI safety challenges. My experience in developing and evaluating large-scale models aligns well with your current focus on reverse-engineering and interpretable architectures.
I am especially impressed by PIBBSS's track record of high-impact publications at ICML and NeurIPS, and the organization's growth supported by Open Philanthropy. Whether contributing to the upcoming NeurIPS deadline on a short-term basis or joining for a long-term full-time role, I am eager to apply my technical skills in SWE and ML to advance our understanding of internal model activations and world models. I look forward to the possibility of discussing how my expertise can support your research goals.
Составьте идеальное письмо к вакансии с ИИ-агентом
Откликнитесь в Principles of Intelligence (PIBBSS) уже сейчас
Присоединяйтесь к передовым исследованиям безопасности ИИ и внесите свой вклад в публикации для NeurIPS!
Описание вакансии
tl;dr: research engineer + research scientist, non-profit, full-time or short-term for NeurIPS submission, $60k-250k, remote
Посадили как-то нейроученого, биолога и правоведа писать статьи по безопасности ИИ — а она им как раз 🎩
📘 Нейроученый обнаружил, что когда модель лжёт — это видно по внутренним активациям — ICML 2024.
🪐 Биолог в компании теорфизиков доказал, что трансформеры строят что-то вроде модели мира, чтобы предсказать следующий токен — NeurIPS 2024.
✏️ Профессор права расписал, как по уже существующим законам можно привлекать разработчиков ИИ к ответственности за катастрофический ущерб. Об этом написал Vox 🎩
Как вы уже поняли, это не юмореска. Это нонпрофит Principles of Intelligence (PIBBSS). Они платят стипендии ресёрчерам из разных сфер, а те взамен пишут статьи по сейфти. Ученым нравится — настолько, что они потом часто меняют профиль и идут работать в Anthropic или DeepMind. Организацию спонсирует Open Philantropy, и за два года грант от них увеличился в 7 раз.
Скоро дедлайн NeurIPS, и PIBBSS хотят успеть к нему несколько новых статей в своем mech interpretability подразделении. Поэтому можно подписаться на короткий контракт до 11 мая, а можно — сразу на долгий фуллтайм. Темы — реверс-инжиниринг моделей, интерпретируемость на этапе обучения и интерпретируемые из коробки архитектуры. Ищут два профиля:
Research Engineer:
🔸 Сильный SWE-бэкграунд;
🔹 Опыт с ML;
🔵 Сможете запустить эвалы на LLM.
🔸 Плюсом будут: GPU-программирование (CUDA/Triton), распределённые вычисления, курсы по AI Safety вроде ARENA.
Research Scientist:
🔸 PhD или несколько лет исследовательского опыта в CS, математике, физике или экономике;
▫️ Публикации в ML или смежных областях. Идеально, если в interpretability, но PIBBSS — междисциплинарные и умеют работать с разными направлениями.
▪️ Плюсом будет: если вы лидили исследовательские проекты по ML.
Как мы уже сказали, можно вписаться в контракт на пару месяцев с возможностью перейти потом на фуллтайм — а можно сразу решиться на фуллтайм. Платят $60k-$180k в год для инженеров, и $80k-$250k — для ресёрчеров, в зависимости от вашей локации и опыта.
Пишите Даше: Откликнуться 💌
Создайте идеальное резюме с помощью ИИ-агента
Навыки
- Python
- Machine Learning
- AI Safety
- Large Language Models
- Research
- CUDA
- Distributed Computing
- Triton
- Mechanistic Interpretability
Возможные вопросы на собеседовании
Проверка понимания фундаментальных механизмов работы трансформеров, что критично для задач интерпретируемости.
Как именно трансформеры формируют 'модель мира' при предсказании следующего токена, и как это можно измерить?
Оценка практических навыков в области mechanistic interpretability.
Опишите ваш опыт реверс-инжиниринга внутренних активаций нейронных сетей. Какие инструменты вы использовали?
Проверка владения стеком для оптимизации вычислений, указанным в вакансии.
В каких сценариях при работе с LLM вы бы предпочли использовать Triton вместо стандартного PyTorch?
Оценка способности кандидата доводить исследования до публикации.
Расскажите о вашем самом значимом вкладе в научную статью: какую проблему вы решали и каков был результат?
Проверка мотивации в специфической области AI Safety.
Как вы оцениваете текущие риски катастрофического ущерба от ИИ и роль интерпретируемости в их предотвращении?
Похожие вакансии
AI-инженер (Middle+)
Middle+ AI-инженер
MLOps Engineer (Python)
AI Engineer (CV & Navigation)
Junior AI разработчик
Senior / Lead LLM Engineer
1000+ офферов получено
Устали искать работу? Мы найдём её за вас
Quick Offer улучшит ваше резюме, подберёт лучшие вакансии и откликнется за вас. Результат — в 3 раза больше приглашений на собеседования и никакой рутины!
- Зарплата
- 60 000 $ – 250 000 $