Research Scientist (Интерпретируемость нейросетей)
Оценка ИИВысокая заработная плата, возможность удаленной работы с релокацией в топовые хабы (Лондон/Bay Area) и работа над фундаментальными проблемами AI Safety под руководством экспертов из NASA делают эту вакансию исключительно привлекательной.
Сформировано ИИ автоматически. Не является проверкой вакансии или работодателя.
Сложность вакансии
Оценка ИИРоль требует редкого сочетания глубоких академических знаний (PhD) в точных науках, экспертизы в механистической интерпретируемости и навыков разработки на Python. Работа над созданием синтетических данных на стыке статфизики и ML — это вызов даже для опытных исследователей.
Сформировано ИИ автоматически. Не является проверкой вакансии или работодателя.
Анализ зарплаты
Оценка ИИПредлагаемая зарплата ($125k-170k) полностью соответствует рыночным стандартам для позиций Research Scientist уровня Senior/Lead в США и Великобритании, особенно в некоммерческих или исследовательских организациях в сфере AI Safety.
Сформировано ИИ автоматически. Не является проверкой вакансии или работодателя.
Сопроводительное письмо
Составьте сопроводительное письмо под эту вакансию с вашим резюме
Описание вакансии
tl;dr: research scientist, $125k-170k/year, remote
В октябре interp-тусовка переругалась из-за эссе Neural Networks Are Already Clean. Автор утверждает, что нейроны внутри моделей вовсе не такие запутанные, как все думали, но многие не согласны. Проверить сложно: никто до конца не знает, какие признаки на самом деле есть внутри реальных моделей, а игрушечные датасеты слишком плоские — в признаках намного меньше иерархии, чем в настоящих данных *🎲*
Наши любимые PrincInt(ex-PIBBSS) предложили подход в своей летней статье: генерировать синтетические датасеты с помощью критической перколяции.
На пороге фазового перехода перколяция дает фрактальные кластеры всех размеров, каждый из которых можно разбить на подкластеры поменьше. Похоже на то, как общие понятия в данных делятся на более частные. Только здесь устройство данных известно заранее, и можно честно проверить, находят ли его инструменты интерпретируемости *🔎*
Теперь PrincInt ищет ресерчера как раз на это направление!
Вы будете создавать искусственные данные, которые похожи на настоящие, но устроены заранее известным образом. Затем — обучать на них модели. Из лучших датасетов соберут бенчмарки, на которых инструменты смогут проверять все, кто занимается интерпретируемостью.
Что нужно:
*🌟* mech interp бэкграунд;
*💡* PhD или сопоставимый исследовательский опыт в математике, физике, ML, нейробиологии, CS или теории сложных систем;
*🐍* опыт научных вычислений на Python;
*🗺* умение доносить сложное даже нетехнической аудитории;
*📺* знание DL и опыт обучения моделей.
И пламенный интерес к AI Safety, конечно же!
Хорошо, если у вас есть что-то из этого: опыт ведения исследовательского направления и менторства, публикации в ML или других точных науках, а также знание статфизики (особенно перколяции и ренормализации), коалесцентных процессов, комбинаторики, теории сетей и графов, фракталов, законов масштабирования или когнитивистики.
Удаленка, но приоритет тем, кто готов основательно тусить в Лондоне / Bay Area *🧋*
Есть визовое спонсорство, бюджет на страховку и ништяки, команду ведет PhD по астрофизике и ex-постдок NASA *🐌 Платят $125k-170k.*
Не откладывайте в долгий ящик, осталось дней десять: Откликнуться *🦙*
Умный подбор, сопроводительные письма, советы по отказам — больше приглашений.
Навыки
- Python
- Machine Learning
- Statistics
- Deep Learning
- Mathematics
- Graph Theory
- Physics
- Combinatorics
- Network Theory
Возможные вопросы на собеседовании
Проверка понимания ключевой концепции проекта, упомянутой в описании.
Как свойства критической перколяции и фрактальных кластеров могут помочь в моделировании иерархических структур признаков в реальных данных?
Оценка практического опыта кандидата в основной области работы.
Расскажите о вашем самом значимом проекте в области механистической интерпретируемости (mech interp). С какими трудностями вы столкнулись?
Проверка навыков обучения моделей на специфических данных.
Какие архитектурные особенности моделей наиболее важны при обучении на синтетических данных с заранее известной структурой для последующего анализа признаков?
Оценка мотивации и этической позиции кандидата.
Почему вы считаете направление AI Safety приоритетным и как ваши исследования могут способствовать снижению рисков, связанных с ИИ?
Проверка способности работать в междисциплинарной среде.
Как бы вы объяснили концепцию ренормализации в контексте нейронных сетей коллеге, который не является специалистом в физике?
Сформировано ИИ автоматически. Не является проверкой вакансии или работодателя.
