Header: Разработчик гигантских генеративных нейросетей в Поиск
Description: В большинстве продуктов Яндекса используются механизмы, связанные с обработкой текста на естественном языке, поэтому мы постоянно развиваем базовые технологии машинного обучения. Наша команда разрабатывает YaLM – семейство больших генеративных нейронных сетей трансформерной архитектуры. YaLM предобученно на очень большом корпусе русскоязычного интернета и позволяет решать множество генеративных и дискриминативных задач.
  Если вам наскучило обучать нейросети на сотнях миллионов параметров, приходите к нам решать продуктовые ML-задачи с помощью гигантских языковых трансформерных моделей.
Requirements: • отлично знаете математику
  • умело пишете на Python, работали с PyTorch или TensorFlow
  • обладаете опытом и экспертизой в области Deep Learning
Tasks: • проверять гипотезы о качестве предобучения YaLM
  • реализовывать изменения в архитектуре нейросети
  • исследовать особенности применения Few-Shot Learning
Pluses: • обучали большие нейросетевые модели
  • решали задачи NLP для реальных проектов
  • пишете на C++
Hashtags: #ml #python
Raw text: Разработчик гигантских генеративных нейросетей в Поиск🏟
  
  В большинстве продуктов Яндекса используются механизмы, связанные с обработкой текста на естественном языке, поэтому мы постоянно развиваем базовые технологии машинного обучения. Наша команда разрабатывает YaLM – семейство больших генеративных нейронных сетей трансформерной архитектуры. YaLM предобученно на очень большом корпусе русскоязычного интернета и позволяет решать множество генеративных и дискриминативных задач.
  Если вам наскучило обучать нейросети на сотнях миллионов параметров, приходите к нам решать продуктовые ML-задачи с помощью гигантских языковых трансформерных моделей.
  
  Мы ждем, что вы:
  • отлично знаете математику
  • умело пишете на Python, работали с PyTorch или TensorFlow
  • обладаете опытом и экспертизой в области Deep Learning
  
  Что нужно делать:
  • проверять гипотезы о качестве предобучения YaLM
  • реализовывать изменения в архитектуре нейросети
  • исследовать особенности применения Few-Shot Learning
  
  Будет плюсом, если вы:
  • обучали большие нейросетевые модели
  • решали задачи NLP для реальных проектов
  • пишете на C++
  
  https://ya.cc/t/qeL316VfaAG2o
  
  #ml #python