Назад к списку вакансий



Разработчик BigData (Hadoop, ETL, Python/Scala/Spark /контейнеры, Openshift)

Москва
Наименование Разработчик BigData
Специализация Hadoop, ETL, Python/Scala/Spark /контейнеры, Openshift
Образование Высшее
Обязанности  

Выполнение функциональных обязанностей в рамках реализации проектов:

— реализация интеграций в гетерогенной среде с помощью  Python/Spark
— ETL
— Применение моделей в Openshift
— Работа с Airflow, написание кастомных операторов, формирование дагов
— контейнеризация процессов загрузки/выгрузки данных
— оптимизация существующего кода
— базовые знания работы Kerberos
— развертывание, поддержка, внедрение DevOps инструментов;
— разработка и поддержка платформы исполнения моделей.
Требования  

Опыт реализации интеграции в гетерогенных средах

— Понимание и опыт работы со средствами экосистемы технологий Hadoop;
— Знание Python/Scala(Spark)
— Знание Apache Airflow
— Знание Apache Kafka
— Знание Docker
— Опыт решения ETL/data engineering задач
— Опыт развертывания Linux серверов/ контейнеров, скриптовых языков (Bash)
— Разработка микросервисов для внутренних инфраструктурных задач;
Приветствуется  

— Знание Java

— Приветствуется опыт работы с REST сервисами
— опыт работы с Kafka
— Опыт работы с Grafana, разработка мониторинга на Grafana;
— Опыт работы с ELK
— Опыт построения Devops-инфраструктуры:
— знание и опыт администрирования Linux-систем;
— опыт работы с Openshift\Kubernetes;
— понимание концепций построения CI/CD, опыт проектирования и построения CI/CD pipeline, управление процессом сборки и развертывания ПО;
— опыт построения фреймворков с нуля

 

Резюме просьба направлять на info@mmbusiness.ru c указанием вакансии