ProfiNow Jobs  · IT-вакансии из открытых Telegram-каналов
ProfiNow Jobs › Data / ML › Data Engineer (ETL-миграция)

Data Engineer (ETL-миграция)

HuntTech · Senior · Удалёнка

от 230 000 до 280 000 RUB

Стэк

airflowkafkasparkgreenplumclickhouseoraclepostgresqlgrafanaprometheussqlpython

Описание

Миграция ETL-системы телеком-оператора с Oracle/Informatica на Apache-стек (S3, Airflow, NiFi, Kafka, Greenplum): перенос бизнес-логики в высокопроизводительный SQL и разработка DAG-ов в Airflow. Написание и оптимизация SQL для витрин данных (оконные функции, партиционирование, explain plans), настройка пайплайнов в NiFi (источники: Oracle, PostgreSQL; приёмники: S3, файловые архивы). Разработка Spark-джобов (PySpark) для больших объёмов, интеграция с Kafka для потоковой передачи данных. Настройка мониторинга (Grafana/Prometheus), разбор инцидентов по качеству данных и ошибкам загрузки, code review. Требуется опыт от 5 лет, предпочтителен телеком-домен и знание Informatica PowerCenter.

Откликнуться

Telegram: @pavel_korab

Оригинальный пост: https://t.me/myjobit/126767

AI-инструменты для отклика