Мы строим Data Lake House платформу с современным стеком:
S3, Trino, Apache Iceberg, DBT, Airflow, Kafka, Clickhouse.
Обязанности:
- реализация в тандеме с архитектором физического уровня архитектуры данных в DWH для всех слоев (raw data layer, core data layer, data mart layer);
- реализация ETL-пайплайнов передачи данных из различных внутренних и внешних ИТ-систем, используя разные подходы получения данных из источника;
- построение эффективной системы оркестрации ETL-пайплайнов обеспечивающей обновление данных в DWH согласно обозначенным бизнес требованиям;
- реализация и поддержка прикладных решений для контроля качества данных в DWH;
- реализация и поддержка прикладных решений для управления метаданными DWH;
- участие в R&D для выбора инструментов для построение отдельных частей платформы данных.
-
Опыт работы от 3х лет;
-
базовые навыки в области инженерии данных;
-
системное аналитическое инженерное мышление;
-
умеренный перфекционизм и внимание к деталям;
-
понимание концепций проектирования DWH;
-
продвинутый уровень знания SQL;
-
высокий уровень владения Python для обработки данных;
-
опыт работы с оркестраторами и понимание концепции DAG;
-
опыт разработки и поддержки end-to-end пайплайнов данных;
-
опыт получения данных из различных типов API;
-
опыт работы с потоковой обработкой данных;
-
умение работать с GIT.
- график работы: на испытательном сроке офис 5/2, далее гибрид;
- ежегодная индексация зарплаты, компенсация питания, премии по результатам работы, доплаты за больничный, материальная помощь в сложных ситуациях;
- релокация из любой точки мира.
Похожие вакансии
Требования к знаниям: Законодательные и нормативные правовые акты, методические материалы по проектированию, строительству и эксплуатации объектов. Принципы работы, технологии и...
Высшее техническое образование. Наличие дополнительного профессионального образования в области промышленной безопасности. Опыт работы с аналогичным функционалом от 3-х лет.
Высшее техническое образование. Подтвержденный стаж работы в должности инженера КИПиА от 5 лет. Отличные знания нормативных, методических и руководящих документов...
Понимание проектов: - опыт работы в строительстве от 1х-3х лет. - опыт работы с инженерными коммуникациями (отопление,теплоснабжение, вентиляция...
Работаешь на аналогичной позиции в финтехе / банках. Понимаешь принципы работы риск-менеджмента и инструментов влияния через DS сервисы: cost of...
