Обязанности:
- Разработка и поддержка ETL-процессов на базе Apache Hadoop (Hive, Spark, возможно, HBase, Hue для обработки и анализа больших объемов данных)
- Разработка и построение витрин данных (SQL, PL/SQL, PostgreSQL);
- Реализация логики обработки и обогащения данных.
- Интеграция с Apache Kafka: чтение, обработка и запись данных в топики.
- Взаимодействие с целевыми системами для передачи обработанных данных.
- Участие в проектировании архитектуры витрин данных.
- Оптимизация производительности и мониторинг пайплайнов.
- Опыт коммерческой разработки на Java от 2 лет.
- Практический опыт работы с реляционными БД (PostgreSQL), приветствуется опыт с функциями, хранимыми процедурами, триггеры, OLAP-кубы);
- Практический опыт работы с экосистемой Hadoop: Hive, Spark от 2 лет.
- Опыт работы с Apache Kafka: понимание принципов работы продюсеров и консьюмеров.
- Понимание принципов построения ETL/ELT-процессов.
- Знание SQL и опыт работы с базами данных, оптимизации запросов
- Опыт работы с системами контроля версий (Git).
- Умение работать в команде, ответственность, желание развиваться в Big Data.
Условия:
- Возможность профессионального и карьерного роста в компании, возможность поучаствовать в разных проектах;
- Опыт работы в распределенной команде профессионалов;
- Уровень заработной платы обсуждается индивидуально;
- Возможность работать удаленно
Похожие вакансии
Разработчик Java/С++
Правительство Москвы
Высшее/неоконченное высшее образование. Опыт работы на аналогичной (смежной) должности от 1 года. Опыт разработки backend-систем на Java и...
Старший .NET разработчик
МегаФон
Опыт разработки на C#, ASP.NET Core, React, TypeScript от 5 лет. Знание СУБД Oracle, MS SQL, PostgreSQL на уровне необходимом...
Разработчик ПО бортовых систем
АИТ
Опыт разработки ПО для микропроцессоров и микроконтроллеров. Опыт разработки ПО для бортовых систем летательных аппаратов. Опыт разработки систем управления и...
150 000 - 250 000 руб.
Разработчик Java
ГК Орбита
Разработчик должен быть Senior Java Engineer с опытом Spring Boot 3, JPA, PostgreSQL и распределённых систем. Ключевой фокус — сопровождение, багфиксы...
Инженер-программист АСУТП (промавтоматизация)
ИНТЕЛЛЕКТ-СТРОЙ
Практические навыки работы с codesys 3.5, EBPro, Microsoft excel. Чтение и понимание электрических и технологических схем. Опыт настройки промышленных...
150 000 - 190 000 руб.
