Владислав М. , Middle, Data инженер

Male avatar
Владислав М.
Россия, Москва
2 070 ₽/час331 200 ₽/мес. без НДС
Опыт работы:
От 3 до 6 лет
Языки:

Английский — B2

ПисьменныйРазговорный

О специалисте

Навыки
Technology:
SQL
PL/pgSQL
Python
Linux
GreenPlum
Apache Kafka
Apache Spark
Clickhouse
S3
Apache AirFlow
Oracle Db
Apache Iceberg
debezium
HDFS
Git
Jira
Atlassian Confluence
docker-compose
Trino
DBT
Apache Superset
DataLens
Java
Grafana
Kubernetes
Database:
PostgreSQL
MySQL
Source_control:
GitHub
GitLab
Applications:
Docker
Формат работы
Удалённо
Описание о специалисте

Имеет практический опыт разработки и сопровождения ETL/ELT-процессов для корпоративных хранилищ данных: работал с потоками из OSS/BSS-систем, включая CDR, UDR, биллинг и CRM-источники, строил витрины для аналитики абонентской активности и финансовых показателей. Работал с современным Big Data стеком: S3, Iceberg, Spark, Airflow, Kafka, Greenplum, ClickHouse и Trino, включая миграцию с Greenplum на Lakehouse-архитектуру.


В рамках проектов самостоятельно занимался оптимизацией SQL-запросов, Spark-трансформаций и витрин, что позволило значительно сократить время формирования отчётности. Также имеет опыт внедрения проверок качества данных, мониторинга пайплайнов и поддержки production-процессов, что соответствует задачам по стабильной эксплуатации интеграционных потоков.


Опыт работы: 3 года 3 месяца.

Примеры работ

NDA
Описание задачи/проекта

Информационные технологии, системная интеграция, интернет

Позиция на проекте
Data Engineer
Ответственность
  1. Разработка и сопровождение batch-ETL загрузки телеком-данных из OSS/BSS систем (CDR, UDR, биллинг, CRM) в корпоративное хранилище данных
  2. Работа с корпоративным хранилищем данных на базе S3 для хранения сырых данных, ClickHouse и Greenplum для аналитической обработки и построения витрин, PostgreSQL для справочников и сервисных таблиц
  3. Построение аналитических витрин по абонентской активности, услугам и финансовым показателям
  4. Разработка и построение прототипов моделей: подготовка и препроцессинг данных, загрузка из различных источников для аналитики и машинного обучения
  5. Построение стриминг процессов для перекладки и сохранения сырых данных из Kafka
  6. Оркестрация и мониторинг пайплайнов обработки данных в Airflow
  7. Оптимизация SQL-запросов, витрин в ClickHouse и PostgreSQL, Spark трансформаций
  8. Контроль качества данных и сопровождение существующих ETL-процессов
  9. Миграция с Greenplum на Lakehouse(S3+iceberg)
Технологии и инструменты
Clickhouse, Git, GitLab, GreenPlum, Kafka, Linux, PostgreSQL, Python, S3, Spark, SQL, Airflow, Iceberg
Период работы/продолжительность
Август 2024 - Октябрь 2026
NDA
Описание задачи/проекта

Информационные технологии, системная интеграция, интернет

Позиция на проекте
Data Engineer
Ответственность
  1. Продуктивизация витрин данных и разработка интеграций с источниками на основе архитектурных концепций, обеспечение надёжной передачи данных
  2. Разработка ETL-пайплайнов для загрузки и трансформации данных в слоях Raw, Core и Mart с последующей продуктивизацией
  3. Автоматизация и оркестрация процессов по внутренним стандартам в Airflow
  4. Сопровождение существующих ETL-процессов
  5. Изучение и внедрение подходов к повышению качества и надёжности данных
  6. Поддержка и развитие внутренней базы знаний
Технологии и инструменты
Git, GitLab, GreenPlum, HDFS, Oracle, Python, Spark, SQL, Airflow
Период работы/продолжительность
Март 2023 - Апрель 2024
Не нашли, кого искали?

Оставьте заявку и, наша команда в кратчайшие сроки подберёт необходимого специалиста за вас!

Помните, что заключение договора и оплата услуг происходит после того, как вы выбрали специалиста.

Request Poster