logo[мetahunt]
> DOU
senior

Data Engineer

Sigma Software
format:Remotecompany:Outsource
pythonsqlapache sparkdatabrickssnowflakeany one ofdatabricksawsazuregoogle cloudany one ofawskafkaeltetlany one ofeltairflowazure data factoryany one ofairflowterraform
ragllmdbtmlflow
englishB2
experience5+ years
domainConsulting
locationKyiv, Ukraine · Kharkiv, Ukraine +7
> full description

We are looking for a Senior Data Engineer to join our Data Engineering Team and take ownership of high-impact, greenfield data initiatives. You will work on building modern cloud-native data platforms, migrating on-premises legacy systems to the cloud, and laying the architectural foundation for AI-ready data infrastructure.

In this role, you will collaborate closely with Machine Learning, Data Science, and Product teams, serving as a key technical contributor and thought leader. You will also drive R&D efforts around agentic AI architectures, event-driven systems, and LLM-ready data pipelines — turning architectural concepts into production-grade solutions.

Responsibilities:

  • Design and build scalable cloud-native data platforms from greenfield to production
  • Design and implement near-real-time ingestion pipelines using event-driven patterns
  • Define and enforce data platform standards including Data Lake and Lakehouse principles, medallion architecture, and data contracts
  • Refactor, optimize, and modernize Spark and PySpark scripts for performance and maintainability
  • Introduce best practices for code quality, testing, and CI/CD across data pipelines
  • Drive adoption of AI tooling and agentic workflows within the Data Engineering team
  • Ensure data quality, observability, scalability, and reliability across all platforms and pipelines
  • Design and deliver self-service tooling and microservices that simplify platform usage
  • Collaborate with cross-functional stakeholders including Product, Machine Learning, and Data Science teams
  • Contribute to architecture decisions and technical R&D initiatives

Requirements:

  • 5+ years of professional experience in Data Engineering
  • Strong Python and SQL development skills
  • Hands-on experience with Apache Spark and PySpark including query optimization and performance tuning
  • Experience working with Databricks or Snowflake
  • Practical experience with at least one major cloud provider such as Azure, AWS, or GCP
  • Experience with stream processing technologies including Kafka or Spark Structured Streaming
  • Strong understanding of ETL/ELT patterns, data modelling, and data warehousing concepts
  • Experience with orchestration tools such as Apache Airflow or Azure Data Factory
  • Knowledge of Infrastructure as Code tools including Terraform
  • Understanding of production-grade systems including observability, scalability, reliability, and performance
  • Ability to independently lead technical initiatives from concept to delivery
  • Strong communication and collaboration skills
  • Upper-Intermediate or higher English level

Will be a plus

  • Familiarity with RAG pipeline design and LLM integration patterns
  • Knowledge of data governance frameworks and tools such as Unity Catalog or Apache Atlas
  • Experience with dbt for data transformation and modelling
  • Familiarity with MLflow, Feature Stores, or ML platform integrations

Personal profile

  • Proactive and self-driven mindset
  • Strong analytical and architectural thinking
  • Ability to work independently and take ownership of technical decisions
  • Passion for innovation and modern engineering practices
  • Knowledge-sharing and team-oriented approach
  • Strong problem-solving skills

____________________________________________________________________________________

Ми шукаємо Senior Data Engineer до нашої Data Engineering Team, який долучиться до розвитку high-impact greenfield data initiatives. Ти працюватимеш над створенням сучасних cloud-native data platforms, міграцією legacy on-premises systems у хмару та формуватимеш архітектурну основу для AI-ready data infrastructure.

У цій ролі ти тісно співпрацюватимеш із командами Machine Learning, Data Science та Product, виступаючи ключовим технічним експертом і thought leader. Також ти драйвитимеш R&D-ініціативи у сферах agentic AI architectures, event-driven systems та LLM-ready data pipelines, перетворюючи архітектурні концепції на production-grade solutions.

Обовʼязки

  • Проєктувати та розробляти масштабовані cloud-native платформи даних — від greenfield-розробки до production.
  • Проєктувати та впроваджувати near-real-time pipelines для збору та обробки даних із використанням event-driven підходів.
  • Визначати та впроваджувати стандарти для data platform, зокрема принципи Data Lake та Lakehouse, medallion architecture і data contracts.
  • Рефакторити, оптимізувати та модернізувати Spark і PySpark-скрипти для підвищення продуктивності та підтримуваності коду.
  • Впроваджувати best practices щодо якості коду, тестування та CI/CD для data pipelines.
  • Розвивати використання AI-інструментів та agentic workflows у команді Data Engineering.
  • Забезпечувати якість, observability, масштабованість і надійність даних, платформ та pipeline’ів.
  • Проєктувати та розробляти self-service інструменти та мікросервіси, які спрощують використання платформи.
  • Співпрацювати з cross-functional командами, зокрема Product, Machine Learning та Data Science.
  • Брати участь у прийнятті архітектурних рішень та технічних R&D-ініціативах.

Вимоги

  • 5+ років комерційного досвіду в Data Engineering
  • Впевнені навички розробки на Python та SQL
  • Практичний досвід роботи з Apache Spark та PySpark, включаючи оптимізацію запитів і performance tuning
  • Досвід роботи з Databricks або Snowflake
  • Практичний досвід роботи щонайменше з одним основним cloud-провайдером: Azure, AWS або GCP
  • Досвід роботи з технологіями stream processing, зокрема Kafka або Spark Structured Streaming
  • Глибоке розуміння ETL/ELT-підходів, моделювання даних та концепцій data warehousing
  • Досвід роботи з інструментами оркестрації, такими як Apache Airflow або Azure Data Factory
  • Знання інструментів Infrastructure as Code, зокрема Terraform
  • Розуміння production-grade систем, включаючи observability, scalability, reliability та performance
  • Здатність самостійно вести технічні ініціативи — від концепції до реалізації та delivery
  • Сильні навички комунікації та командної роботи
  • Англійська на рівні Upper-Intermediate

Буде плюсом

  • Знайомство з розробкою RAG pipelines та підходами до інтеграції LLM
  • Знання data governance frameworks та інструментів, таких як Unity Catalog або Apache Atlas
  • Досвід роботи з dbt для трансформації та моделювання даних
  • Знайомство з MLflow, Feature Stores або інтеграціями з ML-платформами

Особистий профіль:

  • Проактивний та самостійний підхід до роботи
  • Сильне аналітичне та архітектурне мислення
  • Здатність самостійно працювати та брати на себе відповідальність за технічні рішення
  • Зацікавленість в інноваціях та сучасних engineering practices
  • Готовність ділитися знаннями та працювати в команді
  • Сильні навички вирішення технічних проблем
Відгукнутись на вакансію