Data Engineer LCLF

Ref : 230320B005
Logo client
Compétences requises
APACHE SPARK APACHE HIVE SCALA Google Cloud Platform HDFS Anglais
Description de la mission

Nous recherchons un Data Engineer LCLF pour une mission de 6 mois renouvelables sur Charenton le Pont.

Contexte / Objectifs :

Récupérer les données issues de sources externes

  • Utiliser la puissance du Datalake
  • Produire et mettre à disposition automatiquement des agrégats journaliers, hebdomadaires et mensuels.
  • Mise en œuvre de la chaîne :
             - d’ingestion de données,
             - de validation de données,
             - de croisement de données,
             - de déversement dans le datalake des données enrichies

  • Développer dans le respect des règles d’architecture définies
  • Développer et documenter les user stories avec l’assistance du Product Owner.
  • Produire les scripts de déploiement
  • Prioriser les corrections des anomalies
  • Assister les équipes d’exploitation
  • Participer à la mise en œuvre de la chaîne de delivery continue
  • Automatiser les tests fonctionnels

Aspects Humains :

  • Grande capacité à travailler dans une équipe, en mode Scrum / Kanban.
  • Bonnes compétences relationnelles et grand sens de la communication (capacité à entrer dans le détail).
  • Sensible et informé des évolutions technologiques sur les piles logicielles pratiquées.

Connaissances techniques :

  •   Stockage : HDFS / GCS
  •   Traitement: Maitrise de l’écosystème Spark / Kafka / Scala
  •   Planification : Airflow / Composer
  •   Gouvernance : Apache Atlas / Hive
  •   Méthodologies : Scrum, Kanban, Git
  •   DWH : SQL, Oracle / BigQuery
  •   Delivery : Git, Ansible, Docker, Terraform, Jenkins / Cloud Build
  •   La connaissance de la plateforme Data GCP est un plus
  •   La connaissance de la plateforme Amadea/Statmining est un plus

Contexte :

La direction Risk Management et Lutte Contre La Fraude propose aux établissements du Groupe et à ses clients, un ensemble de services et prestations dédiés à la Lutte contre la Fraude. Ces services et prestations évoluent en fonction des exigences réglementaires, du déploiement de nouveaux moyens de paiements et de l’évolution de la fraude.

Le client a lancé un projet de construction de son nouveau socle Data. Un chantier de collecte et de refactoring des alimentations et des transformations de données est à réaliser au sein de l’équipe.

D'autres offres
Consultant APACHE SPARK

Ces missions pourraient vous intéresser !

Responsable technique/développeur Flink

JAVA APACHE SPARK APACHE KAFKA
ASAP
Télétravail
12 mois
Voir la mission

Data Engineer Spark Scala

SCALA APACHE SPARK
ASAP
69 - Lyon
6 mois
Voir la mission

Data Ingénieur

APACHE SPARK SCALA SQL AZURE
ASAP
92 - Chatillon
3 mois
Voir la mission

Data Scientist

APACHE HADOOP APACHE HIVE PYTHON APACHE SPARK
A définir
Nanterre
3 mois
Voir la mission

Consultant DATA SPARK ELASTICSEARCH

APACHE SPARK ELASTICSEARCH
ASAP
33 - Bordeaux
3 mois
Voir la mission

Lead Mongo DB

MONGODB APACHE SPARK SCALA APACHE KAFKA ORACLE
ASAP
75 - PARIS
3 mois
Voir la mission

Développeur SPARK / HADOOP / Risques

APACHE HADOOP APACHE SPARK SCALA
ASAP
75 - Paris
6 mois
Voir la mission

Consultant DATAIKU

Dataiku JAVA PYTHON APACHE SPARK Cloudera
ASAP
33 - Bordeaux
3 mois
Voir la mission

Consultant HADOOP / SPARK

APACHE HADOOP APACHE SPARK
ASAP
75 - Paris
3 mois
Voir la mission

Développeur HADOOP / SPARK / SCALA

APACHE HADOOP APACHE SPARK SCALA
ASAP
75 - Paris
6 mois
Voir la mission