> formation Technologies numériques > formation Big Data, Intelligence Artificielle > formation Big Data, NoSQL > formation Spark, développer des applications pour le Big Data
Toutes nos formations Big Data, NoSQL

Formation Spark, développer des applications pour le Big Data

3,9 / 5
Stage pratique
Best
Durée : 3 jours
Réf : SPK
Prix  2021 : 2240 € H.T.
Pauses et déjeuners offerts
  • Programme
  • Participants / Prérequis
  • Intra / sur-mesure
  • avis vérifiés
Programme

Vous développerez des applications en Java en vue de traiter en temps réel des données issues du Big Data. Vous collecterez, stockerez et traiterez avec Spark des données de formats hétérogènes afin de mettre en place des chaînes de traitement intégrées à votre Système d'Information.

Objectifs pédagogiques

  • Maîtriser les concepts fondamentaux de Spark
  • Développer des applications avec Spark Streaming
  • Faire de la programmation parallèle avec Spark sur un cluster
  • Exploiter des données avec Spark SQL
  • Avoir une première approche du Machine Learning

Travaux pratiques

Mise en pratique des notions vues en cours à l'aide du langage Java.
PROGRAMME DE FORMATION

Présentation d'Apache Spark

  • Historique du Framework.
  • Les différentes versions de Spark (Scala, Python et Java).
  • Comparaison avec l'environnement Apache Hadoop.
  • Les différents modules de Spark.

Travaux pratiques
Installation et configuration de Spark. Exécution d'un premier exemple avec le comptage de mots.

Programmer avec les Resilient Distributed Dataset (RDD)

  • Présentation des RDD.
  • Créer, manipuler et réutiliser des RDD.
  • Accumulateurs et variables broadcastées.
  • Utiliser des partitions.

Travaux pratiques
Manipulation de différents Datasets à l'aide de RDD et utilisation de l'API fournie par Spark.

Manipuler des données structurées avec Spark SQL

  • SQL, DataFrames et Datasets.
  • Les différents types de sources de données.
  • Interopérabilité avec les RDD.
  • Performance de Spark SQL.
  • JDBC/ODBC server et Spark SQL CLI.

Travaux pratiques
Manipulation de Datasets via des requêtes SQL. Connexion avec une base externe via JDBC.

Spark sur un cluster

  • Les différents types d'architecture : Standalone, Apache Mesos ou Hadoop YARN.
  • Configurer un cluster en mode Standalone.
  • Packager une application avec ses dépendances.
  • Déployer des applications avec Spark-submit.
  • Dimensionner un cluster .

Travaux pratiques
Mise en place d'un cluster Spark.

Analyser en temps réel avec Spark Streaming

  • Principe de fonctionnement.
  • Présentation des Discretized Streams (DStreams).
  • Les différents types de sources.
  • Manipulation de l'API.
  • Comparaison avec Apache Storm.

Travaux pratiques
Consommation de logs avec Spark Streaming.

Manipuler des graphes avec GraphX

  • Présentation de GraphX.
  • Les différentes opérations.
  • Créer des graphes.
  • Vertex and Edge RDD.
  • Présentation de différents algorithmes.

Travaux pratiques
Manipulation de l'API GraphX à travers différents exemples.

Machine Learning avec Spark

  • Introduction au Machine Learning.
  • Les différentes classes d'algorithmes.
  • Présentation de SparkML et MLlib.
  • Implémentations des différents algorithmes dans MLlib.

Travaux pratiques
Utilisation de SparkML et MLlib.

Participants / Prérequis

» Participants

Développeurs, architectes.

» Prérequis

Bonnes connaissances du langage Java.
Intra / sur-mesure

Demande de devis intra-entreprise
(réponse sous 48h)

Vos coordonnées

En cochant cette case, j’atteste avoir lu et accepté les conditions liées à l’usage de mes données dans le cadre de la réglementation sur la protection des données à caractère personnel (RGPD).
Vous pouvez à tout moment modifier l’usage de vos données et exercer vos droits en envoyant un email à l’adresse rgpd@orsys.fr
En cochant cette case, j’accepte de recevoir les communications à vocation commerciale et promotionnelle de la part d’ORSYS Formation*
Vous pouvez à tout moment vous désinscrire en utilisant le lien de désabonnement inclus dans nos communications.
* Les participants inscrits à nos sessions de formation sont également susceptibles de recevoir nos communications avec la possibilité de se désabonner à tout moment.
Avis vérifiés
picto avis vérifiés
EL A. 02/12/2020
3 / 5
Je m'attendais à une formation plus poussée en matière des détails fournis . En tout c'est ce que m'a expliqué ma boite. Je pense que pour un débutant le contenu est très intéressent sauf que pour une personne ayant déjà manipulée du spark en mission c'est plutôt un rappel sur certains sujet et plutôt une validation des connaissances. Je salut l'effort du formateur q

Dorra B. 02/12/2020
3 / 5
Cette formation est très bien pour une initiation au Big Data et la familiarisation avec les outils Big Data. Mais étant data engineer je connaissais quasiment tout (à part la partie graph X et ML) j aurai aimé une formation plus poussée et approfondie sur spark. Le formateur est très pédagogue et à l'écoute.

Olivier J. 02/12/2020
4 / 5
Les TP ont pris le pas sur la théorie. Les TP semblent simplistes.

Bruno B. 02/12/2020
4 / 5
Très clair et très pédagogue. J'ai l'impression que le support de cours datait un peu par rapport aux versions des logiciels disponibles désormais. L'ensemble des support a été partagé au travers de Microsoft Teams ou de shares, mais n'était pas dispo dans l'espace MyOrsys.

BACHA F. 02/12/2020
4 / 5
Je m'attendais à plus d'informations sur le fonctionnement global de spark ( mode cluster, driver...) et moins de problèmes de développeurs (dépendances, maven, conception d'algo..) ce qui aurait été plus utile spécifiquement dans mon cas .

Guillaume L. 02/12/2020
5 / 5
Formation claire et bien structurée. Agréable et satisfaisante dans l'ensemble. Je pense cependant que le côté distribution du code sur des serveurs distants n'a pas été suffisamment abordé compte tenu de son importance dans Spark. Les partitions ont été évoquées mais pas développées, et un des exemples (Redis) ne prenait pas en compte cette distribution, donnant une fausse impression de simplicit

Guillaume L. 21/09/2020
2 / 5
Le formateur est arrivé en retard chacun des 3 jours, son téléphone bippe et sonne plusieurs fois par jour -Il explique des choses erronées, opposées à la documentation officielle -Il nous laisse souvent seuls sans aucune instruction -Il découvre ses slides, dit parfois des choses en contradiction avec -Un tier des codes d'exemple ne fonctionnent pas -La version de l'outil présentée n'est plus

FEVRE L. 21/09/2020
4 / 5
Point positif : - principaux thèmes abordés - Mise à disposition des exemples sur clé usb - beaucoup de pratique Point négatif: - Machine Learning : présentation brève de Dataiku (outil non open source) et non de MLLib - GraphX : pas vu Ne connaissant pas java, difficulté à connaître les méthodes et classes java utiles à Spark , difficulté à trouver l[qu

Marine T. 20/07/2020
4 / 5
Cours intéressant pour comprendre l'architecture big data, malgré que ça ne soit pas mon coeur de métier, plus orientée Data Science J'aurais aimé avec plus de détails sur la partie spark ML que j'ai trouvé intéressante.

Hugo L. 20/07/2020
4 / 5
Formateur pédagogue qui prend le temps d'expliquer

Arnaud C. 20/07/2020
4 / 5
Parcourt d'un grand ensemble d'outil et leurs différents communications. exemples intéressants.

coz l. 20/07/2020
5 / 5
Progression dans les exercices, objectifs atteignables

Yvette B. 25/05/2020
4 / 5
contenu est très intéressant pour mon métier mais le temps était insuffisant pour aller plus en profondeur

Samuel J. 25/05/2020
4 / 5
Très bon stage, et très satisfait pour ma première formation professionnelle de ma carrière Dommage qu'on est pas pu approfondir plus en détail les notions vu mais il aurait fallu plus de temps

VALENTIN B. 25/05/2020
5 / 5
Bien équilibré entre théorique et pratique. Les exercices étaient simples mais permettaient de bien découvrir chaque api de spark quand même. Quelques petits soucis dans les TPs, il faudrait mettre à jour les exercices avec les dernières versions des logiciels utilisées et corriger les utilisations de code mainteannt deprecated.

Arnaud D. 25/05/2020
5 / 5
Super formation pour une découverte de Spark.

Cucu M. 25/05/2020
5 / 5
Bon cours mais un peut minimal au final. J'ai beaucoup aimé le présentateur et son attitude. Je suis venue à ce cours avec curiosité et je suis partie avec beaucoup de questions et je voulais en savoir plus. Je ne veux pas dire que ce cours est mauvais, c'est juste très court pour tous les sujets qu'il a essayé de toucher. Je pense que cela devrait prendre beaucoup plus de 3 jours ou peut-être raccourcir le programme. J'esp[egra

Youssef B. 09/03/2020
4 / 5
nous n'avons pas reçu les supports de cours .

Tristan G. 09/03/2020
5 / 5
Support de cours papier non présent

Thierry M. 17/02/2020
3 / 5
Trop de temps passé sur de la lecture de Data. L'impression de toujours faire le même exercice. Il manque la compréhension de la distribution, etc.
Avis client 3,9 / 5

Les avis client sont issus des feuilles d’évaluation de fin de formation. La note est calculée à partir de l’ensemble des avis datant de moins de 12 mois.

CLASSE A DISTANCE

En inter et en intra-entreprise
Inscrivez-vous ou contactez-nous !

Pour vous inscrire

Cliquez sur la ville, puis sur la date de votre choix.
[+]
CLASSE A DISTANCE
[+]
PARIS
[+]
AIX
[+]
BORDEAUX
[+]
BRUXELLES
[+]
GRENOBLE
[+]
LILLE
[+]
LYON
[+]
MONTPELLIER
[+]
NANTES
[+]
ORLEANS
[+]
RENNES
[+]
SOPHIA-ANTIPOLIS
[+]
STRASBOURG
[+]
TOULOUSE
[+]
TOURS

Horaires

Les cours ont lieu de 9h à 12h30 et de 14h à 17h30.
Les participants sont accueillis à partir de 8h45.
Pour les stages pratiques de 4 ou 5 jours, les sessions se terminent à 15h30 le dernier jour.
Thème associé