Enquête Gartner : Les utilisateurs jugent les éditeurs de BI et leurs plates-formes

Un article intéressant sur le site du grand bi :

L’enquête Gartner incendie pour une fois les grands éditeurs comme SAP/BO, Oracle ou IBM sur les problèmes remontés par les utilisateurs …
Certes, on pourra critiquer ces résultats en supposant que le nombre de problèmes est aussi fonction du nombre d’utilisateurs – et comme peu de monde dans l’entreprise utilisent les produits gagnants de l’enquête – qui utilise Tableau Software ?
Mais c’est une avancée …

Conversion Datastage – Talend

J’ai récemment étudié l’outil de conversion Datastage – Talend qu’on trouve sur

Les jobs simples ( 1 source, 1 cible et 1 transformer entre 2 ) sont bien convertis, mais les jobs plus complexes nécessitent certaines modifications …
Je n’ai ni le temps, ni la place pour exposer tout ça ici, mais je planche là-dessus pour donner plus de détails + tard !

La BI 2.0

La BI existe maintenant depuis une vingtaine d’années, et repose sur des modèles solides comme l’OLAP, les modèles en étoile / flocons, les cubes etc …

La BI 2.0 est un terme à la mode qui caractérise les nouveaux outils qui se détachent des anciens modèles de la BI traditionnelle.

Les principales différences sont :

  • une mise en oeuvre simplifiée, quelques jours ( voire heures ) suffisent pour monter une solution BI
  • la rapidité, notamment due à des nouvelles technos comme l’analyse « in-memory »
  • l’autonomie des utilisateurs – par rapport à la dsi
  • la démocratisation – la BI est utilisée par tous, et non plus destinée à certains cadres dirigeants
  • la souplesse – pouvoir combiner des données qui n’étaient pas reliées entre elles avant, de sources différentes ( fichiers excel, bases de données, sites web )
  • le temps réel – du fait de pouvoir se connecter à n’importe quelle source
  • le travail collaboratif – génération web 2.0

Evidemment de par sa version la BI 2.0 est orientée Web 2.0, et elle adopte les technos du moment ( Cloud Computing, Saas, Paas, mobile etc )

Comme il suffit d’adopter une des caractéristiques citées ci-dessus, beaucoup d’applications sont estampillées « BI 2.0″, notamment les versions « OnDemand » des applications traditionnelles.

Quelques exemples concrets d’applis BI 2.0 :

  • Qlikview
  • Bime

Les problématiques que peut apporter la BI 2.0 :

  • des données publiées non certifiées
  • des process inexistants ( par exemple pour la maintenance … )
  • des limites aux traitements de la donnée

starschema vs snowflake

Que faut-il choisir entre Un modèle en étoile ou un modèle en flocons ?

On se pose tous la même question quand on commence la conception, sans avoir d’éléments de réponse.
Je vais essayer ici de donner les différences entre les deux types de modélisation, et mon point de vue sur la question.

Mais avant quelques rappels :

Le schéma en étoile :
Les dimensions sont dénormalisées afin de concentrer toutes les informations en une seule table. Cela implique qu’on y retrouve certaines colonnes ayant plusieurs fois les mêmes valeurs.
Elles sont disposées autour d’une table de faits, à la manière d’une étoile.
starschema

Le schéma en flocons :
Seules les dimensions changent par rapport au modèle en étoile.
Dans le schéma en flocons, elles sont normalisées. Au lieu de tout concentrer en une seule table on a plusieurs tables liées en une arborescence, chaque niveau de la hiérarchie donnant lieu à une table.
>snowflake

Les différences :

1/ Performances
Avantage : — étoile ? –
On dit souvent que le modèle en étoile est plus performant. Cela est dû au fait qu’il y a moins de jointures à faire que sur un modèle en flocons.
Je dirais que c’était vrai il y a quelques années, quand les SGBD étaient moins performants.
Mais actuellement la différence est minime, les SGBD gérant mieux les jointures multiples. De plus les jointures supplémentaires mettent en oeuvre généralement des tables à faible volumétrie. Cependant il suffit que les stats Oracle soient mal calculées pour obtenir des plans d’exécution erronés et plomber un modèle en flocons.

1bis/ Contre-performance :
Une table de dimension en jointure réflexive dans un modèle en flocons est à proscrire.
Par exemple si on a une table de hierarchie décrivant la structure de l’entreprise, une colonne « père » permettant de faire le lien sur la même table

Le SGBD va lire plusieurs fois la même table, les accès concurrents se faisant sur le même disque les performances seront très dégradées.
Il vaut mieux créer plusieurs tables différentes, chacune représentant un niveau de la hiérarchie.

2/ Volumétries
Avantage : — flocons –
Si la dimension a de nombreux attributs, on a une table qui prend plus d’espace pour le modèle en étoile.
Il vaut mieux choisir un modèle en étoile sur de grosses volumétries quand le ratio devient faible ( 1:50 ), sinon en aplatissant en une seule table les redondances seront trop nombreuses.

3/ Compréhension
Avantage : — flocons –
Certains disent que les modèles en étoile sont plus compréhensibles au premier abord car ils sont plus lisibles, aérés.
Pourtant les hiérarchies sont plus compréhensibles par les utilisateurs dans un modèle en flocons, puisqu’elles sont représentées par les jointures. Alors que dans un modèle en étoile on a plus de mal à voir quel attribut est avant l’autre …

4/ Modèles spécifiques
Avantage : — flocons –
Le modèle en flocons est plus adapté pour les relations n n.
Par exemple si on prend la dimension Compte/Client dans le secteur bancaire, 1 compte a 2 clients, et 1 client a plusieurs comptes …

5/ Tables agrégées
Avantage : — flocons –
Le modèle en flocons est adapté aux tables agrégées comme les vues matérialisées d’Oracle.
Prenons par exemple une table ventes à volumétrie importante.
Pour des raisons de performance on l’a agrégée suivant la semaine, le mois et l’année. Ainsi en fonction de la granularité utilisée, on utilisera la table à la plus faible volumétrie.
Avec le modèle en flocons, les jointures sur les dimensions se font simplement.
Par contre avec le modèle en étoile, avec une seule dimension calendrier ayant le jour en point d’entrée, il faudra :
– soit créer des vues sur la table calendrier au niveau semaine, mois et année et qui dédoublonneront les lignes ( avec un distinct ) pour ne pas multiplier les résultats.
– soit bricoler les jointures dans l’applicatif de restitution ( par exemple lier une table agrégée au mois sur le 1er jour du mois )

6/ Attributs partagés
Avantage : — flocons –
On a souvent des niveaux partagés entre plusieurs dimensions comme le pays dans notre exemple.
Dans un modèle en étoile ces niveaux sont dupliqués dans chaque table, ce qui implique de bons process pour synchroniser les données dans toutes les tables.
Dans un modèle en flocons on n’a pas ce problème car on n’a qu’une seule table.

5/ Applicatifs
Avantage : — aucun –
Certaines applications comme Microstrategy DSS nécessite un modèle en flocons … J’ai vu un modèle en étoile sur lequel on définissait des vues pour le transformer en flocons … c’est dommage non ?

6/ SCD
Avantage : — flocons –
On peut scinder une dimension en SCD dans un modèle en flocons, ce qui est idéal pour de grosses volumétries ou une dimension avec de nombreux attributs.

7/ Simplicité
Avantage : — étoiles –
Le modèle en étoile est plus un modèle « de fainéants » …
Les requêtes SQL sont + faciles à écrire, puisqu’il y a moins de jointures. De même la modélisation est plus simple et plus rapide.

Conclusion
Il est difficile de choisir entre les 2 types de modèles quand il n’y a pas d’applicatifs ou de fonctionnements spécifiques.
D’expérience on part souvent sur un modèle en étoile à la Kimball qui est réputé performant et pratque en décisionnel. Et puis on revient sur des parties de dimension qui sont partagées, et qu’on « dénormalise » en parties de modèle en étoiles.
A mon avis c’est surement la meilleure solution, un modèle hybride qui fait du flocon sur des parties spécifiques ( SCD, niveaux partagés ) et de l’étoile pour le reste …