Catégorie: feature TOS

09/06/2008

Permalink 01:46:36, Catégories: Talend, release TOS TIS SDI, Récapitulatif Business Intelligence, feature TOS, 205 mots   French (FR) , Cedric CARBONE

[BI] TOS 2.4 : tMap pour gérer de gros volumes en lookup

Avant Talend Open Studio 2.4, le tMap mettait en mémoire (dans un hash) les différents lookup afin de faire la jointure entre la donnée lue (en entrée main) et les hash de façon rapide. Cela a cependant une limite : lorsque les lookup ont des données importantes (beaucoup de colonnes, des dizaines de millions de ligne) et que la mémoire disponible du serveur est petite cela ne peut pas marcher!

En 2.4, un bouton (Enable/Disable store on disk) à coté de chacun des lookup dans le tMap a été rajouté accompagné de 2 uniques paramétrages (emplacement du buffer et nombre de ligne du buffer). Il permet d'indiquer que ce lookup ne sera pas chargé complètement en mémoire mais utilisera le disque dur. Un tri des clés du lookup est effectué et un buffer sur le disque dur est utilisé afin de ne plus être limité par la mémoire serveur.

» Lire la suite!

Vous devez être identifié pour poster un commentaire.

Talend ETL - Cédric Carbone (co2)

Logo de Talend
Talend Open Studio
ETL Open Source
Blog français dédié à l'intégration de données, la business intelligence, Java et bien sur Talend Open Studio

Cedric Carbone - Talend CTO

Catégories


Rechercher

<  Mai 2012  >
Lun Mar Mer Jeu Ven Sam Dim
  1 2 3 4 5 6
7 8 9 10 11 12 13
14 15 16 17 18 19 20
21 22 23 24 25 26 27
28 29 30 31      

Syndiquez ce blog XML

Articles :

Commentaires :

 
 
 
 
Partenaires

Hébergement Web