Gestire una grande mole di dati

7 messages Options
Embed this post
Permalink
Marianna Carbone

Gestire una grande mole di dati

Reply Threaded More More options
Print post
Permalink
Ciao a tutti,
mi trovo a dovere gestire una notevole mole di dati con Plone, vorrei
sapere quale sia il modo migliore per ottimizzare le prestazioni del
sistema.
Pensate sia meglio usare RelStorage con PostgreSQL o rimanere con il
Data.fs e FileSystem?
(non vorrei che il Data.fs arrivi ad avere una dimensione eccessiva)

Grazie
Marianna


_______________________________________________
Plone-IT mailing list
[hidden email]
http://lists.plone.org/mailman/listinfo/plone-it
http://www.nabble.com/Plone---Italy-f21728.html
Riccardo Lemmi

Re: Gestire una grande mole di dati

Reply Threaded More More options
Print post
Permalink
On Monday 14 September 2009, Marianna Carbone wrote:
MC> Ciao a tutti,
MC> mi trovo a dovere gestire una notevole mole di dati con Plone, vorrei
MC> sapere quale sia il modo migliore per ottimizzare le prestazioni del
MC> sistema.
MC> Pensate sia meglio usare RelStorage con PostgreSQL o rimanere con il
MC> Data.fs e FileSystem?
MC> (non vorrei che il Data.fs arrivi ad avere una dimensione eccessiva)
MC>
MC> Grazie
MC> Marianna
MC>
MC>

Giusto per avere un idea: numero di oggetti e dimensioni previste?
--
Riccardo Lemmi                           Email:   [hidden email]
Reflab S.r.l. - Plone Design, Development and Consulting
Phone: +39 349 4620820                         http://www.reflab.it


_______________________________________________
Plone-IT mailing list
[hidden email]
http://lists.plone.org/mailman/listinfo/plone-it
http://www.nabble.com/Plone---Italy-f21728.html

signature.asc (196 bytes) Download Attachment
Marianna Carbone

Re: Gestire una grande mole di dati

Reply Threaded More More options
Print post
Permalink
Some javascript/style in this post has been disabled (why?)
Si tratta di circa 100.000 oggetti

Riccardo Lemmi ha scritto:
On Monday 14 September 2009, Marianna Carbone wrote:
MC> Ciao a tutti,
MC> mi trovo a dovere gestire una notevole mole di dati con Plone, vorrei
MC> sapere quale sia il modo migliore per ottimizzare le prestazioni del
MC> sistema.
MC> Pensate sia meglio usare RelStorage con PostgreSQL o rimanere con il
MC> Data.fs e FileSystem?
MC> (non vorrei che il Data.fs arrivi ad avere una dimensione eccessiva)
MC>
MC> Grazie
MC> Marianna
MC>
MC>

Giusto per avere un idea: numero di oggetti e dimensioni previste?
  

_______________________________________________ Plone-IT mailing list [hidden email] http://lists.plone.org/mailman/listinfo/plone-it http://www.nabble.com/Plone---Italy-f21728.html

_______________________________________________
Plone-IT mailing list
[hidden email]
http://lists.plone.org/mailman/listinfo/plone-it
http://www.nabble.com/Plone---Italy-f21728.html
Riccardo Lemmi

Re: Gestire una grande mole di dati

Reply Threaded More More options
Print post
Permalink
On Monday 14 September 2009, Marianna Carbone wrote:
MC> Si tratta di circa 100.000 oggetti
MC> ...

100K oggetti non sono un problema per il Data.fs, anche la dimensione del
Data.fs non è in generale considerata un problema (qualche decina di GB).
Su questi valori comunque può essere necessario fare un po' di lavoro di
tuning.
--
Riccardo Lemmi                           Email:   [hidden email]
Reflab S.r.l. - Plone Design, Development and Consulting
Phone: +39 349 4620820                         http://www.reflab.it


_______________________________________________
Plone-IT mailing list
[hidden email]
http://lists.plone.org/mailman/listinfo/plone-it
http://www.nabble.com/Plone---Italy-f21728.html

signature.asc (196 bytes) Download Attachment
luigi scarso

Re: Gestire una grande mole di dati

Reply Threaded More More options
Print post
Permalink
2009/9/14 Riccardo Lemmi <[hidden email]>:
> On Monday 14 September 2009, Marianna Carbone wrote:
> MC> Si tratta di circa 100.000 oggetti
> MC> ...
>
> 100K oggetti non sono un problema per il Data.fs, anche la dimensione del
> Data.fs non è in generale considerata un problema (qualche decina di GB).
> Su questi valori comunque può essere necessario fare un po' di lavoro di
> tuning.

Ed anche imparare come si fa il backup, come è la struttura
di Data.fs etc


--
luigi


_______________________________________________
Plone-IT mailing list
[hidden email]
http://lists.plone.org/mailman/listinfo/plone-it
http://www.nabble.com/Plone---Italy-f21728.html
Marianna Carbone

Re: Gestire una grande mole di dati

Reply Threaded More More options
Print post
Permalink
Some javascript/style in this post has been disabled (why?)
E quale sarebbe il limite oltre cui gestire tutto con il data.fs può creare problemi?

E le soluzioni?

Grazie


luigi scarso ha scritto:
2009/9/14 Riccardo Lemmi [hidden email]:
  
On Monday 14 September 2009, Marianna Carbone wrote:
MC> Si tratta di circa 100.000 oggetti
MC> ...

100K oggetti non sono un problema per il Data.fs, anche la dimensione del
Data.fs non è in generale considerata un problema (qualche decina di GB).
Su questi valori comunque può essere necessario fare un po' di lavoro di
tuning.
    

Ed anche imparare come si fa il backup, come è la struttura
di Data.fs etc


  

_______________________________________________ Plone-IT mailing list [hidden email] http://lists.plone.org/mailman/listinfo/plone-it http://www.nabble.com/Plone---Italy-f21728.html

_______________________________________________
Plone-IT mailing list
[hidden email]
http://lists.plone.org/mailman/listinfo/plone-it
http://www.nabble.com/Plone---Italy-f21728.html
Riccardo Lemmi

Re: Gestire una grande mole di dati

Reply Threaded More More options
Print post
Permalink
On Monday 14 September 2009, Marianna Carbone wrote:
MC> E quale sarebbe il limite oltre cui gestire tutto con il data.fs può
MC> creare problemi?

In teoria i limiti sono le dimensioni della RAM (l'indice viene caricato
completamente in memoria) e la dimensione massima di un file legata al tipo
di file system.

MC> E le soluzioni?

+ RAM, file system adeguato

Ma tornando alla domanda iniziale:

MC> mi trovo a dovere gestire una notevole mole di dati con Plone, vorrei
MC> sapere quale sia il modo migliore per ottimizzare le prestazioni del
MC> sistema.
MC> Pensate sia meglio usare RelStorage con PostgreSQL o rimanere con il
MC> Data.fs e FileSystem?

Non c'è una risposta generale a questa domanda, la scelta di uno storage
rispetto ad un altro è legata a molti aspetti: velocità, ridonzanza, backup.

FileStorage è sicuramente lo storage più veloce, RelStorage permette di creare
sistemi con un certo livello di ridondanza in maniera semplice e semplifica
anche l'architettura (non serve ZEO per gestire l'accesso concorrente allo
storage) ma è più lento.

Non mi ricordo che qualcuno abbia affermato di usare RelStorage per la sua
capacità di gestire in maniera migliore grandi quantità di dati, di sicuro
l'indice che viene creato per individuare la posizione degli oggetti nel
Data.fs viene caricato in memoria al contrario di RelStorage e questo impatta
sull'occupazione di memoria e sul tempo di startup del server.
--
Riccardo Lemmi                           Email:   [hidden email]
Reflab S.r.l. - Plone Design, Development and Consulting
Phone: +39 349 4620820                         http://www.reflab.it


_______________________________________________
Plone-IT mailing list
[hidden email]
http://lists.plone.org/mailman/listinfo/plone-it
http://www.nabble.com/Plone---Italy-f21728.html

signature.asc (196 bytes) Download Attachment