- Beiträge: 33
Write-Geschwindigkeit bei Excel und CSV
- Umberto W. Ferrari
- Autor
- Offline
- Benutzer
Weniger
Mehr
1 Jahr 4 Monate her - 1 Jahr 4 Monate her #4929
von Umberto W. Ferrari
FlowHeater ein wirklich starkes Programm | Robert Stark ein genialer Entwickler und Supporter.
Write-Geschwindigkeit bei Excel und CSV - Beitrag(4929) wurde erstellt von Umberto W. Ferrari
Hallo Community,
ich führe folgende Definition aus:
READ: InMemory-Adapter
WRITE: Textfile-Adapter
Verarbeitungsdauer: 12,387 Sekunden
READ: InMemory-Adapter
WRITE: Excel-Adapter
Verarbeitungsdauer: 2 Minuten 34,364 Sekunden
Es dauert also fast 13mal länger, in den ExcelAdapter zu schreiben.
Ist das so oder kann man das beschleunigen?
Ich danke Euch für eine Antwort und grüsse freundlich
uwf.
ich führe folgende Definition aus:
READ: InMemory-Adapter
WRITE: Textfile-Adapter
Verarbeitungsdauer: 12,387 Sekunden
READ: InMemory-Adapter
WRITE: Excel-Adapter
Verarbeitungsdauer: 2 Minuten 34,364 Sekunden
Es dauert also fast 13mal länger, in den ExcelAdapter zu schreiben.
Ist das so oder kann man das beschleunigen?
Ich danke Euch für eine Antwort und grüsse freundlich
uwf.
FlowHeater ein wirklich starkes Programm | Robert Stark ein genialer Entwickler und Supporter.
Letzte Änderung: 1 Jahr 4 Monate her von FlowHeater-Team.
Bitte Anmelden oder Registrieren um der Konversation beizutreten.
- FlowHeater-Team
- Offline
- Administrator
1 Jahr 4 Monate her #4931
von FlowHeater-Team
gruß
Robert Stark
FlowHeater-Team antwortete auf Write-Geschwindigkeit bei Excel und CSV - Beitrag(4931)
Hallo Herr Ferrari,
Nein leider nicht. Das Problem ist, dass der Excel Adapter für den Excel Import/Export immer das Installierte Office Paket verwendet und hier COM Aufrufe verwendet werden, das bremst den Adapter aus. Wenn Sie den TextFile Adapter verwenden wir direkt und ohne Umwege geschrieben, das ist erheblich schneller.
Bei größeren Definitionen können Sie das Beschleunigen indem Sie alles erstmal in eine oder mehrere InMemory Tabellen einlesen. Sie hier Ihre Änderungen durchführen und dann konsolidiert wieder in eine Excel Datei ausgeben bzw. scheiben. So können Sie einige Excel Schreib/Lese Vorgänge vermeiden.
Nein leider nicht. Das Problem ist, dass der Excel Adapter für den Excel Import/Export immer das Installierte Office Paket verwendet und hier COM Aufrufe verwendet werden, das bremst den Adapter aus. Wenn Sie den TextFile Adapter verwenden wir direkt und ohne Umwege geschrieben, das ist erheblich schneller.
Bei größeren Definitionen können Sie das Beschleunigen indem Sie alles erstmal in eine oder mehrere InMemory Tabellen einlesen. Sie hier Ihre Änderungen durchführen und dann konsolidiert wieder in eine Excel Datei ausgeben bzw. scheiben. So können Sie einige Excel Schreib/Lese Vorgänge vermeiden.
gruß
Robert Stark
Bitte Anmelden oder Registrieren um der Konversation beizutreten.
- Umberto W. Ferrari
- Autor
- Offline
- Benutzer
Weniger
Mehr
- Beiträge: 33
1 Jahr 4 Monate her - 1 Jahr 4 Monate her #4932
von Umberto W. Ferrari
FlowHeater ein wirklich starkes Programm | Robert Stark ein genialer Entwickler und Supporter.
Umberto W. Ferrari antwortete auf Write-Geschwindigkeit bei Excel und CSV - Beitrag(4932)
Hallo Robert Stark,
danke für die Antwort.
Genau das hatte ich (leider) vermutet.
Die «Beschleunigung» über den InMemory-Adapter habe ich bereits eingesetzt. In diesem Zusammenhang also die anschließende Frage zum Thread #4366 .
Da schrieben Sie: «Der Excel Adapter kann aktuell leider keine Zeilenbasierende Datensätze verarbeiten. Was Sie aber tun können ist die Excel Arbeitsmappe in einem ersten Schritt in eine Textdatei zu exportieren und dann über einen zweiten Verarbeitungsschritt diese über den Textfile Adapter zu verarbeiten.»
Kann ich in diesem Fall die Exceldatei im
uwf.
danke für die Antwort.
Genau das hatte ich (leider) vermutet.
Die «Beschleunigung» über den InMemory-Adapter habe ich bereits eingesetzt. In diesem Zusammenhang also die anschließende Frage zum Thread #4366 .
Da schrieben Sie: «Der Excel Adapter kann aktuell leider keine Zeilenbasierende Datensätze verarbeiten. Was Sie aber tun können ist die Excel Arbeitsmappe in einem ersten Schritt in eine Textdatei zu exportieren und dann über einen zweiten Verarbeitungsschritt diese über den Textfile Adapter zu verarbeiten.»
Kann ich in diesem Fall die Exceldatei im
- Schritt über den READ-ExcelAdapter in den WRITE-InMemoryAdapter (Table From Excel) speichern und im
- Schritt über den READ-InMemoryAdapter (Table From Excel) in den WRITE InMemoryAdapter (Table To CSV) speichern?
uwf.
FlowHeater ein wirklich starkes Programm | Robert Stark ein genialer Entwickler und Supporter.
Letzte Änderung: 1 Jahr 4 Monate her von Umberto W. Ferrari. Begründung: Formatierung angepasst.
Bitte Anmelden oder Registrieren um der Konversation beizutreten.
- FlowHeater-Team
- Offline
- Administrator
1 Jahr 4 Monate her #4933
von FlowHeater-Team
gruß
Robert Stark
FlowHeater-Team antwortete auf Write-Geschwindigkeit bei Excel und CSV - Beitrag(4933)
Hallo Herr Ferrari,
das geht leider nicht, die Zeilenbasierende Verarbeitung geht aktuell nur über den TextFile Adpater, der InMemory Adapter kann auch nur Datensatzbezogen, Zeile für Zeile, lesen. Sie müssten von Excel nach Text konvertieren und dann im zweiten Step per TextFile Adapter lesen.
Wenn es aber nur wenige Zeilen pro Datensatz sind könnten Sie die Verarbeitung auch über den GroupBy Heater und mehreren Bedingungen durchführen. Das würde auch mit dem Excel Adapter direkt gehen!
Hinweis: Ab ca. 10 Zeilen pro Datensatz wird das aber sehr unübersichtlich und endet in einer Fleißarbeit. Hier finden Sie ein Beispiel wie Sie mit dem GroupBy Heater mehrere Zeilen zur einem Datensatz zusammenfassen können: Werte aus mehreren Zeilen zu einer zusammenfassen
das geht leider nicht, die Zeilenbasierende Verarbeitung geht aktuell nur über den TextFile Adpater, der InMemory Adapter kann auch nur Datensatzbezogen, Zeile für Zeile, lesen. Sie müssten von Excel nach Text konvertieren und dann im zweiten Step per TextFile Adapter lesen.
Wenn es aber nur wenige Zeilen pro Datensatz sind könnten Sie die Verarbeitung auch über den GroupBy Heater und mehreren Bedingungen durchführen. Das würde auch mit dem Excel Adapter direkt gehen!
Hinweis: Ab ca. 10 Zeilen pro Datensatz wird das aber sehr unübersichtlich und endet in einer Fleißarbeit. Hier finden Sie ein Beispiel wie Sie mit dem GroupBy Heater mehrere Zeilen zur einem Datensatz zusammenfassen können: Werte aus mehreren Zeilen zu einer zusammenfassen
gruß
Robert Stark
Bitte Anmelden oder Registrieren um der Konversation beizutreten.
- Umberto W. Ferrari
- Autor
- Offline
- Benutzer
Weniger
Mehr
- Beiträge: 33
1 Jahr 4 Monate her #4934
von Umberto W. Ferrari
FlowHeater ein wirklich starkes Programm | Robert Stark ein genialer Entwickler und Supporter.
Umberto W. Ferrari antwortete auf Write-Geschwindigkeit bei Excel und CSV - Beitrag(4934)
Hallo Robert Stark,
danke für die Antwort.
Dann bleibe ich bei ExcelAdapter->TextFileAdapter.
Schönes Wochenende
uwf.
danke für die Antwort.
Dann bleibe ich bei ExcelAdapter->TextFileAdapter.
Schönes Wochenende
uwf.
FlowHeater ein wirklich starkes Programm | Robert Stark ein genialer Entwickler und Supporter.
Bitte Anmelden oder Registrieren um der Konversation beizutreten.
Ladezeit der Seite: 0.283 Sekunden