- Beiträge: 15
HOWTO? primary key fehler kein abbruch des imports
- Michael Brockhoff
- Autor
- Offline
- Benutzer
Weniger
Mehr
9 Jahre 10 Monate her #1833
von Michael Brockhoff
HOWTO? primary key fehler kein abbruch des imports wurde erstellt von Michael Brockhoff
Hallo,
ich hab ich relativ kleine CSV Listen ca 20000 rows jeweils.
Davon aber relativ viele.
Die importier ich jetzt per fhabatch mit dem diesem upadte.bat:
set FHBATCH="C:\rhschart\FlowHeater\FlowHeater2\BIN\FHBatch.exe"
%FHBATCH% /massdata /ReadFileName "C:\temp\*.csv" test.fhd
das klappt auch so weit.
Jetzt hab ich auf datenbank seite einen zusammengesetzten primarykey über zwei spalten.
Aktiviere ich jetzt die Option Daten aktualisieren (Update) auf der write Seite funktioniert das ganze ohne Fehler. Nur sehr langsam.
Besonders wenn er tatsächlich doppelte Datensätze hat also ein Update absetzen muss dauert das schon mal schnell 15 Minuten statt 30 sekunden wenn die update option nicht angehagt ist.
Jetzt ist meine Frage kann man der update.bat irgendwie einen parameter mitgeben das der nicht einfach komplett abbrechen soll wenn es zu einer verletzung des primary keys kommt.
Der soll einfach den Datensatz überspringen anstatt Fehler geht das?
Gruß
Michael Brockhoff
ich hab ich relativ kleine CSV Listen ca 20000 rows jeweils.
Davon aber relativ viele.
Die importier ich jetzt per fhabatch mit dem diesem upadte.bat:
set FHBATCH="C:\rhschart\FlowHeater\FlowHeater2\BIN\FHBatch.exe"
%FHBATCH% /massdata /ReadFileName "C:\temp\*.csv" test.fhd
das klappt auch so weit.
Jetzt hab ich auf datenbank seite einen zusammengesetzten primarykey über zwei spalten.
Aktiviere ich jetzt die Option Daten aktualisieren (Update) auf der write Seite funktioniert das ganze ohne Fehler. Nur sehr langsam.
Besonders wenn er tatsächlich doppelte Datensätze hat also ein Update absetzen muss dauert das schon mal schnell 15 Minuten statt 30 sekunden wenn die update option nicht angehagt ist.
Jetzt ist meine Frage kann man der update.bat irgendwie einen parameter mitgeben das der nicht einfach komplett abbrechen soll wenn es zu einer verletzung des primary keys kommt.
Der soll einfach den Datensatz überspringen anstatt Fehler geht das?
Gruß
Michael Brockhoff
Bitte Anmelden oder Registrieren um der Konversation beizutreten.
- FlowHeater-Team
- Offline
- Administrator
9 Jahre 10 Monate her - 9 Jahre 10 Monate her #1834
von FlowHeater-Team
gruß
Robert Stark
Wurde Ihre Frage damit beantwortet? Bitte geben Sie ein kurzes Feedback, Sie helfen damit auch anderen die evtl. ein ähnliches Problem haben. Danke.
FlowHeater-Team antwortete auf HOWTO? primary key fehler kein abbruch des imports
Hallo Herr Brockhoff,
das ist eine interessante Option Leider geht das bisher noch nicht, sobald ein Fehler auftritt wird der Komplette Import/Export Prozess abgebrochen und je nach Datenbank Transaktionseinstellungen der Zustand vor dem Start des Imports wird wieder hergestellt.
Ich habe Ihnen eine Beta Version 3.5.3 bereitgestellt: FlowHeaterBeta.zip
Hier können Sie im Datenbank Adapter auf der Write in den Eigenschaften (s. Screenshot) angeben ob Sie im Fehlerfall den Import Prozess abrechen möchten ( = Standard) oder ab Sie mit dem nächsten Datensatz in der Verarbeitung fortfahren wollen.
das ist eine interessante Option Leider geht das bisher noch nicht, sobald ein Fehler auftritt wird der Komplette Import/Export Prozess abgebrochen und je nach Datenbank Transaktionseinstellungen der Zustand vor dem Start des Imports wird wieder hergestellt.
Ich habe Ihnen eine Beta Version 3.5.3 bereitgestellt: FlowHeaterBeta.zip
Hier können Sie im Datenbank Adapter auf der Write in den Eigenschaften (s. Screenshot) angeben ob Sie im Fehlerfall den Import Prozess abrechen möchten ( = Standard) oder ab Sie mit dem nächsten Datensatz in der Verarbeitung fortfahren wollen.
gruß
Robert Stark
Wurde Ihre Frage damit beantwortet? Bitte geben Sie ein kurzes Feedback, Sie helfen damit auch anderen die evtl. ein ähnliches Problem haben. Danke.
Anhänge:
Letzte Änderung: 9 Jahre 10 Monate her von FlowHeater-Team.
Bitte Anmelden oder Registrieren um der Konversation beizutreten.
- Michael Brockhoff
- Autor
- Offline
- Benutzer
Weniger
Mehr
- Beiträge: 15
9 Jahre 10 Monate her #1837
von Michael Brockhoff
Michael Brockhoff antwortete auf HOWTO? primary key fehler kein abbruch des imports
Hallo Herr Stark,
Danke!
Damit geht es schnell (jede CSV liste mit je 14400 Datensätzen ist damit in ca 14 Sekunden abgearbeitet.) Insgesamt habe ich später 12 million Datensätze in der ziel DB Tabelle.
Die Inserts die aufgrund des Primary Keys nicht gehen werden einfach Übersprungen. (was auch gut so ist!)
Gilt das für alle arten von Fehlern die passieren können?
DBNULL Verletzung usw?
Was ist mir Fehlern die in .Net Scripten passieren können?
Da hatte ich auch schon mal das verhalten wenn man einen Try Catch
um den Code Vergisst das der bei einer Exception den kompletten import
abbricht.
Eine Frage noch: Wie kommt es, das es mit der Update Option es so lange dauert?
Gruß
Michael Brockhoff
Danke!
Damit geht es schnell (jede CSV liste mit je 14400 Datensätzen ist damit in ca 14 Sekunden abgearbeitet.) Insgesamt habe ich später 12 million Datensätze in der ziel DB Tabelle.
Die Inserts die aufgrund des Primary Keys nicht gehen werden einfach Übersprungen. (was auch gut so ist!)
Gilt das für alle arten von Fehlern die passieren können?
DBNULL Verletzung usw?
Was ist mir Fehlern die in .Net Scripten passieren können?
Da hatte ich auch schon mal das verhalten wenn man einen Try Catch
um den Code Vergisst das der bei einer Exception den kompletten import
abbricht.
Eine Frage noch: Wie kommt es, das es mit der Update Option es so lange dauert?
Gruß
Michael Brockhoff
Bitte Anmelden oder Registrieren um der Konversation beizutreten.
- FlowHeater-Team
- Offline
- Administrator
9 Jahre 10 Monate her #1842
von FlowHeater-Team
gruß
Robert Stark
Wurde Ihre Frage damit beantwortet? Bitte geben Sie ein kurzes Feedback, Sie helfen damit auch anderen die evtl. ein ähnliches Problem haben. Danke.
FlowHeater-Team antwortete auf HOWTO? primary key fehler kein abbruch des imports
Hallo Herr Brockhoff,
die Änderung betrifft alle SQL Statements die auf die Datenbank abgesetzt werden inkl. Primary/Foreign Key Verletzungungen, DBNULL, etc.
Alle anderen Fehler die während der Verarbeitung noch auftreten können sind hier noch nicht mit abgedeckt, wird aber noch kommen.
Warum dauert der Import So lange wenn die Update Option aktiviert ist?
Das ist relativ einfach, hier werden/müssen pro zu importieren Datensatz 2 SQL Statements abgesetzt werden. Einmal um zu prüfen ob der Datensatz bereits vorhanden ist und dann entweder eine INSERT oder eine UPDATE Statement hinterher.
die Änderung betrifft alle SQL Statements die auf die Datenbank abgesetzt werden inkl. Primary/Foreign Key Verletzungungen, DBNULL, etc.
Alle anderen Fehler die während der Verarbeitung noch auftreten können sind hier noch nicht mit abgedeckt, wird aber noch kommen.
Warum dauert der Import So lange wenn die Update Option aktiviert ist?
Das ist relativ einfach, hier werden/müssen pro zu importieren Datensatz 2 SQL Statements abgesetzt werden. Einmal um zu prüfen ob der Datensatz bereits vorhanden ist und dann entweder eine INSERT oder eine UPDATE Statement hinterher.
gruß
Robert Stark
Wurde Ihre Frage damit beantwortet? Bitte geben Sie ein kurzes Feedback, Sie helfen damit auch anderen die evtl. ein ähnliches Problem haben. Danke.
Bitte Anmelden oder Registrieren um der Konversation beizutreten.
Ladezeit der Seite: 0.273 Sekunden