LXC Kloning sehr laaaangsam

[mpatzwah]

Hallo,
beim Klonen meiner LXC mit 20GB hatte ich letztens 15 Min gewartet (Ceph mit 4TB Samsung SSDs)
Gleiche Maschine: VM-Container mit 60GB dauert auc ca. 15 Min.
Wie kann das sein (LXC ca. 3 fach langsamer) , bzw. wie kann man das Kloning generell beschleunigen ?

Vielen Dank
Marco

 

[Falk R.]

Hi Marco,

die Art wie die Daten bei einem LXC abgelegt werden, ist komplett verschieden zu einer VM. Kann es sein, dass in der VM auch nur 20GB Daten vorhanden sind? Es wird immer die komplette Größe der Disk angezeigt, aber nur belegte Blöcke kopiert.

 

[mpatzwah]

Sorry für die späte Rückmeldung, war 2 Wochen unterwegs ....

die lxc hatte auch nur 15 GB von den 20GB belegt. Gestern hat das Kloning 45 min gedauert. Mich würden mal andere Werte aus der Praxis interessieren. Denn die SSD müssten das doch in max 2 Min kopieren können, oder ?
Oder anders gefragt: Welche Hardware oder Konfig brauche ich, dass ich 20GB Maschinen in 2 Min klonen kann (ich brauche oft neue Maschinen für Schulungen)

 

[dMopp]

Die Geschwindigkeit hängt von der Größe der Dateien ab. Klingt für mich mich normal schnell, sofern da nicht nur 3x5GB im Container liegen

 

[mpatzwah]

meine SSD kann 520MB/s, das bedeutet doch für das Kopieren von 20 GB sollte es doch eigentlich nur ca. 40 sekunden dauern, oder ?

 

[Falk R.]

meine SSD kann 520MB/s, das bedeutet doch für das Kopieren von 20 GB sollte es doch eigentlich nur ca. 40 sekunden dauern, oder ?

Das ist die maximale Übertragung, bis der Cache voll ist und nur bei 100% Sequenziell.
Für Schulungen nutze ich lieber VM Templates und mache linked Clones.

 

[dMopp]

Korrekt, bei 4K wird deine SSD bei vielleicht 5MBs liegen, mehr nicht.

 

[mpatzwah]

das Kloning com 30GB auf eine Samsung M2 hat 1m40s gedauert, das gleiche auf Ceph: 50 m !
Kann es sein, dass mein Ceph (Netzwerk ) mich so extrem ausbremst (Ceph mit 3 Knoten und 10Gb Netz)? Wie könnte ich denn das feststellen ?
Linked Clone geht meines wissens unter Ceph nicht, oder gibt es da einen Trick?

 

[Falk R.]

das Kloning com 30GB auf eine Samsung M2 hat 1m40s gedauert, das gleiche auf Ceph: 50 m !
Kann es sein, dass mein Ceph (Netzwerk ) mich so extrem ausbremst (Ceph mit 3 Knoten und 10Gb Netz)? Wie könnte ich denn das feststellen ?
Linked Clone geht meines wissens unter Ceph nicht, oder gibt es da einen Trick?

Linked Clone geht bei jedem Storage, aber nur mit einem Template.

Ja, Ceph benötigt viel Bandbreite und die Disks sind auch sehr wichtig.
Bei 100MB Write, hast du 100MB von der VM zur Master OSD für diese PG, von da gehen je 100MB an die beiden anderen OSD (Default 3fach Mirror) und wenn alle OSD die Daten geschrieben haben und ein ACK and die Mater geben, bekommt der Client das ACK.
Also hast du 400MB übertragen und die Latenz des Netzwerks und der langsamsten OSD sind hier ausschlaggebend.

 

[mpatzwah]

also ich denke es liegt an meinem Ceph Netzwerk, aber ich weiß nicht wo. die Images zu kopieren auf einer anderen Platte dauert 1m 45s.
Woher können die hohen Zahlen bei osd.3 und osd.5 denn kommen (s.u.) ?

 

[Falk R.]

also ich denke es liegt an meinem Ceph Netzwerk, aber ich weiß nicht wo. die Images zu kopieren auf einer anderen Platte dauert 1m 45s.View attachment 57867

Bei den Latenzen ist die Performance kein Wunder.

 

[mpatzwah]

woher kommen die denn ?

 

[Falk R.]

SSD am Lebensende oder günstige Consumer Ware.

 

[mpatzwah]

Samsung QVO ist ja jetzt nicht soooo günstig

 

[Falk R.]

Ok, da haben wir das Problem. QVO sind Quad Level Cell SSDs, das langsamste was du auf dem SSD Markt bekommen kannst. Die sind für Backup oder Dateiablage geeignet. Beim schreiben brechen die ganz schnell in der Performance ein und sind dann oft sogar langsamer als eine drehende Platte.

 

[mpatzwah]

Hallo Falk, woher hast Du denn dieses Wissen?
wenn ich da ein wenig google komme ich auf ...
https://ssd-tester.de/samsung_870_qvo_1TB.html

 

[Falk R.]

Hallo Falk, woher hast Du denn dieses Wissen?
wenn ich da ein wenig google komme ich auf ...
https://ssd-tester.de/samsung_870_qvo_1TB.html

Ich arbeite in der IT.
Du bekommst bei PURE auch ein großes Storage mit QLC SSDs, aber die haben einen großen PLP RAM Cache. Trotzdem empfiehlt der Hersteller das Storage nur für Fileservices oder Backups. Die Latenzen sind da auch deutlich höher als bei der normalen Storages mit TLC.

Das QLC generell langsam im schreiben ist, sollte man überall im Internet finden. Hier mal ein Beispiel:

Spoiler: Link

https://www.heise.de/ratgeber/Dauertests-mit-QLC-SSDs-6292488.html