Backup von virtuellen Maschinen

[DasMoritz]

Guten Abend,

ich habe eine Frage ins Forum, bitte nicht steinigen falls die Frage doof ist:

Ich habe z.B. meiner VM "Synology NAS" eine HDD mit 10TB zugewiesen.
Von dieser HDD mit 10TB sind bisher "nur" 3,6 TB belegt.

Das Backup der virtuellen Maschine ist jedoch ca. 10TB (.zstd) groß.
Ist das so richtig oder kann ich das irgendwie so einstellen, dass tatsächlich die VM so reduziert wird, dass nur ca. 3,6TB weggesichert werden müssen?

Danke,
Moritz

 

[Dunuin]

Zstd-Kompresson sollte dir eigentlich das meiste wegkomprimieren. Du hast die 10TB Disk aber nicht über Synology verschüsselt oder so? Was ist das denn genua für ein Storage wohin du das Backup schreibst und was ist das für ein Storage, auf dem die 10TB HDD liegt? Virtuelle Disk oder HDD Passthrough? Fall virtuelle Disk, dann auf LVM/LVM-Thin/ZFS/ceph/NFS? Raw oder qcow2?

 

[DasMoritz]

Moin,

Der Backup-Server ist ein Proxmox Backup Server auf dem knapp 4TB frei sind (zwei Backups von kleinen VM's laufen da auch sauber rein).

Die Synology VM ist nicht verschlüsselt und sieht wie folgt aus:


Die HDD-Auslastung innerhalb von Synology ist wie folgt:

Im Ergebnis also etwas mehr als 3,5TB an Daten.

Wenn ich das Teil nun per Backup auf den PBS schieben möchte...

dann kommt nach dem Klicken auf Backup recht schnell das hier:


Beim letzten Mal kam dann irgendwann der Abbruch wegen "nicht genug Speicher im Ziel"?

Mich wundert aber nun eigentlich, dass er ins Backup geht und dies beginnt, ich vermute mal dass die Überprüfung "Reicht der Storage im Ziel denn aus?" vor dem Beginn des Backups stattfindet, oder?

Danke,
Moritz

 

[fabian]

wie kommst du den darauf dass das backup 10TB gross ist? die angabe im fortschritt bezieht sich einfach auf die summe der zu sichernden daten, nicht darauf wieviel platz das backup dann am ende braucht. nachdem PBS sowohl dedupliziert als auch komprimiert, laesst sich auch nicht am anfang sagen wieviel platz dieser eine snapshot jetzt zusaetzlich verbrauchen wird, daher kann es auch keinen check geben ob genug platz vorhanden ist..

Beim letzten Mal kam dann irgendwann der Abbruch wegen "nicht genug Speicher im Ziel"?

kannst du dazu vielleicht den backup task log posten? es ist durchaus moeglich, dass das backup mehr platz braucht als die VM selbst als "used" ansieht - das backup passiert in 4MB chunks, filesysteme haben meist (deutlich) kleinere bloecke eventuell hilft ein fstrim/discard in der VM, um bereits geloeschte teile tatsaechlich auch am storage freizugeben..

 

[Dunuin]

4TB PBS datastore für eine 10TB virtuelle Disk mit 3,6TB drauf ist aber auch etwas knapp kalkuliert. Das PBS webUI zeigt für einzelne Backupshots übrigens auch keine tatsächlichen Größen, da PBS selbst nicht weiß, wie viel Platz ein Backup Snapshot auf dem Datastore einnimmt. Das einzige was PBS kennt ist die komplette Größe des Datastores mit allen Backup Snapshots von allen Gästen zusammen.

 

[DasMoritz]

Moin,

hier das Ergebnis:

INFO:  40% (4.1 TiB of 10.3 TiB) in 20h 26m 22s, read: 38.1 MiB/s, write: 37.5 MiB/s
INFO:  40% (4.1 TiB of 10.3 TiB) in 20h 40m 52s, read: 30.3 MiB/s, write: 29.2 MiB/s
ERROR: backup write data failed: command error: write_data upload error: pipelined request failed: writing chunk on store 'Volume' failed for 75593b3f2df56f2d3488dbc8c873bdb8484a70447078af7e6556c43562517f31 - No space left on device (os error 28)
INFO: aborting backup job
INFO: resuming VM again
ERROR: Backup of VM 100 failed - backup write data failed: command error: write_data upload error: pipelined request failed: writing chunk on store 'Volume' failed for 75593b3f2df56f2d3488dbc8c873bdb8484a70447078af7e6556c43562517f31 - No space left on device (os error 28)
INFO: Failed at 2022-08-04 03:55:46
INFO: Backup job finished with errors
TASK ERROR: job errors

Vielleicht einmal zu meinem PBS:

Der PBS rennt auf einer zweiten PVE Instanz.
Diese PVE Instanz hat zwei HDD's 4TB HDD's im Bauch, die ich jeweils einzeln der PBS-VM zugeordnet habe (der PBS ist das einzige, was auf der PVE läuft, quasi ein dedizierter Host für die PBS-VM).

Im PBS gelingt es mir nun aber nicht die beiden zugewiesenen HDD's mit jeweils knapp 4TB zu einer logischen Einheit mit knapp 8TB (als test) zusammenzufassen.

Hat da nochmal jemand einen Tipp?

 

[fabian]

das was du suchst ist irgendeine form von software raid (0) (LVM kann das, mdraid kann das, ZFS kann das) - ist natuerlich aufgrund von fehlender redundanz (bzw. quasi schlimmer, sogar dem gegenteil davon - wenn eine platte abraucht sind die daten von beiden weg!) nix fuer den produktiveinsatz.

 

[DasMoritz]

Moin Fabian,

genau, dass ist mir klar. Wenn eine Platte abraucht: Feierabend auf dem Backup-Server.
Ich möchte das nur übergangsweise / testweise so einsetzten, bis ich zwei gute Platten für den Backup-Server finde (da ist mir ein schlechtes Backup lieber als gar kein Backup).

Das LVM konfiguriere ich dann auf dem PVE (als Host) oder auf dem PBS?

 

[fabian]

beides ist prinzipiell moeglich (beide platten an die einzige VM durchreichen, drinnen LVM machen, oder beide platten am PVE zu einer VG zusammenschliessen, die dann als storage konfigurieren, und eine entsprechend grosse VM disk drauf erstellen).

 

[DasMoritz]

Hi,

ich würde gerne beiden Platten auf dem PVE zu einer VG zusammenfassen, daran scheitere ich aber irgendwie:

Das hier sind meine beiden HDD's:


Dann gehe ich auf LVM und Create Volume Group, dort kann ich aber immer nur "eine HDD" auswählen, sprich keine Gruppe erzeugen sondern immer nur je HDD ein Volu



Da hänge ich dann: Ich habe dann zwei einzelne Volume-Gruppen, die aber jeweils nur ihre eine HDD im Bauch haben. Mein (bewusst nicht gutes Ziel) ist ja, dass ich die Volume Group über zwei HDD's spanne als RAID0.

Da mache ich doch was falsch?

 

[fabian]

ist nicht auf der GUI/API supported - du musst selbst mit pvcreate/vgcreate und co arbeiten

 

[DasMoritz]

Perfekt, Danke. Hat mit dieser Anleitung gut geklappt:
https://www.diytechguru.com/2020/12/12/proxmox-lvm-directory/

 

[Dunuin]

PBS und PVE lassen sich übrigens auch bare metal auf dem selben Host installieren. Dan müsste man PBS nicht einmal virtualisieren, hätte weniger Overhead und PVE+PBS könnten sich den selben Storage teilen.

 

[DasMoritz]

Moin,

Danke!
Eigentlich "spiele" ich ja noch bzw. nur.

Mein Ziel ist eigentlich, dass der aktuelle "PVE-Host-auf-dem-PBS-in-einer-VM-rennt" künftig nativ PBS auf die SSD gedrückt bekommt, damit beide Systeme (also mein "produktiver PVE-Host" und das "Backup") sauber voneinander getrennt sind).

Ich schaue nun erstmal, ob mein Backup der Synology fehlerfrei durch läuft.

 

[Dunuin]

PVE und PBS nebeneinander kann auch ganz praktisch sein. Man soll Backups ja regelmäßig mal restoren um zu gucken, ob da mit den Backups noch alles in Ordnung ist. Dafür wäre ein isoliertes PVE sehr praktisch, auf dem sonst nichts läuft und was vom Netzwerk getrennt ist (Bridge ohne verbundene NIC oder so), damit die temporär wiederhergestellte VM/LXC sich nicht mit den produktiven VMs/LXCs beißt, welche ja vermutlich die selben IPs und MACs etc benutzen.

 

[DasMoritz]

Das ist eine gute Idee....

Ich muss eh mal schauen wie ich es "aufbaue", aktuell:

- HP Microserver Gen 8 mit 16GB RAM und Xeon 1265 als produktive PVE Umgebung
- Dell Optiplex 7050 mit 8GB RAM und i5-6500 als PVE-Host für den PBS

Der Dell Optiplex kann leider nur 2-3HDD's, da würde ich gerne perspektivisch mehr haben. Zudem hat der Dell Optiplex kein iLO, iDRAC etc.

Vermutlich wäre folgendes am sinnvollsten:
- Für die produktive PVE Umgebung nicht mehr den HP Microserver Gen 8 verwenden sondern etwas neues mit mehr RAM-Möglichkeit und einer moderneren CPU (nur was, der HP leistet echt treue Dienste, tolles Teil)?

- Den HP Microserver Gen 8 als Host für die native PBS-Installation verwenden (Gnadenhof)

- Den Dell Optiplex als Versuchskaninchen für Restore-Tests

 

[Dunuin]

Die meiste Hardware für Geld gibt es aktuell noch bei Xeon E5 v2/v3 mit DDR3 ECC. Da bekommt man oft ganze Server mit 128 GB RAM und 2x 6 CPU Cores für 300-400 € nachgeworfen.
Deutsche Stromkosten sind dann aber noch ein anderes Thema...

 

[DasMoritz]

Da ich eine recht große PV Anlage habe und mir irgendwann auch einen Speicher bauen werde ist das nicht weiter wild.

Aber es muss ja nicht mehr Energie verbraucht werden als notwendig, der HP Microserver liegt so bei 40 Watt, ich würde gerne zweistellig bleiben….

 

[DasMoritz]

Moin,

ich habe auf dem PBS ja meinen Storage erweitert, auf den läuft aktuell das Backup.
Auf dem Datastorage sieht es so aus:



Das Backup hat folgenden Fortschritt:


Annahme: Das Ding geht wieder in die Hose, weil ihm der Festplattenplatz nicht ausreicht bzw. er die VM-HDD nicht ausreichend komprimieren kann, obwohl hier "nur" knapp 3,6TB genutzt werden....



Hat da jemand einen guten Tipp?

 

[fabian]

hast dus denn wie weiter oben vorgeschlagen mit trim/discard versucht?