Proxmox Backup Script für externe Laufwerke

[blackfield]

Mahlzeit zusammen,

ich beschäftige mich jetzt schon eine Weile mit Proxmox allerdings nicht im Produktivbetrieb.

Das ganze soll mein Homeserver werden, hauptsächlich für:

-Home Assistant
-Truenas Core
-piHole
-part-db
-evtl Raspberrymatic

da kommt bestimmt noch was dazu.
Jetzt soll der Server natürlich 24/7 laufen sonst wäre es ja sinnlos. Da in Deutschland aber Strom auch Geld kostet ist meine geplante Konfiguration mit 4x 1TB SAS 2,5" HDD als RaidZ 2 für Proxmox sowie 4x WD RED Pro 3TB über LSI HBA an Truenas durchgereicht zwar schön, will aber im idle 75 Watt.
Jetzt ist bis auf das NAS nichts drauf wo mich Datenverlust stören würde bzw was nicht relativ einfach wieder einzurichten wäre. Mit Snapshots ist es ja dann noch einfacher. Gibt z.B. die System-SSD den Geist auf, kommt eine neue rein, Proxmox drauf und die Snapshots widerherstellen.

Jetzt hab ich hier einige Server HDDs liegen und mir kam so der Gedanke diese extern anzubinden über USB3 und dort die Snapshots zu speichern. Macht natürlich in Hinsicht auf Stromsparen nur Sinn wenn diese nicht ebenfalls 365 Tage mitlaufen.

Also war mein Gedanke:

Externe Laufwerke zeitgesteuert einschalten
Mount per cronjob
Backup Job erstellen und laufen lassen
Danach umount
Laufwerke wieder ausschalten


Klingt eigentlich ganz simpel

Wenn ich jetzt aber die Laufwerke aushänge bevor das Backup fertig ist wirds blöd geschweige denn sie ausschalten.

Gut Backup Jobs kann ich auch per CLI starten also über ein script und am ende dann den umount. Der wird dann eh erst ausgeführt wenn fertig. Zum Abschalten der Laufwerke hatte ich auch eine Idee: Nach dem umount per serial einen Befehl an einen Arduino o.ä. schicken der dann das externe Gehäuse abschaltet

Bin ich da absolut auf einem schlechten Weg oder klingt das halbwegs vernünftig?

Wie gesagt da ist nichts lebenswichtiges drauf. Klar die partDB wäre nervig wenn sie weg ist aber bringt mich jetzt auch nicht um.
Um die 4x WD RED komm ich nicht rum, das ist mir klar.

Aber vier Systemplatten gegen eine NVME austauschen und dann Snapshots auslagern wäre mir lieber vor allem spar ich mir dann den HBA, da ich den SATA Controller direkt durchreichen kann.


Bin mal gespannt was ihr dazu sagt und schonmal einen guten Rutsch

Kevin

 

[Dunuin]

Wenn es dir nur um Backups geht, dann hole dir doch einen günstigen (50€?) Rechner über Kleinanzeigen und mach da PBS drauf. Stromkosten sind da relativ egal, da der ja nur selten laufen muss. Dann richtest du dir einen Backup Job mit Hook Scripts ein, welche den PBS automatisch vor dem Backup über WoL hochfährt, und am Ende wieder runterfährt.
PBS macht eh viel mehr Sinn als VZDump Backups. Spart soooo viel Platz dank Deduplikation, ist viel schneller durch dank inkrementellen Backups und wenn du es richtig einrichtest hast du auch gleich noch Ransomware-Schutz.

Bei den kleinen Mengen an Daten kannst du auch über SSDs nachdenken. Kosten in der Anschaffung zwar mehr, dafür ist der Idle-Verbrauch dann aber auch entsprechend geringer. HDDs kannst du eh nicht sinnvoll runterspinnen lassen, falls die von PVE benutzt werden, da pvestatd die alle paar Sekunden pollt und wach hält. So eine SSD kann da deutlich schneller zwischen zwischen Standby and Betrieb wechseln.

 

[blackfield]

Wenn es dir nur um Backups geht, dann hole dir doch einen günstigen (50€?) Rechner über Kleinanzeigen und mach da PBS drauf

Ich wollte eigentlich auf noch ein System verzichten, mal davon abgesehen das ich für die andere Lösung alles an Hardware rumliegen habe.

Über den Backup Server hab ich jetzt sehr zwiegespaltenes gelesen: Die einen sagen super toll, die anderen hatten mehr Probleme damit.

Spart soooo viel Platz dank Deduplikation

Ich hatte eigentlich vor direkt nach der Installation ein Backup zu machen, sozusagen als Ausgangskonfiguration und dann jeden Tag (oder jeden zweiten) nachts. Dabei immer das älteste überschreiben und allgemein nur zwei oder drei behalten. Da wäre das mit der Deduplikation ja eher unwichtig oder?

Das HDDs nicht sinnvoll runterspinnen hab ich schon gemerkt, mögen aber Serverlaufwerke ja eh nicht so.

Mein Gedanke war Proxmox dann eh auf einer NVME laufen zu lassen. Wenn die dann den Dienst quittiert muss ich PVE sowieso neu installieren auch beim PBS oder?

Sollte ich selbst mal eine große Änderung machen (zB in HA neue Hardware anlegen ect) kann ich ja immer noch manuell ein Backup anstoßen.

Aber versteh ich das richtig: der PBS macht auch nicht wirklich was anderes als meine PVE Konfiguration zu sichern und Snapshots von meinen VMs bzw LXCs.

Was ich vorher noch gefunden habe: den PBS auf einem Raspberry Pi installieren und dann per USB Laufwerke dran. Allerdings kann der PI kein WOL. Also eher wieder unpraktisch.

 

[sb-jw]

Ich wollte eigentlich auf noch ein System verzichten, mal davon abgesehen das ich für die andere Lösung alles an Hardware rumliegen habe.

Wenn man ehrlich ist, kannst du bei deinem gewünschten vorgehen auch gleich auf Backups verzichten und nur mit Snapshots arbeiten. Den Mehrwert von Backups hast du nur dann wirklich, wenn es ein getrenntes System ist und deine Backups wirklich losgelöst von der zu sichernden Hardware sind. Einmal Ransomware und es ist alles dahin.
Ich bin da ganz bei @Dunuin, hol dir besser ne zweite kleine Buchse für deine Backups - kann ja auch ein SFF Computer oder so sein wo du die Platten per USB dran hängst. Wichtig ist aber, dass die Systeme einfach wirklich getrennt sind.

Über den Backup Server hab ich jetzt sehr zwiegespaltenes gelesen: Die einen sagen super toll, die anderen hatten mehr Probleme damit.

Musst du mal mit etwas mehr Infos unterfüttern. Aber grundsätzlich, wer nur Schrott hinstellt bekommt auch nur Schrott raus. Auch für Backups muss man halt Geld in die Hand nehmen. Ich betreibe meinen PBS z. B. auf einem Dell R330 mit 6x 960 GB Enterprise SSDs - ich bereue es nicht. Es spart Strom, ist sehr performant und der "kleine" Speicherplatz reicht dank Dedup etc. auch vollkommen aus (im Vergleich zum vorherigen C2100 mit 12x Spinngern und einem CEPH 2/1 drauf ). Da liegen von VMs mind. 14 Tage Backups rum und von den PMGs auch alle Stunde ein Config Backup.
Ich persönlich kann hier auch nur sagen, dass es ein super Produkt ist und ich es uneingeschränkt weiterempfehlen kann.

Da wäre das mit der Deduplikation ja eher unwichtig oder?

Findest du es unwichtig ob du 3x 1 TB Speicherplatz brauchst oder 1x 1 TB und vielleicht 2x nur 10 GB? Als Grundsätzlich lässt sich deine Frage so nicht eindeutig beantworten, da es auch maßgeblich davon abhängt was du sichern willst. Deduplication kann dir aber z. B. auch helfen, wenn du mehrfach das gleiche Betriebssystem hast, denn diese Komponenten sind in der Regel ja immer identisch.

Das HDDs nicht sinnvoll runterspinnen hab ich schon gemerkt, mögen aber Serverlaufwerke ja eh nicht so.

Mag generell keine Spinning Disk mehrfach am Tag gestoppt und gestartet zu werden. Es verschleißt halt unnötig den Datenträger. Bei Proxmox VE liegt es aber wahrscheinlich weniger daran, dass das nicht gescheit implementiert wäre sondern eber eher, dass die Datenträger nicht zur Ruhe kommen, da Proxmox VE fortwährend den Speicherstand etc. abfragt und mitschreibt. Damit eine Festplatte sinnvoll abschalten kann, musst du auch einen ausreichend langen Zeitraum haben wo defintiv keine Zugriff passieren, dafür musst du aber Proxmox VE etwas umscripten.

Mein Gedanke war Proxmox dann eh auf einer NVME laufen zu lassen. Wenn die dann den Dienst quittiert muss ich PVE sowieso neu installieren auch beim PBS oder?

Musst du auch bei deinem Windows Laptop, einem Windows Server oder Debian 12. Das liegt aber eben in der Natur der Sache, wenn du ein Betriebssystem auf einer Disk installierst, wirst du immer genau dieses Problem haben. Das ist aber eben auch nicht spezifisch PVE oder Linux.

Aber versteh ich das richtig: der PBS macht auch nicht wirklich was anderes als meine PVE Konfiguration zu sichern und Snapshots von meinen VMs bzw LXCs.

Naja, der macht schon bisschen was anderes im Hintegrund als nur ein Snapshot anzulegen. Er sichert dir ja die VM weg, dedupliziert dir die Daten, stellt die Integrität dieser sicher, ermöglicht es dir die VM Live zu restoren auf andere Hardware etc.
Also im Detail schon was anderes, aus deinem Anwendungsfall heraus betrachtet kann es womöglich schon so herunterbrechen. Der PBS macht halt vorallem bei mehreren VMs oder Servern sinn, er kann dir aber auch in kleineren Umgebungen eine Hilfe sein.

den PBS auf einem Raspberry Pi installieren

https://pbs.proxmox.com/docs/installation.html#recommended-server-system-requirements

Ist offiziell nicht supported, würde ich dir daher von abraten. Es mag vieles funktionieren, aber nur weil es funktioniert, muss es nicht gut oder sinnvoll sein.

 

[blackfield]

Danke erstmal für deinen Input!

Wenn man ehrlich ist, kannst du bei deinem gewünschten vorgehen auch gleich auf Backups verzichten und nur mit Snapshots arbeiten. Den Mehrwert von Backups hast du nur dann wirklich, wenn es ein getrenntes System ist und deine Backups wirklich losgelöst von der zu sichernden Hardware sind. Einmal Ransomware und es ist alles dahin.

Wären da nicht auch meine Backups auf dem PBS befallen? Ok wenn wir ehrlich sind dann mach ich mir um Ransomware beim PVE weniger sorgen, da wäre Truenas das größere Problem aber an die Platten kommt es von der Seite ja nicht ran und die wollte ich auch eigentlich nicht auslagern.

Musst du mal mit etwas mehr Infos unterfüttern.

Das sich Backups nicht wirklich zurückspielen ließen.
Das mit den Dedups hatte ich dann falsch verstanden, das es doppelte Komponenten einspart ist natürlich ein Vorteil (haste 5 VMs mit Debian laufen muss man es ja nur einmal sichern sozusagen?)



Ich hätte jetzt vermutet das es zB die Möglichkeit gibt per NetInstall o.ä. die gesamte PVE Installation wiederherzustellen. Aber klar ohne OS ist es egal in welcher Umgebung vorbei.

Naja, der macht schon bisschen was anderes im Hintergrund als nur ein Snapshot anzulegen.

Ich hatte auch so ein bisschen das Gefühl das wär mit Kanonen auf Spatzen geschossen. Klar hat der einige Feature die ich nicht brauche. Wenn der aber im Hintergrund noch anderes macht bringt es natürlich nichts den jedes mal abzuschalten und dann nur für die Backups hochzufahren.

Was ich noch nicht so ganz Verstanden hab mich jetzt aber trotzdem interessiert ist wie das mit PBS und Ransomware ist.


Mal zur Ausgangssituation:

Hier liegen gerade 4 Pi´s rum für den ganzen Quatsch. Will ich eigentlich weg haben. Bisher hatte ich auch noch nie ein Problem das mir da einer draufgegangen ist oder ich Datenverlust hatte. Mal abgesehen davon als Raspberrymatic noch auf SD Karte lief. Die sind halt einfach sehr begrenzt was Schreibzyklen angeht.

Ist halt immer eine Frage des Kosten/Nutzenfaktors. Hab hier auch noch zwei Dalco Server rumstehen aber wieder Kanonen auf Spatzen. Am Ende ist es bis auf das NAS halt nur eine Spielerei.


Das Gute an der Sache ist, das ich nicht morgen entscheiden muss. Ich zieh im März um und vorher werde ich nichts fest integrieren. Solange ist alles Spielwiese. Alle Daten die auf dem NAS liegen, liegen gerade auch noch wo anders.

Davon abgesehen ist alles was an Daten lebenswichtig ist nochmal Offline (learnd my lesson)

Pi als PBS is also vom Tisch

 

[Dunuin]

Über den Backup Server hab ich jetzt sehr zwiegespaltenes gelesen: Die einen sagen super toll, die anderen hatten mehr Probleme damit.

Vermutlich weil diese dann HDDs statt den empfohlenen SSDs benutzt haben oder ebenfalls physische Win/Mac Rechner sichern wollten.

Ich hatte eigentlich vor direkt nach der Installation ein Backup zu machen, sozusagen als Ausgangskonfiguration und dann jeden Tag (oder jeden zweiten) nachts. Dabei immer das älteste überschreiben und allgemein nur zwei oder drei behalten. Da wäre das mit der Deduplikation ja eher unwichtig oder?

Nein, aber sowas ist auch nicht empfehlenswert. Wenn du einen üblen Fehler, Datenkorrumption erst nach einigen Wochen/Monaten oder Opfer von Ransomware wirst, dann bist du echt aufgeschmissen, wenn du deine Backups nicht über Wochen/Monate vorhältst sondern alle par Tage deine wenigen Backups überschreibst.
Also mir persönlich hat das schon mehrfach den Hintern gerettet, dass ich da Backups über Monate vorhalte.

Mein Gedanke war Proxmox dann eh auf einer NVME laufen zu lassen. Wenn die dann den Dienst quittiert muss ich PVE sowieso neu installieren auch beim PBS oder?

Deshalb nutzt man nach Möglichkeit überall mindestens Raid1. Stirbt dir eine weg läuft alles weiter wie bisher. Kein Datenverlust, kein nerviges Neuaufsetzen, keine Downtime...

Aber versteh ich das richtig: der PBS macht auch nicht wirklich was anderes als meine PVE Konfiguration zu sichern und Snapshots von meinen VMs bzw LXCs.

Weder VZDump noch PBS sichern keine PVE Konfigs. Beide sichern deine VMs/LXCs. PBS macht das nur alles viel effizienter und sicherer.

 

[Dunuin]

Wären da nicht auch meine Backups auf dem PBS befallen?

Deshalb hast du ja nach Möglichkeit PBS auf einem extra Rechner.

Ok wenn wir ehrlich sind dann mach ich mir um Ransomware beim PVE weniger sorgen, da wäre Truenas das größere Problem aber an die Platten kommt es von der Seite ja nicht ran und die wollte ich auch eigentlich nicht auslagern.

Wenn jemand Root Zugriff zum PVE kommt dann sind alle Daten potenziell dahin. Auch alles auf den Platten von TrueNAS, wenn das TrueNAS virtualisiert wird. Das Problem ist auch weniger das dein PVE oder TrueNAS VM von Ransomware betroffen wird, sondern irgendein oller Windows Rechner oder Android Smartphone in deinem LAN. Jeder Client der irgendwie Zugriff auf deine SMB/NFS Shares hat kann diese dann natürlich auch verschlüsseln oder löschen. Da hilft dann nur seeeehr lange Snapshots/Backups vorhalten oder Offline Backups.

Das mit den Dedups hatte ich dann falsch verstanden, das es doppelte Komponenten einspart ist natürlich ein Vorteil (haste 5 VMs mit Debian laufen muss man es ja nur einmal sichern sozusagen?)

Ja. Aber eher hast du eine VM mit 100GB die sich täglich 1GB ändert und du willst 100 Backups behalten, dann sind das mit VZdump 100x 100GB = 10TB. Mit PBS sind es 1x 100GB + 99x 1GB = 0,199TB. Ob nun 10TB oder 0,199TB an Platz benutzt werden macht schon einen fetten Unterschied. Mal abgesehen davon das Backups viel schneller sind wenn immer nur 1GB und nicht 100GB gesichert werden müssen.
Und es gibt viele nette Features wie z.B. Live Restore, wo du die VM schon nutzen kannst, während sie noch am Wiederherstellen ist.

Was ich noch nicht so ganz Verstanden hab mich jetzt aber trotzdem interessiert ist wie das mit PBS und Ransomware ist.

https://pbs.proxmox.com/docs/storage.html#ransomware-protection-recovery

Hier liegen gerade 4 Pi´s rum für den ganzen Quatsch.

Proxmox Produkte unterstützen kein ARM. PVE und PBS laufen nur über inofizielle Ports...nichts was ich nutzen wollen würde, wenn mir die Daten oder Dienste wichtig sind...

 

[blackfield]

Ich dank euch allen für euer Wissen.

Ich muss mir da echt noch mal Gedanken drüber machen.

Ransomware war bisher auch nie auf meinem Schirm, vielleicht weil die Gefahr dadurch auch bisher reduziert war. Ich hab alles wichtige Offline, alles andere ist zwar lästig aber wiederherzustellen.

CAD Dateien, SPS-Programme ect sind sowieso dreifach vorhanden (USB Sticks hab ich dann doch schon öfter verloren) und das Private Zeug wie Games, Bilder usw liegt entweder in der Cloud oder ist Onlinebasiert.