Fragen zum Backup

[.n3]

Hallo Zusammen,

ich bin relativ neu mit proxmox und habe bisher PVE installiert und konfiguriert und die ersten VMs eingerichtet. Ich habe auch ein Backup über NFS auf meinem NAS eingerichtet und es läuft soweit. Ich würde das NAS aber gern an einem anderen Standort betreiben. Mein NAS (Zyxel NAS326) kann dyndns und NFS, ftp und WebDAV. NFS fällt weg, weil ich hier den Zugriff nur über IPs sichern kann, aber ich kann kein WebDAV oder FTP in PVE als storage einbinden, oder übersehe ich etwas?

Die zweite Frage ist, ob ich die Backups auch verschlüsseln kann. In der GUI sehe ich keine Optionen und AES habe ich bisher nur beim PBS gesehen. Übersehe ich etwas, oder geht AES nicht mit der PVE Installation?

so long...

 

[Dunuin]

aber ich kann kein WebDAV oder FTP in PVE als storage einbinden, oder übersehe ich etwas?

Du kannst so ziemlich alles mit PVE machen was du willst. Ist ja ein vollwertiges Linux was alles kann, was mit einem Linux halt so geht. Nur halt nicht über das webUI. Du könntest z.B. entsprechende Pakete nachinstallieren, das dann mouten und dann für PVE einen Directory-Storage erzeugen der auf dessen Mountpoint zeigt. Hook Scripts wäre uach eine Option, um nach einem Backup z.B. die Archive auf einen FTP Server zu kopieren.

Die zweite Frage ist, ob ich die Backups auch verschlüsseln kann. In der GUI sehe ich keine Optionen und AES habe ich bisher nur beim PBS gesehen. Übersehe ich etwas, oder geht AES nicht mit der PVE Installation?

Da müsstest du schon selbst einen verschlüsselten Container erstellen und darein dann deine VZDump Backups schreiben lassen.


Wenn du unbedingt verschlüsselte Offsite Backups haben willst (was ja auch eine gute Idee ist und die eigentlich jeder haben sollte) dann würde ich zwei PBS aufsetzen. Einen lokal und einen Offsite. Da tut es zur Not auch eine VM und wenn du nicht TBs an Daten hast, dann kann das sogar ohne SSDs gehen. Dann zum lokalen PBS verschlüsselt sichern. Und dem Offsite-PBS die Backup Snapshots vom lokalen PBS über einen Sync Job pullen lassen. Dann hast du auch gleich noch Ransomware-Protection.

 

[.n3]

Hey Danke für die Antwort.

Bei der ersten Methode würde ich die Backups automatisch erstellen lassen, aber lokal auf dem Server speichern. Dann die lokalen Backups irgendwie (hook script o.ä.) verschlüsseln und über ftp auf das NAS schieben und anschließend das Backup auf dem Server löschen. Gibt es hier schon ggf. etwas fertiges, oder etwas was man nur noch leicht anpassen muss?

Die zweite Alternative ist natürlich schick. PBS lokal in einer VM sollte reichen. Offsite müsste ich schauen wie ich es löse, da ich dort stand jetzt nur das NAS einplane und kein Server o.ä. vorhanden ist. Ich hätte noch ein Rasberry PI hier und ich sollte PBS auf einen Pi zum laufen kriegen:
https://github.com/Dexogen/pipbs
Offsite würde den der PiPBS ins NAS sichern.

Du schreibst "wenn du unbedingt ..." Klingt so als ob es nicht notwendig wäre, aber dann schreibst du ja, dass es eigentlich jeder haben sollte. Bin etwas verwirrt ;-)

 

[Dunuin]

Du schreibst "wenn du unbedingt ..." Klingt so als ob es nicht notwendig wäre, aber dann schreibst du ja, dass es eigentlich jeder haben sollte. Bin etwas verwirrt ;-)

PBS braucht IOPS Performance, also am besten lokale SSDs. Ich hab hier z.B. zwei PBSs in VMs mit Datastore per NFS auf dem NAS der 4 HDDs im Raid5 benutzt. Bei 1.15TB an Backups dauert da der GC 6-8 Stunden, Full Re-Verify 10-12 Stunden und einmal den Datastore per rsync kopieren weit über einen Tag. Hast du da mehr Backups dauert es halt linear mehr Zeit. Daher ist das mit HDDs nur zu einem gewissen Limit praktikabel, sonst werden da die Maintaince Tasks einfach nicht mehr schnell genug fertig. Wenn so ein Maintaince Task dann läuft, dann sind die HDDs ja auch zu 100% ausgelastet und man kann in der Zeit nichts großartig anderes sinnvolles mit dem NAS anstellen. Da will man ja nicht, dass für ein wöchentliches GC immer das NAS für Tage lahmgelegt ist.

Bei der ersten Methode würde ich die Backups automatisch erstellen lassen, aber lokal auf dem Server speichern. Dann die lokalen Backups irgendwie (hook script o.ä.) verschlüsseln und über ftp auf das NAS schieben und anschließend das Backup auf dem Server löschen. Gibt es hier schon ggf. etwas fertiges, oder etwas was man nur noch leicht anpassen muss?

Musst du mal das Forum nach "hook script" durchsuchen. Also über Beispiele für Hook Scripts, welche Backups nach dem Backup Job verschieben, bin ich hier schon gestolpert. Mit Verschlüsselung meine ich noch nicht. Das müsstest du wohl selbst entsprechend anpassen.

Die zweite Alternative ist natürlich schick. PBS lokal in einer VM sollte reichen. Offsite müsste ich schauen wie ich es löse, da ich dort stand jetzt nur das NAS einplane und kein Server o.ä. vorhanden ist. Ich hätte noch ein Rasberry PI hier und ich sollte PBS auf einen Pi zum laufen kriegen:
https://github.com/Dexogen/pipbs
Offsite würde den der PiPBS ins NAS sichern.

Bessere NAS können oft auch VMs betreiben, dann kann man da z.B. auch PBS in einer VM auf dem NAS laufen lassen. Hatte ich z.B. früher mal, als ich noch mein TrueNAS bare metal laufen lassen hatte.

 

[.n3]

Ich habe bisher keine wirkliche Performance beim Backup erwartet. Das NAS ist nur für das Backup da und sonst für nichts. Das Initiale Backup wird im selben Netzwerk erstellt und dann sollen ja nur noch inkrementelle Backups über das Internet geschickt werden (100-200mbit im upload). Gut, 1TB wird hier 23h dauern, aber volles Backup kann ich im Urlaub anstoßen und dann wöchentlich inkremental.

Wenn das Backup onsite in der Nacht durchläuft reicht das und offsite wäre der Pi und das NAS nur für Backup da und sonst für nichts. Brauch ich da wirklich so viel IOPS Performance?

Für mich klingt die Lösung mit PBS onsite mit einer VM auf dem Server und Offsite mit Pi und NAS ganz passend, da ich bewährte Lösungen greifen kann und von der Hardware auch alles da ist. Es handelt sich auch um einen Heimserver ohne Videomaterial. Würde das so viel mehr Performance brauchen, sodass ich eher zum hook script greifen sollte?

 

[Dunuin]

Wenn das Backup onsite in der Nacht durchläuft reicht das und offsite wäre der Pi und das NAS nur für Backup da und sonst für nichts. Brauch ich da wirklich so viel IOPS Performance?

PBS speichert alles als Chunks-Dateien von max 4MB Größe. In der Praxis wegen Zero-Bytes und Kompression eher so um die 2MB. 1TB an Backups ergibt also grob 500.000 Chunk-Dateien und ein GC oder Full Re-Verify muss dann halt jede Chunkdatei lesen+schreiben/hashen. Das Problem sind da nicht die langsamen Backups, sondern die Wartungs-Jobs. So eine HDD schafft ja nur rund 100 IOPS und daher nicht toll, wenn man endlos viele kleine Dateien lesen muss, welche dann auch noch zufällig auf der Platte liegen, dass da kein sequenzielles Lesen möglich ist.

 

[.n3]

Hm, hab jetzt etwas zum GC gelesen und wenn ich es richtig verstanden habe, dann führe ich den GC und Verify beim Backup aus. Für mich im privaten Umfeld gibt es doch keinen Grund, ein GC bzw. Verify außerhalb der Backups zu machen, oder missverstehe ich etwas?

Zur Info: Die VMs liegen alle auf einer SSD und hier stehen 1TB zur Verfügung. Da sollte kein Probleme geben, oder? Zusätzlich hab ich ein zfs1 mit 5 HDDs, aber der Großteil der Daten soll hier nicht gesichert werden. Der Großteil sind Videos von Überwachungskameras und der Rest werden private Dokumente, Bilder und Videos mit ca. 1TB.

Das größte Problem was ich gerade habe ist, dass wenn ich das Offsite Backup mache, ich lokal nur Platz auf dem zfs1 raid habe und da auch eher begrenzt. Snapshots anlegen und pullen sollte kein Problem sein, aber ein Full Backup ist schwieriger. Hierfür müsste ich eine temporäre Platte noch dazu hängen.

Kann ich entweder ein lokales PBS betreiben, was das Backup aber direkt Offsite speichert, oder kann ich ein PBS offsite betreiben, was das Backup direkt vom PVE über das Internet zieht?

 

[Dunuin]

Hm, hab jetzt etwas zum GC gelesen und wenn ich es richtig verstanden habe, dann führe ich den GC und Verify beim Backup aus. Für mich im privaten Umfeld gibt es doch keinen Grund, ein GC bzw. Verify außerhalb der Backups zu machen, oder missverstehe ich etwas?

Verify sollte man gelegendlich machen. Backups bringen ja nichts, wenn du nicht weiß, ob die überhaupt noch heil sind und du dann ohne Backup dasteht, wenn doch mal was passiert. Wegen Deduplikation sind dann auch alle Backups betroffen, wenn da mal ein Chunk defekt ist. Dann verlierst du nicht nur ein einzelnen Backup Snapshot einer VM, sondern vermutlich gleich alle Backup Snapshots der VM und kann mit pech sogar noch andere VMs betreffen. Da sollte man schon ein wöchentliches Verifry machen und auch alle paar Wochen oder Monate alles erneut verifizieren lassen, selbst wenn es in der Vergangenheit schon verifiziert wurde.

Und GC musst du gelegendlich laufen lassen, weil sonst geht dir der Platz aus. Ohne ein GC wird nämlich nichts gelöscht. Prune markiert die Backups für die Löschung. GC löscht dann aber erst die Chunk-Dateien die vom markierten Backup referenziert wurden. Ich mache das einmal die Woche. Wenn du genug freien Platz hast und sich deine Backups nicht groß ändern, dann tut es das vielleicht auch einmal im Monat.

Kann ich entweder ein lokales PBS betreiben, was das Backup aber direkt Offsite speichert, oder kann ich ein PBS offsite betreiben, was das Backup direkt vom PVE über das Internet zieht?

Lokalen PBS mit Datastore übers Internet ist ganz schlecht. Wie gesagt braucht man IOPS Performance und die wäre grottig, wenn da für jeden Zugriff immer noch die Internet-Latenz hinzukommt. Dann würde ich schon eher den PBS offsite betrieben und dann vom lokalen PVE direkt zu dem Offsite PBS sichern.

 

[.n3]

Danke für die ganzen Informationen. Meine Annahme war, dass ein Verify und GC auch mit den regemäßigen Backups gemacht werden. Ich werde dann darauf achten, dass nach dem Backup ein Full-Verify und GC gemacht. Je nach Performance muss ich das dann in der Regemäßigkeit anpassen.

Ansonsten muss ich für mich klären, welche Option ich machen:

1. Onsite & Offsite PBS wo Offsite pulled. Hierfür bräuchte ich einen temporären Speicher
2. Offsite PBS der direkt das Backup vom lokalen PVE macht
3. Ohne PBS. Einfache Backups mit PVE auf ein lokales NAS. Dieses Backup läuft aktuell schon und das Risiko ist nur bei Ramsoftware und Gebäudeschäden

Ich denke ich lasse Option 3 jetzt mal laufen und richtige den Heimserver erstmal final ein. Danach kommt PBS auf ein Pi und ich schaue wie die Performance von Option 2 läuft. Der nächste Step wäre dann ein lokaler Zwischenspeicher, sodass ich von Option 2 auf 1 wechseln kann. Ist dann eine Step-by-Step Verbesserung.