Verständnisfrage zu Cluster?

fpausp

Renowned Member
Aug 31, 2010
641
43
93
Austria near Vienna
Mein erster PVE-Server (pve01) wurde mir etwas zu klein. Hab daraufhin einen zweiten (pve02) in Betrieb genommen und darauf nur eine vm, die Firewall opnsense, installiert...

Hatte danach die Idee einen Cluster aus den beiden Nodes zu erstellen, beim ersten Versuch wurde mir angezeigt das auf dem zweiten Node (pve02) schon eine vm läuft und das nicht funktionieren kann...

Hab daraufhin die opnsense vm gelöscht und den pve02 zum Cluster hinzugefügt... Dachte mir ich hol jetzt einfach die vm vom Backupserver zurück und alles passt.
Leider ging das aber nicht :( Hat das vielleicht mit dem RootFS (ZFS am pve02) zu tun?

Am Ersten Server (pve01) verwende ich ext4 und am Zweiten (pve02) zfs redundant auf zwei ssds...
Hab als zwischenlösung die vm auf ein NFS-Share (pvestor01) restored...

Kann man die vm im Cluster dennoch auf dem lokalen ZFS am pve02 laufen lassen?
Was ist mit dem local-lvm am pve02?

1613911948977.png
 
Bei einem Cluster brauchst du ein Netzwerkstorage das alle nodes nutzen können. Aber glaube für so ein kleines clusterchen könnte auch so was funktionieren.
 
Bei einem Cluster brauchst du ein Netzwerkstorage das alle nodes nutzen können. Aber glaube für so ein kleines clusterchen könnte auch so was funktionieren.
das ist nicht richtig. du brauchst nicht zwingend einen netzwerk storage für einen Cluster. manche dinge wie ha oder live Migration funktionieren dann nicht, aber einen custer hast du ja trotzdem.
 
Hallo fpausp

In der Regel sind Virtualisierungs-Cluster eher so ausgelegt, dass sie mit "shared Storages" arbeiten. Das ist sozusagen das Standardszenario.Das bedeutet aber nicht, dass man keinen Cluster mit lokalem Storage bilden kann. Ich selber betreibe zuhause ein zwei-Node-Cluster mit lokalem Speicher. Leider gibt es keine Anleitungen für ein solches Szenario ...

Damit es jedoch funktioniert, sollte man einige Regel befolgen bzw. einige Vorbereitungen treffen:

1. Die Nodes sollten etwa gleich wertig sein. Es ist kein Muss, aber so wird sichergestellt, dass der zweite Node die VMs vom ersten Node übernehmen kann, wenn der erste ausfällt, z. B. aufgrund einer Wartung.

2. Bevor der Cluster aufgebaut wird, sollte der zweite Node so vorbereitet werden, dass er die gleiche Storage-Struktur (Pools, Datasets usw.) hat, und zwar mit den gleichen Namen. Hier ein Beispiel wie es mit ZFS aussehen könnte:

  • Boot-Disk (bei Installation von Proxmox automatisch angelegt)
    • local
    • local-zfs
  • Storage für ISOs und LXC Templates (manuell via GUI erstellt)
    • iso-images
    • lxc-templates
  • Storage-Pool (HDDs, manuell via GUI erstellt)
    • tank
  • Datasets (manuell via CLI erstellt)
    • vm-images
    • lxc-images
Wenn dies in diesem Fall die Storage-Struktur des ersten Nodes spiegelt, dann sollte sie im zweiten Node genau so konfiguriert werden. So wird sichergestellt, dass keine Probleme mit der Einrichtung von Replication Jobs und mit der Migration von VMs gibt.

3. Man sollte grosse VM-Disks vermeiden, wenn man die VMs auf dem zweiten Node replizieren will. Proxmox scheint so viel Speicherplatz für die Replikation zu reservieren, wie die Kapazität der grösste VM-Disk ausweist. Dies kann zu Fehlermeldungen führen, wie z. B. "Storage fast voll" (obwohl dies nicht der Fall ist...) oder "Nicht genug Disk-Platz für die Replizierung". Wenn man jedoch ein NAS-System virtualisiert und grössere VM-Disks einrichtet, dann ist der bessere Ansatz, ein NAS Server in jedem Node zu virtualisieren und die Datenreplikation vom NAS-System erledigen zu lassen (z. B. VM-Cluster).

In Bezug auf die Live-Migration kann man folgendes Sagen: Gemäss offizieller Dokumentation funktioniert diese Funktion nur wenn keine Replication Jobs für die betroffene VM eingerichtet wurden. Bis Version 6.2 war dies auch der Fall (man hatte nur die Option, eine Offline-Migration auszulösen). Seit Version 6.3 sieht es jedoch anders aus. Nun ist es möglich, Replikation-Jobs zur Sicherung der VMs einzurichten und die VMs mithilfe der Live-Migration vom einen Node zum anderen zu verschieben, und zwar unterbruchfrei ... @proxmox-Team: Wenn dies ein Bug sein sollte, dann bitte nicht beheben ...;)

Ich hoffe, dass diese Informationen weiterhelfen

Gruss
 

About

The Proxmox community has been around for many years and offers help and support for Proxmox VE, Proxmox Backup Server, and Proxmox Mail Gateway.
We think our community is one of the best thanks to people like you!

Get your subscription!

The Proxmox team works very hard to make sure you are running the best software and getting stable updates and security enhancements, as well as quick enterprise support. Tens of thousands of happy customers have a Proxmox subscription. Get yours easily in our online shop.

Buy now!