Cluster Node via S2S VPN

Alex000ch

New Member
Oct 8, 2023
8
0
1
Ich habe letzte Woche eine der 2 Nodes an einen anderen Standort verschieben müssen, welchen wir über S2S VPN eingebunden haben. Nun habe ich grosse Mühe, die entsprechenden Netzwerk Settings zu setzen, damit die VMs über das gleiche Subnetz kommunizieren, egal von welchem Standort aus.

Wir haben 2 Sites:
Site A --> 10.10.0.0/23 ---- PM1 (10.10.0.6) 1 NIC
Site B --> 192.168.1.0/24 ---- PM2 (192.168.1.10) 2 NIC's

Der Cluster wurde entsprechend wieder hergestellt, jedoch möchte ich, dass die VM's auf beiden Cluster im gleichen VLAN sind, primär fürs rumschieben der Maschinen. Somit habe ich ein neues Netz erstellt (10.10.5.0/24) welches für die VM zur Verfügung stehen sollte. Das L3 des neuen Netzes ist auf der Site A konfiguriert und auch auf der Site B als L2 erfasst.

Nun kämpfe ich damit, dass die VM's das neue Netz nicht sehen.

Primär konzentriere ich mich auf die Remote Node, dass diese zumindest mal im korrekten Netz ist.
eno1 und 2 sind beide Connected. Mit der aktuellen Konfig ist es mir bereits nicht mehr möglich vom Host her auf die 10.10.5.1 zu pingen.

Übersehe ich irgend etwas?


Code:
auto lo
iface lo inet loopback


auto eno1
iface eno1 inet static
        address 192.168.1.10/24
        gateway 192.168.1.1


iface eno2 inet manual


auto vmbr0
iface vmbr0 inet static
        address 10.10.5.10/24
        bridge-ports eno2
        bridge-stp off
        bridge-fd 0
 
Also, erst einmal grundlegend wird nicht empfohlen einen Cluster über VPN zu betreiben. Wenn du die Nodes auf zwei Standorte verteilen willst, solltest du eine Layer2 Verbindung, möglichst Latenzarm, also besser über Darkfiber und nur ungern über MPLS abbilden.
Außerdem solltest du dein q-Device über eine alternative Anbindung an beide Standorte connecten.

Damit die VMs miteinander sprechen können brauchst du ein L2 VPN. Wie sieht denn die komplette Konfiguration aus?
 
Nun, leider geht es nicht anders, da es eine ziemliche Low Budget Architektur ist. Da aber kein HA betrieben wird oder die Maschinen auch sonst nicht hochverfügbar sein müssen wird es nicht ganz so tragisch sein. Leider fehlt mir ein weniger der Netzwerk Background für das alles.
Aktuell sieht die ganze Sache folgendermassen aus:

Netzwerkseitig ist alles über Ubiquiti erschlossen, heisst Pro Standort 1x UDM Pro, welche über S2S (glaube über das Magic Site Feature) miteinander verbunden sind und alle Netze gegenseitig announcen. Somit sind alle Netze an beiden Standorten vorhanden, was auch so funktioniert. Zusätzlich wurde das neue 10.10.5.x (VM) Netz als L3 auf der Site A erstellt und auf Site B als Netzwerk mit "3rd Party Gateway und der entsprechenden VLAN ID (beidseitig 5) erstellt.
Meine Vorstellung wäre gewesen, dass ich auf beiden PM Hosts nun eine neue Bridge erstellen könnte, welche ein Bein im 10.10.5er Netz hat und dieses dediziert über die 2te Netzwerkkarte laufen zu lassen, resp. an Site A als Trunk mit getraggtem VLAN 5.

Oder liegt hier schon grundlegend ein Denkfehler vor, dass das ganze gar nicht möglich ist?
 

About

The Proxmox community has been around for many years and offers help and support for Proxmox VE, Proxmox Backup Server, and Proxmox Mail Gateway.
We think our community is one of the best thanks to people like you!

Get your subscription!

The Proxmox team works very hard to make sure you are running the best software and getting stable updates and security enhancements, as well as quick enterprise support. Tens of thousands of happy customers have a Proxmox subscription. Get yours easily in our online shop.

Buy now!