Update nach schwerwiegendem Systemfehler

[brizzlbrazzl]

Hallo Community,

ich habe vor 2,5 Jahren bei mir zuhause einen Proxmox Server eingerichtet, auf dem inzwischen 3 VM (NAS, WinXP, Win7) und 5 Container laufen, bzw. liefen. Heute Mittag habe ich noch darauf zugreifen können, Nachmittags dann schon nicht mehr. Am angeschlossenen Monitor konnte ich noch einen Screenshot machen - darauf jede Menge "Read-Errors on swap-device" und I/O error auf sda. Ein Reboot mit "REISUB" ging nicht - der Rechner fuhr nicht herunter und fährt seit dem Reset auch nicht mehr hoch. Es kommt keinerlei Meldung anch dem BIOS Screen - ich denke die SSD (System) ist hinüber.
Da ich immer noch eine 3.2er Version am laufen hatte, denke ich das ist der richtige Zeitpunkt für ein Update auf 4.4. Dazu hätte ich an euch ein oder zwei Fragen bevor ich loslege.

1. die VM's und Container liegen auf separaten Festplatten, die sicher noch funktionieren, außerdem habe ich mehrere Backups davon. Kann ich, wenn ich den Proxmox Server neu aufsetze die Platten anschließen und direkt die VM und Container starten - oder gibt es da Inkompatibilitäten? Ich gehe davon aus, dass die virtuellen Systeme alle noch normal liefen, als das System crashte

2. sollte ich vorher eine 3.2er version neu aufsetzen (also mit funktionierender Systemplatte und die virtuellen Maschinen dort einbinden und herunterfahren)?

Ich weiß, dass es einige offizielle Update Anleitungen gibt, aber da ich in Sachen Linux noch nicht sooo fit bin und teilweise auch mit dem englischen Verständnisprobleme habe, wäre es super, wenn ich hier den ein oder anderen Tipp bekommen könnte.

Im Voraus dafür lieben Dank!

Grüße
Sascha

 

[LnxBil]

Hallo Community,

ich habe vor 2,5 Jahren bei mir zuhause einen Proxmox Server eingerichtet, auf dem inzwischen 3 VM (NAS, WinXP, Win7) und 5 Container laufen, bzw. liefen. Heute Mittag habe ich noch darauf zugreifen können, Nachmittags dann schon nicht mehr. Am angeschlossenen Monitor konnte ich noch einen Screenshot machen - darauf jede Menge "Read-Errors on swap-device" und I/O error auf sda. Ein Reboot mit "REISUB" ging nicht - der Rechner fuhr nicht herunter und fährt seit dem Reset auch nicht mehr hoch. Es kommt keinerlei Meldung anch dem BIOS Screen - ich denke die SSD (System) ist hinüber.
Da ich immer noch eine 3.2er Version am laufen hatte, denke ich das ist der richtige Zeitpunkt für ein Update auf 4.4. Dazu hätte ich an euch ein oder zwei Fragen bevor ich loslege.

Ja, klingt danach. Kaufe bitte gleich 2 kleine SSDs für das Betriebssystem oder erstelle immer Backups den Systems wenn du nur eine SSD verwenden möchtest. Ich hoffe du hast auf den Festplatten wenigstens ein RAID laufen.

1. die VM's und Container liegen auf separaten Festplatten, die sicher noch funktionieren, außerdem habe ich mehrere Backups davon. Kann ich, wenn ich den Proxmox Server neu aufsetze die Platten anschließen und direkt die VM und Container starten - oder gibt es da Inkompatibilitäten? Ich gehe davon aus, dass die virtuellen Systeme alle noch normal liefen, als das System crashte

Die Konfiguration lag wahrscheinlich auf der SSD, da es standardmäßig im "normalen" Rootfs liegt.

2. sollte ich vorher eine 3.2er version neu aufsetzen (also mit funktionierender Systemplatte und die virtuellen Maschinen dort einbinden und herunterfahren)?

Die Maschinen sind aus, macht keinen Sinn die hochzufahren um sie wieder runterzufahren. Einfach 4.4 installieren und versuchen die Konfiguration entweder aus dem Backup wiederherzustellen oder neu zu erstellen mit den Festplattenimages.

Ich würde z.B. ein RAID (Hardware oder ZFS) über mehrere Platten für OS + Daten immer bevorzugen gegenüber einer SSD mit OS und RAID auf Festplatten - weniger Ausfallwahrscheinlichkeit und das OS benötigt nicht viel Performance / Festplattenzugriffe für sich selbst.

 

[brizzlbrazzl]

Zunächst mal vielen liebe Dank für Deinen Post.

Ja, klingt danach. Kaufe bitte gleich 2 kleine SSDs für das Betriebssystem oder erstelle immer Backups den Systems wenn du nur eine SSD verwenden möchtest. Ich hoffe du hast auf den Festplatten wenigstens ein RAID laufen.

Die Daten liegen auf einer HDD (Seagate Enterprise) mit 100% Backup
Die VM's liegen auf einer 500GB HDD die auf eine zweite 500GB Platte regelmäßig gesichert werden.
Zum Raid - ich hab mich noch nicht durchgerungen - hatte vor Jahren/-zehnten mal ein SCSI Raid 5 (rein privat) am Laufen und dann Probleme die Platten zu bekommen und immer wieder Probleme mit Ausfällen. Mit dem Hardware Raid im SATA Controler konnte ich mich bisher noch nicht anfreunden- gibt es da in Linux (beschäftige mich erst 2-3 Jahre mit Linux) übers Dateisystem eine performante und zuverlässige Lösung - vielleicht,wenn es nich zuviel verlangt ist, könntest Du mir einen Denkanstoß (Link) in die richtige Richtung geben.

Die Konfiguration lag wahrscheinlich auf der SSD, da es standardmäßig im "normalen" Rootfs liegt.

Du meinst die ProxMox Config - die müsste ich gesichert haben.

Die Maschinen sind aus, macht keinen Sinn die hochzufahren um sie wieder runterzufahren. Einfach 4.4 installieren und versuchen die Konfiguration entweder aus dem Backup wiederherzustellen oder neu zu erstellen mit den Festplattenimages.

Ich dachte in Proxmox3.2 booten und die System herunterfahren, dann 4.4 installieren - ich meine VMWare hatte da oft Probleme wenn VMs suspended sind und dann in einer neueren Version gestartet werden. Ok werde das testen

Ich würde z.B. ein RAID (Hardware oder ZFS) über mehrere Platten für OS + Daten immer bevorzugen gegenüber einer SSD mit OS und RAID auf Festplatten - weniger Ausfallwahrscheinlichkeit und das OS benötigt nicht viel Performance / Festplattenzugriffe für sich selbst.

Sorry wenn ich so dumm frage aber geht das, dass Proxmox nur einen Teil der HDD verwendet - ich meine mich zu erinnern, dass 3.2 die komplette HDD verwendet hat und dass das nicht änderbar war.
Ahh ZFS - ist damit Raid ohne Hardware Raid möglich? Gleichmal googlen....

Nochmals Besten Dank! Und ich werde hier mal über meine Erfolge oder Misserfolge berichten

 

[LnxBil]

Die Daten liegen auf einer HDD (Seagate Enterprise) mit 100% Backup
Die VM's liegen auf einer 500GB HDD die auf eine zweite 500GB Platte regelmäßig gesichert werden.
Zum Raid - ich hab mich noch nicht durchgerungen - hatte vor Jahren/-zehnten mal ein SCSI Raid 5 (rein privat) am Laufen und dann Probleme die Platten zu bekommen und immer wieder Probleme mit Ausfällen. Mit dem Hardware Raid im SATA Controler konnte ich mich bisher noch nicht anfreunden- gibt es da in Linux (beschäftige mich erst 2-3 Jahre mit Linux) übers Dateisystem eine performante und zuverlässige Lösung - vielleicht,wenn es nich zuviel verlangt ist, könntest Du mir einen Denkanstoß (Link) in die richtige Richtung geben.

Für Proxmox VE gibt es nur ZFS als Software-RAID und Hardware-RAID als offiziell supportete RAID Implementierungen. Wenn man aber keinen bezahlten Support der Firma Proxmox benötigt kann man auch auf Software-RAID setzen. Ich persönlich mache fast nur noch ausschließlich ZFS-basierte Einzelsystemlösungen, da dort das Backup (via Snapshot und übertragen) sehr effizient gestaltet werden kann. Hierzu kann ich aufs Proxmox Wiki verweisen.

Du meinst die ProxMox Config - die müsste ich gesichert haben.

Das ist gut, die und die Daten sind die einzigen Dinge die man benötigt. Am Besten wäre es, wenn du "richtige" Backups hast, die kann man schneller einspielen, da es normalerweise nur ein Klick ist.

Ich dachte in Proxmox3.2 booten und die System herunterfahren, dann 4.4 installieren - ich meine VMWare hatte da oft Probleme wenn VMs suspended sind und dann in einer neueren Version gestartet werden. Ok werde das testen

Das ist auch richtig, aber die VMs sind ja nicht suspended, sondern abgeschmiert.

Sorry wenn ich so dumm frage aber geht das, dass Proxmox nur einen Teil der HDD verwendet - ich meine mich zu erinnern, dass 3.2 die komplette HDD verwendet hat und dass das nicht änderbar war.

Proxmox VE verwendet immer die ganze Disk, aber davon eben nur maximal 4 GB für die Installation des auf Debian basierenden Hypervisors. Den Rest kann man prima verwenden und sollte das auch.

Also nochmal:
Minimalsetup sind für mich immer 2 Festplatten für Proxmox VE, sodass davon eine ausfallen kann. Festplatten sind statistisch immer das erste Gerät was in einem Rechner kaputt gehen, daher sollte man das schon gleich redundant auslegen. Danach kommen erst andere Dinge wie Netzteile, etc.

Ahh ZFS - ist damit Raid ohne Hardware Raid möglich? Gleichmal googlen....

Im Proxmox Wiki steht alles drin und RAID ohne Hardware geht seit Linux schon seit mehreren Jahrzehnten.

 

[brizzlbrazzl]

Zunächst nochmal tausend Dank für die Hilfe!!!!

Und erstmal Entwarnung - die SSD lebt, der SATA Stecker ist soweit abgerutsch, dass er keine richtige Verbindung mehr hatte - richtig drauf gesteckt und siehe da das System bootet wieder fehlerfrei. (Ist gefixt mit einem anderen SATA Kabel mit Verriegelungsfeder)
Aber wenn ich den Server schonma offen habe würde ich gerne dem Ausfallszenario begegnen. Das Board unterstütz Raid nur für Windows - somit bleibt nur Software-Raid mit zfs.
In einer VMWare habe ich mal ein bisschen experimentiert - leider müssen, soweit ich es getestet habe, alle Laufwerke gleich groß sein - doof, dass es nicht möglich ist den kleinsten gemeinsamen Nenner zu finden und das neue Laufwerk nur so groß zu machen. Oder gibt es da Möglichkeiten?
Aktuell habe ich eine 64GB SSD, 2x500GB HDD und eine 2TB HDD. Die SSD fürs ProxMox ist vermutlich total übertrieben, da es ehh nur ein paar hundert MB nutzt. Momentan schweben mir folgende Szenarien im Kopf herum:
1. noch eine 500GB Platte reinhängen und mit 3x500GB ein ZFS RAID Z1 (also Paritiy) - und dort alles drauf (ProxMox, VM's, Backups etc.) die 1x2TB bleibt single und beherbergt wie jetzt die Daten für das OMV (NAS).
2. eine 64er SSD zur ersten als RAID1 (Mirror) und die restliche Konfiguration wie gehabt
3... ich bin für alles offen - über Tipps würde ich mich sehr freuen.

 

[LnxBil]

Wenn du keinen Verlust von Daten durch einen Festplattenausfall haben möchtest musst du wohl oder übel jeden Block mindestens zwei mal haben, also entweder 2x500GB + 2x2TB in einen ZFS-Pool packen (als RAID 10, also stripped mirror vdev setup in ZFS). Ich kenne aber dein Problem, da ich hier auch noch viele, viele Platten unterschiedlicher Größe liegen habe. Generell ist das kein Problem, wenn man wirklich viele Platte dranklemmen kann, aber oft hat man nur 4 SATA-Kanäle oder so. Denkbar wäre bei dir auch 2x500, 1x 1TB als RAID 0 (stripped vdev) und das im Mirror mit 2 TB. So hast du weiter 2 TB Platz, aber nicht wirklich viel Performance. Ob ZFS so schau ist von mehreren vdevs zu lesen weiß ich nicht, habe ich noch nie probiert und ist wohl ein Randfall.

Am Besten wäre natürlich immer die gleiche Größe zu verwenden, aber "geldoptimiert" sind diese Lösungen:
2x 500 GB + 1x 1 TB + 1x 2 TB : Insgesamt 2 TB gespiegelter Platz - 1 TB Platte kaufen
2x 500 GB + 2x 2 TB: insgesamt 3 TB gespiegelter Platz - 2 TB Platte kaufen
3x 500 GB : insgesamt 1 TB gespiegelter Platz - 500 GB Platte kaufen (2 TB übrig)

Die SSD bringt eigentlich hier nichts, da es auch bestimmt keine "schnelle" Karte im Sinne von Latenz für einen Cache für ZFS darstellt. Wenn dir egal ist ob du eine supportete-Version von Proxmox VE einsetzt (nur interessant wenn du dafür bezahlst), dann könntest du auch ein Software-RAID aufsetzen und darauf ein bcache oder flashcache verwenden und die SSD als Lesepuffer verwenden. Dadurch bekommst du eine etwas höhere Lese-Performance. Ist technisch aber anspruchsvoller und nur mit Linux-Hintergrundwissen zu erledigen.