Proxmox und VM auf einem Laufwerk?

Da hätte ich schon wieder meine Probleme mit. Ein Special Device musst du immer mindestens als Mirror machen und wenn du einen Mirror im Pool hast, auch wenn es nur das Special Device ist, macht mir Bauchschmerzen.
Gerade wenn es ein vernünftiges FC Storage ist, wo natürlich auch Cache genutzt wird, braucht man doch gar kein Special Device.
Da mache ich lieber einen reinrassigen Single Pool mit nur einem vDev.
Ohne Spezialdevice hat die Garbage Collection 3 Tage gedauert. Mit dauert sie 40 Minuten. Für das Spezial device nutzen wir gespiegelte Samsung PCIe NVMe mit 960GB. Füllgrad nach 8 Monaten ca. 80GB.
 
Da kann ich Dir Storys erzählen, da wird die schwarz vor den Augen. Wir haben vor circa 8 Jahren bereits damit begonnen, alle Raid-Controller zu entsorgen. Wenn überhaupt erlauben wir noch JBOD, alles andere fliegt raus. Grund sind nunmal die maximale Abhängigkeit von der Karte, inkompabilität zu anderen Karten, kein offener Standard etc. pp. Das negiert einfach die wenigen Pluspunkte der Karten.
Da befürchte ich viele Layer8 Fehler. Man kann auch RAID Controller falsch konfigurieren wie auch ZFS.
Ich hasse das Bashing auf eigentlich gute Technologien nur weil manche Leute nicht damit umgehen können.
Genauso mag ich es auch nicht wenn bestimmte Leute versuchen auf ZFS bashen.
 
Ein Hardware RAID kann einiges was ein Software RAID niemals kann.
Kann man da wie bei ZFS auch die Disks einfach in beliebiger Reihenfolge in ein komplett anderes System einbauen, ein zpool import machen und alles ist wieder gut? Oder ist es doch eher so, dass man u.U. Probleme bekommt, wenn man nicht exakt den gleichen RAID-Controller mit genau derselben Firmware-Version und den Austausch idealerweise noch während der gleichen Mondphase macht?

Die Wahrheit liegt natürlich irgendwo dazwischen, und ja, Hardware-RAIDs haben durchaus ein paar Vorteile. Aber ich würde sagen, für Heimanwender und kleine KMUs überwiegen die Nachteile. In grossen Rechenzentren mag das wieder anders aussehen, aber selbst dort ist „Hardware-RAID ist besser“ schon lange keine einfache Faustregel mehr.
 
Last edited:
  • Like
Reactions: Johannes S
Ich hasse das Bashing auf eigentlich gute Technologien nur weil manche Leute nicht damit umgehen können.
Da gebe ich dir recht, und ja ich war etwas polemisch. Trotzdem, mit ZFS musst du im Notfall nicht den exakt selben RAID Controler finden, nur um dann zu merken, dass er das RAID trotzdem nicht mehr funktioniert. Bei ZFS, kannst du im schlimmsten Fall, irgendeine Kiste mit genug SATA/SAS anschlüssen irgendwo auftreiben und kommst wieder an deine Daten.

wie auch ZFS.

Ja das sind die Leute, die meine sie müssen irgendwelche ZFS Special Devices einbauen, weil es dann besser performt, oder solche, die 18 Disk-weite Z1 machen, mit 20TB+ Disks, weil sie meinen den Platz optimal ausnutzen zu müssen. Braucht man alles nicht, wenn man nicht hunderte User hat, selbst wenn noch eine Datenbank drauf laufen sollte, bzw. ist bei zweiterem am falschen Ende gespart.

Aber hunderte Euro für einen Raid Controller auszugeben, das ist einfach doof, ausser man hat gute Gründe es zu tun, und es isi Teil eines grösseren Konzepts, in dem Wartungsverträge existieren, und im Notfall Geld im drei oder vierstelligen Bereich für einzelne Ersatzteile nicht die ganz grosse Rolle spielt. Scheint hier aber nicht der Fall zu sein, denn "Ich habe hier einen Server..." klingt für micht jetzt nicht unbedingt nach Data-Center ;)
 
Last edited:
  • Like
Reactions: Johannes S and UdoB
Kann man da wie bei ZFS auch die Disks einfach in beliebiger Reihenfolge in ein komplett anderes System einbauen, ein zpool import machen und alles ist wieder gut? Oder ist es doch eher so, dass man u.U. Probleme bekommt, wenn man nicht exakt den gleichen RAID-Controller mit genau derselben Firmware-Version und den Austausch idealerweise noch während der gleichen Mondphase macht?
zpool import geht natürlich nicht. ;)
Du kannst jeden beliebigen Controller des gleichen Herstellers der gleich alt oder neuer mit gleicher oder neuerer Firmware nutzen. Manchmal geht auch ältere Firmware, aber immer nur bis zu bestimmten Limits. Bei den ZFS Versionen ist das aber genauso.
Scheinbar hast du das selbst noch nie getestet aber beschwerst dich das etwas nicht geht, was sehrwohl super funktioniert seit ewigen Zeiten.
Die Wahrheit liegt natürlich irgendwo dazwischen, und ja, Hardware-RAIDs haben durchaus ein paar Vorteile. Aber ich würde sagen, für Heimanwender und kleine KMUs überwiegen die Nachteile. In grossen Rechenzentren mag das wieder anders aussehen, aber selbst dort ist „Hardware-RAID ist besser“ schon lange keine einfache Faustregel mehr.
Auch nicht ganz richtig, gerade der kleinere Unternehmenskunde profitiert da am meisten von. Für zuhause ist das to much und für Enterprise gibts noch ganz andere Systeme, da ist so ein kleiner Controller der nur 200 Disks kann zu klein.

Es gab noch nie eine Faustregel, dass HW Raid immer besser ist, aber es gibt viele Situationen wo es hilft. Genauso gibt es Situationen wo ein ZFS Pool deutlich besser ist.
 
  • Like
Reactions: Johannes S
Da gebe ich dir recht, und ja ich war etwas polemisch. Trotzdem, mit ZFS musst du im Notfall nicht den exakt selben RAID Controler finden, nur um dann zu merken, dass er das RAID trotzdem nicht mehr funktioniert. Bei ZFS, kannst du im schlimmsten Fall, irgendeine Kiste mit genug SATA/SAS anschlüssen irgendwo auftreiben und kommst wieder an deine Daten.
Hab ich schon geschrieben, du musst nur beim gleichen Hersteller bleiben.
Ja das sind die Leute, die meine sie müssen irgendwelche ZFS Special Devices einbauen, weil es dann besser performt, oder solche, die 18 Disk-weite Z1 machen, mit 20TB+ Disks, weil sie meinen den Platz optimal ausnutzen zu müssen. Braucht man alles nicht, wenn man nicht hunderte User hat, selbst wenn noch eine Datenbank drauf laufen sollte, bzw. ist bei zweiterem am falschen Ende gespart.
Genau mit vielen Usern ist ein RaidZ immer tödlich. (mit HDDs)
Aber hunderte Euro für einen Raid Controller auszugeben, das ist einfach doof, ausser man hat gute Gründe es zu tun, und es isi Teil eines grösseren Konzepts, in dem Wartungsverträge existieren, und im Notfall Geld im drei oder vierstelligen Bereich für einzelne Ersatzteile nicht die ganz grosse Rolle spielt. Scheint hier aber nicht der Fall zu sein, denn "Ich habe hier einen Server..." klingt für micht jetzt nicht unbedingt nach Data-Center ;)
Wenn man einen guten HW Raid eh im Server hat oder den gebraucht günstig bekommt, kann der mit billigen SSDs oder HDDs echte Wunder vollbringen, zumindest gefühlt, und wenn man damit noch viel mehr Euros für neue schnelle SSDs spart, ist das ein sehr valider Einsatzzweck.
Und der ist doch relativ Häufig bei Unternehmen zwischen 50 und 5000 Usern.
 
  • Like
Reactions: proxuser77 and UdoB
Wenn man einen guten HW Raid eh im Server hat oder den gebraucht günstig bekommt, kann der mit billigen SSDs oder HDDs echte Wunder vollbringen, zumindest gefühlt, und wenn man damit noch viel mehr Euros für neue schnelle SSDs spart, ist das ein sehr valider Einsatzzweck.
Auf jeden Fall. Alles was ich am Ende sage ist...

Wenn das Ding produktiv genutzt wird, würde ich entweder HW Raid mit LVM machen oder ZFS mit IT-Mode, und dann vielleicht (vorallem bei ersterem) noch schauen, dass ich einen möglichst identischen Controller als Ersatz im Schrank hätte.

Was ich nicht machen würde ist ZFS und Hardware RAID in Kombination verwenden. ;)
 
Last edited:
Auf jeden Fall. Alles was ich am Ende sage ist...

Wenn das Ding produktiv genutzt wird, würde ich entweder HW Raid mit LVM machen oder ZFS mit IT-Mode, und dann vielleicht (vorallem bei ersterem) noch schauen, dass ich einen möglichst identischen Controller als Ersatz im Schrank hätte.

Was ich nicht machen würde ist ZFS und Hardware RAID in Kombination verwenden.
Bitte hört mal auf Raid Controller in "IT-Mode" zu flashen. Da wird so viel gute Hardware zerstört, wenn man was falsch macht.
Seit über 10 Jahren kann man jeden vernünftigen Raid Controller in HBA Mode versetzen, was dich danach nur einen Reboot kostet.
Dann sind die dumme HBAs und man kann auch jederzeit über eine Einstellung im Bios wieder zurück.
 
Naja zumindes Broadcom sagt selbst:

Note: SAS HBAs support IT (Integrated Target) and IR (Integrated RAID) firmware. IT in the table below indicates that the IT firmware must be loaded to the SAS HBA for that functionality. IR indicates that IR firmware must be loaded to the SAS HBA for that functionality.

https://www.broadcom.com/support/knowledgebase/1211161496893/megaraid-3ware-and-hba-support-for-various-raid-levels-and-jbod-

ZFS sollte wenn immer möglich direkten Zugriff auf die Disks haben. Ob man dazu die Karte „flashen” muss oder, um es so zu formulieren, dass es weniger gefährlich klingt, „eine andere Firmware aufspielen” muss, kommt auf den spezifischen Controller an, den man hat.
 
Naja zumindes Broadcom sagt selbst:

Note: SAS HBAs support IT (Integrated Target) and IR (Integrated RAID) firmware. IT in the table below indicates that the IT firmware must be loaded to the SAS HBA for that functionality. IR indicates that IR firmware must be loaded to the SAS HBA for that functionality.

https://www.broadcom.com/support/knowledgebase/1211161496893/megaraid-3ware-and-hba-support-for-various-raid-levels-and-jbod-

ZFS sollte wenn immer möglich direkten Zugriff auf die Disks haben. Ob man dazu die Karte „flashen” muss oder, um es so zu formulieren, dass es weniger gefährlich klingt, „eine andere Firmware aufspielen” muss, kommt auf den spezifischen Controller an, den man hat.
Hast du dir mal die Liste der Controller angeschaut? Alles uralte Modelle, die ich produktiv niemals noch einsetzen würde. Als HBA auch nur im Notfall.
Die neuesten in der Liste haben gerade mal PCIe3 und das meiste ist PCIe2 und 1
 
  • Like
Reactions: Johannes S
Hast du dir mal die Liste der Controller angeschaut? Alles uralte Modelle, die ich produktiv niemals noch einsetzen würde. Als HBA auch nur im Notfall.
Die neuesten in der Liste haben gerade mal PCIe3 und das meiste ist PCIe2 und 1
Ich würde wetten OP hat irgendeinen aus dieser Liste ;-) ...zumindest war hier irgendwo von MegaRAID die Rede. Anyways ohne zu wissen was für eine Karte er hat, können wir eh nichts definitives sagen.

Mein Punkt ist: Wenn der Kontroller im RAID (IR) Modus läuft, sollte man LVM und nicht ZFS verwenden. Oder anders rum gesagt. Möchte man ZFS, sollte der Controller im IT/JBOD/HBA Modus sein (wie auch immer du es nennen möchtest bzw. der Hersteller der Karte es nennt), so das ZFS die Disks einzeln und direkt ansprechen kann, und bei gewissen Modellen (laut dir wohl hauptsächlich älteren Modellen) muss dazu halt eine andere Firmware aufgespielt werden.
 
Last edited:
  • Like
Reactions: Johannes S
oops,
jetzt war ich mal ein paar Tage nicht hier online.
Das es ein MegaRaid ist, wird von mir direkt am Anfang aufgelistet. Mit Bezeichnung.
So wie es jetzt aussieht scheint alles zu klappen bei mir. Also an dieser Stelle erstmal Dank an alle hier, die sich eingebracht haben. Leider habe ich keinen Schimmer, wie ich ein SOLVED in den Thread bekomme.
 
  • Like
Reactions: Johannes S