ZFS oder Hardware RAID1 auf 2 NVMe-Platten?

8192K

Member
Apr 12, 2024
36
1
8
Hallo,

Ich richte gerade einen Server ein, der 2x 4TB NVMe-SSDs hat (und eine 2TB HDD, die spielt aber keine Rolle).
Dazu noch 128GB ECC RAM.

Ich habe eben Proxmox mit ZFS im ZFS RAID1 Modus installiert. Das läuft auch bestens, nur sehe ich jetzt die Threads, die sagen, dass man so bis zu 90% Geschwindigkeitseinbußen hinnehmen muss, weil ZFS und NVMe nicht gut miteinander können.

Deshalb habe ich auf Hardware RAID1 umgestellt, was aber während der Installation von Proxmox zu einem Fehler führte (lzma error: internal error (bug)). Während dieser Installation habe ich ext4 als Dateisystem ausgewählt und Proxmox hat automatisch einen LVM angelegt.

Ich habe jetzt zwei Fragen:
- ist bei NVMe-SSDs wirklich Hardware RAID vorzuziehen?
- warum bekomme ich einen Fehler beim installieren im Hardware RAID Modus? Ich konnte bei der Installation beide NVMe-Platten auswählen. Hätte ich nicht nur eine auswählen können müssen?

Vielen Dank!
 
Hab gerade über "Fake RAID" herausgefunden. Das scheint hier das Problem für Frage 2 zu sein.

Frage 1 bleibt aber bestehen.
 
ist bei NVMe-SSDs wirklich Hardware RAID vorzuziehen?
Wir haben hier recht viele Server am laufen. Auch schon einige mit NVME. Also 20Gbit+ tut, wüsste ich nicht was ein Hardwareraid besser machen sollte, außer das man Anhängigkeiten zu einem Raidcontroller aufbaut. Wichtig ist natürlich an der Stelle das man ausschließlich Enterprise NVME's und kein Spielzeug kauft. Dann kanns nur gut gehen.
 
Besser wäre es die Vorteile von ZFS kennen zu lernen und dann sich die passenden Datenträger anzuschaffen und sich unterschiedliche ZFS Pools zu erzeugen.

Z.B. meine letzte Installation läuft auf 2x 1 TB NVMe PCIe4 im ZFS Raid1 Verbund.
Dart liegt das Root FS liegt auf 500 GB der NVMe.

Noch drei weitere Partitionen ergänzen einen weiteren Pool basierend auf 2x 4 TB HDDs 7200 RPM.
Das sind:
1) ZFS special device, 2) ZFS zil/slog und
3) noch ein ZFS cache auf dem HDD Pool.

Das läuft unter Proxmox VE als NAS mit ein paar kleinen Diensten: dhcpd, samba.
Über die 2.5 GBit/s NIC ist eine Auslasung der HDDs möglich.

Hardware: Intel Core I3-10105 mit 4x 8 GByte DDR4.
 
Hardware RAID für NVMe gibt es, aber dafür brauchst du teure RAID Controller Karten.
Wenn die NVMe nativ verbaut sind, dann gibt es maximal vroc von Intel. Das ist aber ein Software RAID was aber komplett in der CPU abgebildet wird.

Das mit dem Performanceverlust ist nur bei RaidZ1 oder RaidZ2 zu sehen. Das ist dann vergleichbar mit Software RAID5 oder Raid6.
Wenn du ZFS Mirror nutzt, hast du kaum spürbare Verluste. Also eine Enterprise NVMe mit 1Mio I/O Werksangabe macht mit ZFS Mirror immer noch deutlich über 900k I/O im Benchmark.
 
  • Like
Reactions: 8192K

About

The Proxmox community has been around for many years and offers help and support for Proxmox VE, Proxmox Backup Server, and Proxmox Mail Gateway.
We think our community is one of the best thanks to people like you!

Get your subscription!

The Proxmox team works very hard to make sure you are running the best software and getting stable updates and security enhancements, as well as quick enterprise support. Tens of thousands of happy customers have a Proxmox subscription. Get yours easily in our online shop.

Buy now!