Proxmox Cluster mit VM's auf NFS Share

Mit NVMe Enterprise SSDs für mixed/write intense Workloads solltest du schon ordentliche Performance haben. Aber ohne ZFS wäre die Performance natürlich noch deutlich besser ;)
Hättest du denn eine bessere Idee für mein Setup?
 
Ich habe mal mit normalen Read Intensiv NVMe Performancetests gemacht. Ich hatte 4x 7,68TB im Mirror und habe im Read 2,4 Mio I/Os raus geholt. (Jede schafft laut Datenblatt 1 Mio) im Write waren es trotzdem noch 1,5 Mio.
 
Ich habe mal mit normalen Read Intensiv NVMe Performancetests gemacht. Ich hatte 4x 7,68TB im Mirror und habe im Read 2,4 Mio I/Os raus geholt. (Jede schafft laut Datenblatt 1 Mio) im Write waren es trotzdem noch 1,5 Mio.
Okey klingt ja eigentlich ganz gut. Ich habe nur keine Lust dass die Disks dann nach paar Monaten direkt den Geist aufgeben :eek:

Da ich mir keine Enterprise SSD's leisten kann habe ich mir nun normale Samsung 990 Pro 4TB gekauft. Mal schauen wie die zusammen mit ZFS performen.
 
Da ich mir keine Enterprise SSD's leisten kann habe ich mir nun normale Samsung 990 Pro 4TB gekauft. Mal schauen wie die zusammen mit ZFS performen.
Spätestens wenn du DBs laufenlassen willst nicht toll was Performance oder Haltbarkeit angeht wegen der fehlenden PLP. Da wärst du dann vmtl auch nicht viel schneller als ein paar HDDs.

Ich verweise immer wieder gerne auf das Proxmox ZFS Benchmark Paper (hoffe da kommt bald mal ein neues mit QLC NAND, PCIe 4.0, PCIe 5.0 und Consumer NVMe):
1692011635190.png
Sprich da liegen Welten zwischen Consumer SSD ohne PLP und Enterprise SSD mit PLP sobald auch Sync Writes in der Workload vorkommen.

Und hier nochmal eine Tabelle die ich mal zusammengetragen hatte was die Haltbarkeit/Garantie angeht und warum billige Anschaffungskosten nicht "billig" ist sondern sogar sehr teuer werden kann, wenn man oft SSDs nachkaufen muss weil schnell totgeschrieben:
Lets have a look at the rated write durability (TBW) of different grades of NVMe SSDs:
TBW per 1TB capacity:Price per 1TB capacity:Price per 1TB TBW:
Cheap QLC Consumer (Crucial P3 1TB):220 TB71 €0,322727 €
Normal TLC Consumer (Samsung 980 1TB):600 TB79 €0.131667 €
Modern TLC Prosumer (Samsung 980 Pro 1TB):600 TB104 €0.173333 €
End-of-Life MLC Prosumer (Samsung 970 Pro 1TB):1,200 TB220 €0,183333 €
Cheap TLC Enterprise (Micron 7450 PRO 960GB)1,771 TB196 €0.110672 €
Normal TLC Enterprise (Micron 7450 MAX 800GB):5,375 TB271 €0.050419 €
Good MLC Enterprise (Intel P3700 800GB):18,250 TB1549 €0.084877 €
High-end SLC Enterprise (Intel Optane P4801X 375GB):109,333 TB3296 €0.030146 €
 
Last edited:
Das Problem ist erstmal 4x 4TB Enterprise SSD‘s zu finden die einen keine Niere kosten.

Auch wenn es nicht perfekt optimal ist werden die SSD‘s vermutlich besser performen als über den NFS Share vom Nas denke ich. Gerade bei den Game Servern.
 
Wieviel Budget hast du denn?
Tatsächlich 300 pro SSD. Es sollten aber im besten Fall M.2 SSD‘s sein.
Im einen Server Gen 4. Dachte da macht es Sinn SSD‘s zu haben die auf 7000 MB/s kommen.

Wie sieht das denn mit der Samsung 990 Pro aus, ist die wirklich so schlecht für meinen Anwendungsbereich?
 
Tatsächlich 300 pro SSD. Es sollten aber im besten Fall M.2 SSD‘s sein.
Im einen Server Gen 4. Dachte da macht es Sinn SSD‘s zu haben die auf 7000 MB/s kommen.

Wie sieht das denn mit der Samsung 990 Pro aus, ist die wirklich so schlecht für meinen Anwendungsbereich?
Die schaffen die Werte nur für ganz kurze Zeit und brechen dann ein. Mit ZFS gebe ich denen ca. 1 Jahr Lebenszeit.
 
Übrigens, m.2 SSDs wirst du keine Enterprise finden. Im Server nutzt man m.2 nur fürs OS.
 
Tatsächlich 300 pro SSD. Es sollten aber im besten Fall M.2 SSD‘s sein.
Im einen Server Gen 4. Dachte da macht es Sinn SSD‘s zu haben die auf 7000 MB/s kommen.
Du solltest nicht danach gehen, was da im Datenblatt steht, was die SSDs für wenigen Sekunden unter idealen Voraussetzungen maximal schaffen. Sondern was die SSD dir immer garantiert über lange Dauer mindestens an Performance liefert. Und da würde ich eine gebrauchte Enterprise SATA SSD für 20€ jeder neuen 200€ Consumer NVMe SSD vorziehen.
 
Last edited:
Übrigens, m.2 SSDs wirst du keine Enterprise finden. Im Server nutzt man m.2 nur fürs OS.
Enterprise M.2 schon, aber nicht über 4TB. Und wenn man Mixed-Worklaod will, dann endet es schon bei 800GB. Sowas wie die "PM9A3 3.84TB, M.2" für 451€ gibts aber schon. Zahlst aber halt auch 50% mehr als für die 990 Pro, hast aber auch doppelte TBW und Magnituden besser Sync Write Performance. Also von dem Ding her der eigentlich bessere Deal, auch wenn initial teurer in der Anschaffung.
 
Last edited:
Was hast du denn für einen Rechner? Eventuell kannst du ja U2 NVMe über eine Adapterkarte anschließen.
Folgende Systeme habe ich:
Intel® NUC 12 Extreme Kit – NUC12DCMi9
Und dann noch ein Mini Server mit folgendem Mainboard:
AsRock H570M-ITX/ac

Du solltest nicht danach gehen, was da im Datenblatt steht, was die SSDs für wenigen Sekunden unter idealen Voraussetzungen maximal schaffen. Sondern was die SSD dir immer garantiert über lange Dauer mindestens an Performance liefert. Und da würde ich eine gebrauchte Enterprise SATA SSD für 20€ jeder 200€ Consumer NVMe SSD vorziehen.
Kannst du bestimmte Modelle empfehlen (Das ich im besten falle auf ungefähr 8TB pro Node komme) mit dem Budget von ca. 1200.-?

Da ich mein Netzwerk gerade auf 10GbE ausgebaut habe würde ich halt auch gerne eine hohe Geschwindigkeit auf den Servern erreichen falls das möglich ist.

Wie wäre z.B diese SSD? Oder Vielleicht sowas?
 
Last edited:
Auf dem Papier viel viel besser als zwei 990 Pro im Raid0 bei fast gleichem Preis.
Da ich mein Netzwerk gerade auf 10GbE ausgebaut habe würde ich halt auch gerne eine hohe Geschwindigkeit auf den Servern erreichen falls das möglich ist.
Du weißt aber schon, dass das 10 Gigabit/sek sind und da nicht mehr als 1,25 Gigabyte/sek drübergehen wird? Vermutlich eher weniger. Das würden auch ein paar SATA SSDs im Raid beim Lesen ausgereizt bekommen. Da braucht es nicht zwingend NVMe für. Und sobald der Cache voll ist schafft eine NVMe SSD schreibend eh nicht mehr Durchsatz als was auch SATA noch stemmen könnte.
 
Last edited:
Auf dem Papier viel viel besser als zwei 990 Pro im Raid0 bei fast gleichem Preis.
Also jeweils 2x 2.5Zoll SSD‘s sollte ich vermutlich schon in beide Systeme bekommen können. Dann macht sowas mehr sinn? Vielleicht eine 250GB Nvme M.2 für Proxmox und dann jeweils 2x 2.5 Zoll SSD‘s für ZFS und die VM‘s?

Du weißt aber schon, dass das 10 Gigabit sind und da nicht mehr als 1,25GB/s drübergehen wird? Vermutlich eher weniger. Das würden auch ein paar SATA SSDs im Raid beim Lesen ausgereizt bekommen. Da braucht es nicht zwingend NVMe für.
Ja das ist mir bewusst, nur wenn ich halt SSD‘s mit 500 MB/s hätte wäre das bisschen schade.
 
Last edited:
Vielleicht eine 250GB Nvme M.2 für Proxmox und dann jeweils 2x 2.5 Zoll SSD‘s für ZFS und die VM‘s?
Sehe ich jetzt nicht den Sinn, außer du willst die SSDs per PCI Passthrough an eine VM durchreichen. Würde ich PVE lieber mit auf die gleichen SSDs packen, gerade wenn die gespiegelt sein sollten.

Ja das ist mir bewusst, nur wenn ich halt SSD‘s mir 500 MB/s hätte wäre das bisschen schade.
Ja, aber egal ob die NVMe nun mit 2000GB/s oder 7000 GB/s beworben wird. Bei SATA würde ich dann halt 4 oder 8 SATA SSDs in ein Raid10 packen.
Aber das wird bei deinem Formfaktor ja wieder nichts.
 
Aber das wird bei deinem Formfaktor ja wieder nichts.
Genau ja. Und ich weiss auch nicht wie ich U.2 SSD‘s verwenden müsste. Hatte die noch nie und diese kann ich ja soweit ich weiss nicht einfach direkt an Sata anschliessen und fertig.

Ich sehe schon, ich bin ein schwieriger Fall ^^
 
Last edited:
Genau ja. Und ich weiss auch nicht wie ich U.2 SSD‘s verwenden müsste. Hatte die noch nie und diese kann ich ja soweit ich weiss nicht einfach direkt an Sata anschliessen und fertig.

Ich sehe schon, ich bin ein schwieriger Fall ^^
Da brauchst du dann M.2-auf-SFF8643-Adapter (sowas z.B.: https://www.delock.de/produkt/62721/merkmale.html ) oder PCIe-auf-SFF8643-Adapter (sowas: https://www.delock.de/produkt/90437/merkmale.html ) + SFF8643-auf-U.2-Kabel (sowas z.B.: https://www.delock.de/produkt/84819/merkmale.html).
 
Last edited:
Da brauchst du dann M.2-auf-SFF8643-Adapter (sowas z.B.: https://www.delock.de/produkt/62721/merkmale.html ) oder PCIe-auf-SFF8643-Adapter (sowas: https://www.delock.de/produkt/90437/merkmale.html ) + SFF8643-auf-U.2-Kabel (sowas z.B.: https://www.delock.de/produkt/84819/merkmale.html).
Auch bisschen kompliziert haha
Wird auch nicht möglich sein, da die nötigen Anschlüsse in meinem System nicht zugänglich sind.

Dann habe ich ja keine andere Möglich entweder 2.5 Zoll Sata SSD‘s oder halt Consumer M.2.

Wenn ich Consumer SSD‘s nehmen würde wäre dann die Kingston FURY Renegade 4TB besser als die Samsung 990 Pro?
 
Last edited:
  • Like
Reactions: thearona

About

The Proxmox community has been around for many years and offers help and support for Proxmox VE, Proxmox Backup Server, and Proxmox Mail Gateway.
We think our community is one of the best thanks to people like you!

Get your subscription!

The Proxmox team works very hard to make sure you are running the best software and getting stable updates and security enhancements, as well as quick enterprise support. Tens of thousands of happy customers have a Proxmox subscription. Get yours easily in our online shop.

Buy now!