Hättest du denn eine bessere Idee für mein Setup?Mit NVMe Enterprise SSDs für mixed/write intense Workloads solltest du schon ordentliche Performance haben. Aber ohne ZFS wäre die Performance natürlich noch deutlich besser
Hättest du denn eine bessere Idee für mein Setup?Mit NVMe Enterprise SSDs für mixed/write intense Workloads solltest du schon ordentliche Performance haben. Aber ohne ZFS wäre die Performance natürlich noch deutlich besser
Okey klingt ja eigentlich ganz gut. Ich habe nur keine Lust dass die Disks dann nach paar Monaten direkt den Geist aufgebenIch habe mal mit normalen Read Intensiv NVMe Performancetests gemacht. Ich hatte 4x 7,68TB im Mirror und habe im Read 2,4 Mio I/Os raus geholt. (Jede schafft laut Datenblatt 1 Mio) im Write waren es trotzdem noch 1,5 Mio.
Spätestens wenn du DBs laufenlassen willst nicht toll was Performance oder Haltbarkeit angeht wegen der fehlenden PLP. Da wärst du dann vmtl auch nicht viel schneller als ein paar HDDs.Da ich mir keine Enterprise SSD's leisten kann habe ich mir nun normale Samsung 990 Pro 4TB gekauft. Mal schauen wie die zusammen mit ZFS performen.
Lets have a look at the rated write durability (TBW) of different grades of NVMe SSDs:
TBW per 1TB capacity: Price per 1TB capacity: Price per 1TB TBW: Cheap QLC Consumer (Crucial P3 1TB): 220 TB 71 € 0,322727 € Normal TLC Consumer (Samsung 980 1TB): 600 TB 79 € 0.131667 € Modern TLC Prosumer (Samsung 980 Pro 1TB): 600 TB 104 € 0.173333 € End-of-Life MLC Prosumer (Samsung 970 Pro 1TB): 1,200 TB 220 € 0,183333 € Cheap TLC Enterprise (Micron 7450 PRO 960GB) 1,771 TB 196 € 0.110672 € Normal TLC Enterprise (Micron 7450 MAX 800GB): 5,375 TB 271 € 0.050419 € Good MLC Enterprise (Intel P3700 800GB): 18,250 TB 1549 € 0.084877 € High-end SLC Enterprise (Intel Optane P4801X 375GB): 109,333 TB 3296 € 0.030146 €
Wieviel Budget hast du denn? Beim ersten Suchmaschine befragen habe ich direkt soetwas gefunden:Das Problem ist erstmal 4x 4TB Enterprise SSD‘s zu finden die einen keine Niere kosten.
Auch wenn es nicht perfekt optimal ist werden die SSD‘s vermutlich besser performen als über den NFS Share vom Nas denke ich. Gerade bei den Game Servern.
Tatsächlich 300 pro SSD. Es sollten aber im besten Fall M.2 SSD‘s sein.Wieviel Budget hast du denn?
Die schaffen die Werte nur für ganz kurze Zeit und brechen dann ein. Mit ZFS gebe ich denen ca. 1 Jahr Lebenszeit.Tatsächlich 300 pro SSD. Es sollten aber im besten Fall M.2 SSD‘s sein.
Im einen Server Gen 4. Dachte da macht es Sinn SSD‘s zu haben die auf 7000 MB/s kommen.
Wie sieht das denn mit der Samsung 990 Pro aus, ist die wirklich so schlecht für meinen Anwendungsbereich?
Puh, dann wird es langsam echt kompliziert…Die schaffen die Werte nur für ganz kurze Zeit und brechen dann ein. Mit ZFS gebe ich denen ca. 1 Jahr Lebenszeit.
Was hast du denn für einen Rechner? Eventuell kannst du ja U2 NVMe über eine Adapterkarte anschließen.Puh, dann wird es langsam echt kompliziert…
Du solltest nicht danach gehen, was da im Datenblatt steht, was die SSDs für wenigen Sekunden unter idealen Voraussetzungen maximal schaffen. Sondern was die SSD dir immer garantiert über lange Dauer mindestens an Performance liefert. Und da würde ich eine gebrauchte Enterprise SATA SSD für 20€ jeder neuen 200€ Consumer NVMe SSD vorziehen.Tatsächlich 300 pro SSD. Es sollten aber im besten Fall M.2 SSD‘s sein.
Im einen Server Gen 4. Dachte da macht es Sinn SSD‘s zu haben die auf 7000 MB/s kommen.
Enterprise M.2 schon, aber nicht über 4TB. Und wenn man Mixed-Worklaod will, dann endet es schon bei 800GB. Sowas wie die "PM9A3 3.84TB, M.2" für 451€ gibts aber schon. Zahlst aber halt auch 50% mehr als für die 990 Pro, hast aber auch doppelte TBW und Magnituden besser Sync Write Performance. Also von dem Ding her der eigentlich bessere Deal, auch wenn initial teurer in der Anschaffung.Übrigens, m.2 SSDs wirst du keine Enterprise finden. Im Server nutzt man m.2 nur fürs OS.
Folgende Systeme habe ich:Was hast du denn für einen Rechner? Eventuell kannst du ja U2 NVMe über eine Adapterkarte anschließen.
Kannst du bestimmte Modelle empfehlen (Das ich im besten falle auf ungefähr 8TB pro Node komme) mit dem Budget von ca. 1200.-?Du solltest nicht danach gehen, was da im Datenblatt steht, was die SSDs für wenigen Sekunden unter idealen Voraussetzungen maximal schaffen. Sondern was die SSD dir immer garantiert über lange Dauer mindestens an Performance liefert. Und da würde ich eine gebrauchte Enterprise SATA SSD für 20€ jeder 200€ Consumer NVMe SSD vorziehen.
Auf dem Papier viel viel besser als zwei 990 Pro im Raid0 bei fast gleichem Preis.Wie wäre z.B diese SSD?
Du weißt aber schon, dass das 10 Gigabit/sek sind und da nicht mehr als 1,25 Gigabyte/sek drübergehen wird? Vermutlich eher weniger. Das würden auch ein paar SATA SSDs im Raid beim Lesen ausgereizt bekommen. Da braucht es nicht zwingend NVMe für. Und sobald der Cache voll ist schafft eine NVMe SSD schreibend eh nicht mehr Durchsatz als was auch SATA noch stemmen könnte.Da ich mein Netzwerk gerade auf 10GbE ausgebaut habe würde ich halt auch gerne eine hohe Geschwindigkeit auf den Servern erreichen falls das möglich ist.
Also jeweils 2x 2.5Zoll SSD‘s sollte ich vermutlich schon in beide Systeme bekommen können. Dann macht sowas mehr sinn? Vielleicht eine 250GB Nvme M.2 für Proxmox und dann jeweils 2x 2.5 Zoll SSD‘s für ZFS und die VM‘s?Auf dem Papier viel viel besser als zwei 990 Pro im Raid0 bei fast gleichem Preis.
Ja das ist mir bewusst, nur wenn ich halt SSD‘s mit 500 MB/s hätte wäre das bisschen schade.Du weißt aber schon, dass das 10 Gigabit sind und da nicht mehr als 1,25GB/s drübergehen wird? Vermutlich eher weniger. Das würden auch ein paar SATA SSDs im Raid beim Lesen ausgereizt bekommen. Da braucht es nicht zwingend NVMe für.
Sehe ich jetzt nicht den Sinn, außer du willst die SSDs per PCI Passthrough an eine VM durchreichen. Würde ich PVE lieber mit auf die gleichen SSDs packen, gerade wenn die gespiegelt sein sollten.Vielleicht eine 250GB Nvme M.2 für Proxmox und dann jeweils 2x 2.5 Zoll SSD‘s für ZFS und die VM‘s?
Ja, aber egal ob die NVMe nun mit 2000GB/s oder 7000 GB/s beworben wird. Bei SATA würde ich dann halt 4 oder 8 SATA SSDs in ein Raid10 packen.Ja das ist mir bewusst, nur wenn ich halt SSD‘s mir 500 MB/s hätte wäre das bisschen schade.
Genau ja. Und ich weiss auch nicht wie ich U.2 SSD‘s verwenden müsste. Hatte die noch nie und diese kann ich ja soweit ich weiss nicht einfach direkt an Sata anschliessen und fertig.Aber das wird bei deinem Formfaktor ja wieder nichts.
Da brauchst du dann M.2-auf-SFF8643-Adapter (sowas z.B.: https://www.delock.de/produkt/62721/merkmale.html ) oder PCIe-auf-SFF8643-Adapter (sowas: https://www.delock.de/produkt/90437/merkmale.html ) + SFF8643-auf-U.2-Kabel (sowas z.B.: https://www.delock.de/produkt/84819/merkmale.html).Genau ja. Und ich weiss auch nicht wie ich U.2 SSD‘s verwenden müsste. Hatte die noch nie und diese kann ich ja soweit ich weiss nicht einfach direkt an Sata anschliessen und fertig.
Ich sehe schon, ich bin ein schwieriger Fall ^^
Auch bisschen kompliziert hahaDa brauchst du dann M.2-auf-SFF8643-Adapter (sowas z.B.: https://www.delock.de/produkt/62721/merkmale.html ) oder PCIe-auf-SFF8643-Adapter (sowas: https://www.delock.de/produkt/90437/merkmale.html ) + SFF8643-auf-U.2-Kabel (sowas z.B.: https://www.delock.de/produkt/84819/merkmale.html).