CEPH Crushmap zuordnung

robert_w

New Member
Dec 28, 2023
2
0
1
Titel: Ceph: Nur HDD für data-Pool und SSD für nvme-Pool verwenden




Problem:Ich möchte in meinem Ceph-Cluster (Proxmox) sicherstellen, dass:


  1. HDD-OSDs nur im Pool data verwendet werden.
  2. SSD-OSDs nur im Pool nvme verwendet werden.



Aktuelle Situation:


  • OSDs: ID CLASS WEIGHT TYPE NAME
    -1 4.12610 root default
    -3 1.37537 host pve1
    0 hdd 0.45479 osd.0
    6 hdd 0.45479 osd.6
    3 ssd 0.46579 osd.3
    -5 1.37537 host pve2
    1 hdd 0.45479 osd.1
    7 hdd 0.45479 osd.7
    4 ssd 0.46579 osd.4
    -7 1.37537 host pve3
    2 hdd 0.45479 osd.2
    8 hdd 0.45479 osd.8
    5 ssd 0.46579 osd.5
  • Pools: data (HDD) und nvme (SSD).
  • Fehler: Beim Erstellen von CRUSH-Regeln für hdd kommt: Error EINVAL: unknown type hdd.



Fragen:


  1. Wie stelle ich sicher, dass data nur HDD-OSDs und nvme nur SSD-OSDs verwendet?
  2. Wie kann ich alle Zuweisungen und Regeln anzeigen lassen?
  3. Gibt es eine einfache Anleitung zur Erstellung und Zuweisung von CRUSH-Regeln für unterschiedliche OSD-Typen?

Vielen Dank für jede Hilfe!
 
Titel: Ceph: Nur HDD für data-Pool und SSD für nvme-Pool verwenden




Problem:Ich möchte in meinem Ceph-Cluster (Proxmox) sicherstellen, dass:


  1. HDD-OSDs nur im Pool data verwendet werden.
  2. SSD-OSDs nur im Pool nvme verwendet werden.



Aktuelle Situation:


  • OSDs: ID CLASS WEIGHT TYPE NAME
    -1 4.12610 root default
    -3 1.37537 host pve1
    0 hdd 0.45479 osd.0
    6 hdd 0.45479 osd.6
    3 ssd 0.46579 osd.3
    -5 1.37537 host pve2
    1 hdd 0.45479 osd.1
    7 hdd 0.45479 osd.7
    4 ssd 0.46579 osd.4
    -7 1.37537 host pve3
    2 hdd 0.45479 osd.2
    8 hdd 0.45479 osd.8
    5 ssd 0.46579 osd.5
  • Pools: data (HDD) und nvme (SSD).
  • Fehler: Beim Erstellen von CRUSH-Regeln für hdd kommt: Error EINVAL: unknown type hdd.



Fragen:


  1. Wie stelle ich sicher, dass data nur HDD-OSDs und nvme nur SSD-OSDs verwendet?
  2. Wie kann ich alle Zuweisungen und Regeln anzeigen lassen?
  3. Gibt es eine einfache Anleitung zur Erstellung und Zuweisung von CRUSH-Regeln für unterschiedliche OSD-Typen?

Vielen Dank für jede Hilfe!
Hi das ist recht einfach, aber produktiv würde ich das bei deiner Ausstattung nicht machen. Du hast nur eine SSD pro Node und wenn die mal ausfällt bist du im Degraded mode bis eine neue eingebaut ist um recovern zu können.

Du baust dir einfach eigene regeln, die du beim Pool erstellen auswählen kannst:

ceph osd crush rule create-replicated replicated-ssd "default" host ssd
ceph osd crush rule create-replicated replicated-hdd "default" host hdd

den namen "replicated-ssd" kannst du so nennen wie du möchtest und wenn du auch NVMe hast müsstest du dann den Typ auf NVMe umstellen. Da die OSD aber als SSD erkannt wurden, passt die syntax so.