Search results

  1. F

    Proxmox mit Ceph und ceph-csi sinnevoll?

    fio --name=read_iops --size=2G --bs=4k --rw=randread --verify=0 --direct=1 --ioengine=libaio --iodepth=64 read_iops: (g=0): rw=randread, bs=(R) 4096B-4096B, (W) 4096B-4096B, (T) 4096B-4096B, ioengine=libaio, iodepth=64 fio-3.33 Starting 1 process read_iops: Laying out IO file (1 file / 2048MiB)...
  2. F

    Proxmox mit Ceph und ceph-csi sinnevoll?

    Ich teste mal mit deinem Deployment. tcpdump sollte hiermit https://github.com/eldadru/ksniff gehen.
  3. F

    Proxmox mit Ceph und ceph-csi sinnevoll?

    Ich denke inzwischen die gehen über die falsche Nic. Die zweite Nic ist auf dem Proxmox ein bond aus 3 x 10G . Die wo ceph drüber gehen sollte ist eine 100G.
  4. F

    Proxmox mit Ceph und ceph-csi sinnevoll?

    hier die Routen von einer Worker Node
  5. F

    Proxmox mit Ceph und ceph-csi sinnevoll?

    hier mal eine Worker Config: version: v1alpha1 debug: false persist: true machine: type: worker token: *************** ca: crt: ***** key: "" certSANs: - 10.144.190.30 - 127.0.0.1 kubelet: image: ghcr.io/siderolabs/kubelet:v1.30.2 extraArgs...
  6. F

    Proxmox mit Ceph und ceph-csi sinnevoll?

    CODE]iperf -c 192.168.1.1 C-m -P 1000[/CODE] von proxmox zu proxmox: [SUM] 0.0000-10.0517 sec 116 GBytes 99.2 Gbits/sec von kubernetes(talos) zu proxmox : [SUM] 0.00-11.37 sec 30.5 GBytes 23.1 Gbits/sec
  7. F

    Proxmox mit Ceph und ceph-csi sinnevoll?

    Hier sind fio von uns: https://github.com/siderolabs/talos/issues/9754 Die Talos VM laufen auf dem Proxmox im Ceph, das ist richtig. Die VM haben zwei Nic, eine nur Kubernetes und die zweite Nic ist eine 100G vom public Ceph Netzwerk. Das war ein Windows Server 2022 VM welche auf dem Ceph...
  8. F

    Proxmox mit Ceph und ceph-csi sinnevoll?

    Hi, mit dem rook-ceph External Cluster das Funktioniert bei uns. Aktuell haben wir das ganze mit ceph-csi laufen. Aber beides ist zu langsam.
  9. F

    Proxmox mit Ceph und ceph-csi sinnevoll?

    You run with us. You need the ClusterId of the Ceph on proxmox and the Ip addresses of the monitors of your Ceph cluster. Your Kubernetes host must be able to access the monitors. I can't say anything about performance. I don't know if the values are ok or not.
  10. F

    Was kann ich an Ceph Performance erwarten

    ja, da kommt auch noch ein zweiter 100gb Switch dazu. Was mich halt irritiert ist das ceph-csi im Kubernetes. Das os ist talos und die iops auf der lokalen Platte, was ja auch schon ceph ist, ist ja auch ok. Aber warum der ceph-csi Treiber so schlecht ist verstehe ich nicht. Oder ist teste...
  11. F

    Was kann ich an Ceph Performance erwarten

    nein :) root@pve5:~# fio -ioengine=rbd -pool=test -ioengine=rbd -pool=test -direct=1 -sync=1 -rw=write -bs=4K -numjobs=1 -runtime=60 -time_based -name=fio -iodepth=128 -rbdname=vm-113-disk-0 fio: (g=0): rw=write, bs=(R) 4096B-4096B, (W) 4096B-4096B, (T) 4096B-4096B, ioengine=rbd, iodepth=128...
  12. F

    Was kann ich an Ceph Performance erwarten

    root@pve5:~# fio -ioengine=rbd -pool=test -ioengine=rbd -pool=test -direct=1 -sync=1 -rw=write -bs=4K -numjobs=1 -runtime=60 -time_based -name=fio -iodepth=4 -rbdname=vm-113-disk-0 fio: (g=0): rw=write, bs=(R) 4096B-4096B, (W) 4096B-4096B, (T) 4096B-4096B, ioengine=rbd, iodepth=4 fio-3.33...
  13. F

    Was kann ich an Ceph Performance erwarten

    Wie meinst du das? in einer vm oder auf dem proxmox host direkt?
  14. F

    Was kann ich an Ceph Performance erwarten

    c-stats habe ich schon aus System Profile Performance Per Watt (OS)PerformanceCustom CPU Power Management Maximum Performance Memory Frequency Maximum Performance Turbo Boost Enabled C-States Disabled Memory Patrol Scrub Standard Memory Refresh Rate 1x Workload Profile...
  15. F

    Was kann ich an Ceph Performance erwarten

    Modul Beschreibung SKU Steuertyp Menge Komponenten Basis PowerEdge R6615 210-BFUO SR 1 Smart Selection Smart Selection PowerEdge R6615 486-82082 SR 1 FRONT...
  16. F

    Was kann ich an Ceph Performance erwarten

    Ich frage mich halt warum ceph-csi so viel langsamer ist. ceph-csi: IOPS=2961.541016 BW(KiB/s)=11862 virtuelle Platte auf dem geiche System: IOPS=42727.835938 BW(KiB/s)=170928 auf Ceph
  17. F

    Was kann ich an Ceph Performance erwarten

    Die Platten sind Micron: DC NVMe ISE 7450 RI U.2 7.68TB Micron Technology Inc Und die Platten sind direkt angeschlossen.
  18. F

    Was kann ich an Ceph Performance erwarten

    root@pve5:~# fio --ioengine=libaio --filename=/dev/nvme4n1 --direct=1 --sync=1 --rw=write --bs=4K --numjobs=1 -runtime=60 --time_based --name=fio -iodepth=16 fio: (g=0): rw=write, bs=(R) 4096B-4096B, (W) 4096B-4096B, (T) 4096B-4096B, ioengine=libaio, iodepth=16 fio-3.33 Starting 1 process Jobs...
  19. F

    Was kann ich an Ceph Performance erwarten

    wir haben einen neuen Proxmox Cluster mit 5 Nodes und einem Backupserver. Ich kann nur überhaupt nicht wirklich einschätzen was ich an Leistung erwarten kann. Server: 4 x Dell DC NVMe ISE 7450 RI U.2 7.68TB 4 x 10gb Netzwerkkarte 2 x 1gb Netzwerkkarte 2 x 100gb Netzwerk Auf den 100gb Karten...
  20. F

    Pve Host vom SDN nicht erreichbar

    Na ja, das Netzwerk Team ist nicht direkt bei mir im Standort. Ich schauen mir das mit denen noch mal an. Dank für die Hilfe