Hallo,
ich möchte bei meiner Workstation Grafikkarten an die VMs durchreichen. Herausgefunden habe ich, dass es sich um das alte GART IOMMU handelt. Es gibt Forumsbeiträge dass es damit möglich sein sollte, aber nirgends was konkretes. Im BIOS ist IOMMU aktiviert mit 512 MB (bei 1024 und 2048 bootet das Board nicht). Erst mal die Frage ob es überhaupt geht. Nächste Frage, wie kompliziert es wird.
Hardware
Tyan S2915-E
zwei Opteron 8439 SE
64 GB RAM Reg/ECC (ECC deaktiviert)
NVIDIA GTX960
NVIDIA GT210
NVIDIA 7100GS
Proxmox ist frisch installiert, hier der Auszug:
ich möchte bei meiner Workstation Grafikkarten an die VMs durchreichen. Herausgefunden habe ich, dass es sich um das alte GART IOMMU handelt. Es gibt Forumsbeiträge dass es damit möglich sein sollte, aber nirgends was konkretes. Im BIOS ist IOMMU aktiviert mit 512 MB (bei 1024 und 2048 bootet das Board nicht). Erst mal die Frage ob es überhaupt geht. Nächste Frage, wie kompliziert es wird.
Hardware
Tyan S2915-E
zwei Opteron 8439 SE
64 GB RAM Reg/ECC (ECC deaktiviert)
NVIDIA GTX960
NVIDIA GT210
NVIDIA 7100GS
Proxmox ist frisch installiert, hier der Auszug:
CPU(s) 12 x Six-Core AMD Opteron(tm) Processor 8439 SE (2 Sockets) |
Kernel Version Linux 6.2.16-3-pve #1 SMP PREEMPT_DYNAMIC PVE 6.2.16-3 (2023-06-17T05:58Z) |
PVE Manager Version pve-manager/8.0.3/bbf3993334bfa916 |
Code:
root@server:~# dmesg | grep -e DMAR -e IOMMU
[ 1.312265] PCI-DMA: using GART IOMMU.
[ 1.312272] PCI-DMA: Reserving 512MB of IOMMU area in the AGP aperture
Code:
root@abc:~# pvesh get /nodes/abc/hardware/pci --pci-class-blacklist ""
┌──────────┬────────┬──────────────┬────────────┬────────┬───────────────────────────────────────────────────┬──────┬──────────────────┬───────────────────────┬───────────
│ class │ device │ id │ iommugroup │ vendor │ device_name │ mdev │ subsystem_device │ subsystem_device_name │ subsystem_
╞══════════╪════════╪══════════════╪════════════╪════════╪═══════════════════════════════════════════════════╪══════╪══════════════════╪═══════════════════════╪═══════════
│ 0x010185 │ 0x037f │ 0000:00:05.0 │ -1 │ 0x10de │ MCP55 SATA Controller │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x010185 │ 0x037f │ 0000:00:05.1 │ -1 │ 0x10de │ MCP55 SATA Controller │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x010185 │ 0x037f │ 0000:00:05.2 │ -1 │ 0x10de │ MCP55 SATA Controller │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x01018a │ 0x036e │ 0000:00:04.0 │ -1 │ 0x10de │ MCP55 IDE │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x030000 │ 0x016a │ 0000:02:00.0 │ -1 │ 0x10de │ NV44 [GeForce 7100 GS] │ │ 0x0340 │ │ 0x1462
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x030000 │ 0x1401 │ 0000:06:00.0 │ -1 │ 0x10de │ GM206 [GeForce GTX 960] │ │ 0x3690 │ │ 0x1458
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x030000 │ 0x0a65 │ 0000:83:00.0 │ -1 │ 0x10de │ GT218 [GeForce 210] │ │ 0x0401 │ │ 0x10b0
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x040300 │ 0x0371 │ 0000:00:06.1 │ -1 │ 0x10de │ MCP55 High Definition Audio │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x040300 │ 0x0fba │ 0000:06:00.1 │ -1 │ 0x10de │ GM206 High Definition Audio Controller │ │ 0x3690 │ │ 0x1458
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x040300 │ 0x0be3 │ 0000:83:00.1 │ -1 │ 0x10de │ High Definition Audio Controller │ │ 0x0401 │ │ 0x10b0
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x050000 │ 0x0369 │ 0000:00:00.0 │ -1 │ 0x10de │ MCP55 Memory Controller │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x050000 │ 0x0369 │ 0000:80:00.0 │ -1 │ 0x10de │ MCP55 Memory Controller │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x050000 │ 0x0361 │ 0000:80:01.0 │ -1 │ 0x10de │ MCP55 LPC Bridge │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060000 │ 0x1200 │ 0000:00:18.0 │ -1 │ 0x1022 │ Family 10h Processor HyperTransport Configuration │ │ 0x0000 │ │ 0x0000
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060000 │ 0x1201 │ 0000:00:18.1 │ -1 │ 0x1022 │ Family 10h Processor Address Map │ │ 0x0000 │ │ 0x0000
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060000 │ 0x1202 │ 0000:00:18.2 │ -1 │ 0x1022 │ Family 10h Processor DRAM Controller │ │ 0x0000 │ │ 0x0000
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060000 │ 0x1203 │ 0000:00:18.3 │ -1 │ 0x1022 │ Family 10h Processor Miscellaneous Control │ │ 0x0000 │ │ 0x0000
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060000 │ 0x1204 │ 0000:00:18.4 │ -1 │ 0x1022 │ Family 10h Processor Link Control │ │ 0x0000 │ │ 0x0000
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060000 │ 0x1200 │ 0000:00:19.0 │ -1 │ 0x1022 │ Family 10h Processor HyperTransport Configuration │ │ 0x0000 │ │ 0x0000
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060000 │ 0x1201 │ 0000:00:19.1 │ -1 │ 0x1022 │ Family 10h Processor Address Map │ │ 0x0000 │ │ 0x0000
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060000 │ 0x1202 │ 0000:00:19.2 │ -1 │ 0x1022 │ Family 10h Processor DRAM Controller │ │ 0x0000 │ │ 0x0000
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060000 │ 0x1203 │ 0000:00:19.3 │ -1 │ 0x1022 │ Family 10h Processor Miscellaneous Control │ │ 0x0000 │ │ 0x0000
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060000 │ 0x1204 │ 0000:00:19.4 │ -1 │ 0x1022 │ Family 10h Processor Link Control │ │ 0x0000 │ │ 0x0000
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060100 │ 0x0364 │ 0000:00:01.0 │ -1 │ 0x10de │ MCP55 LPC Bridge │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060400 │ 0x0376 │ 0000:00:0a.0 │ -1 │ 0x10de │ MCP55 PCI Express bridge │ │ 0x0000 │ │ 0x10de
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060400 │ 0x0378 │ 0000:00:0d.0 │ -1 │ 0x10de │ MCP55 PCI Express bridge │ │ 0x0000 │ │ 0x10de
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060400 │ 0x0377 │ 0000:00:0f.0 │ -1 │ 0x10de │ MCP55 PCI Express bridge │ │ 0x0000 │ │ 0x10de
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060400 │ 0x0125 │ 0000:03:00.0 │ -1 │ 0x1033 │ uPD720400 PCI Express - PCI/PCI-X Bridge │ │ 0x0000 │ │ 0x0000
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060400 │ 0x0125 │ 0000:03:00.1 │ -1 │ 0x1033 │ uPD720400 PCI Express - PCI/PCI-X Bridge │ │ 0x0000 │ │ 0x0000
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060400 │ 0x0376 │ 0000:80:0a.0 │ -1 │ 0x10de │ MCP55 PCI Express bridge │ │ 0x0000 │ │ 0x10de
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060400 │ 0x0378 │ 0000:80:0d.0 │ -1 │ 0x10de │ MCP55 PCI Express bridge │ │ 0x0000 │ │ 0x10de
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060400 │ 0x0377 │ 0000:80:0f.0 │ -1 │ 0x10de │ MCP55 PCI Express bridge │ │ 0x0000 │ │ 0x10de
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x060401 │ 0x0370 │ 0000:00:06.0 │ -1 │ 0x10de │ MCP55 PCI bridge │ │ 0xcb84 │ │ 0x10de
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x068000 │ 0x0373 │ 0000:00:08.0 │ -1 │ 0x10de │ MCP55 Ethernet │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x068000 │ 0x0373 │ 0000:00:09.0 │ -1 │ 0x10de │ MCP55 Ethernet │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x0c0310 │ 0x036c │ 0000:00:02.0 │ -1 │ 0x10de │ MCP55 USB Controller │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x0c0320 │ 0x036d │ 0000:00:02.1 │ -1 │ 0x10de │ MCP55 USB Controller │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x0c0500 │ 0x0368 │ 0000:00:01.1 │ -1 │ 0x10de │ MCP55 SMBus Controller │ │ 0x2915 │ │ 0x10f1
├──────────┼────────┼──────────────┼────────────┼────────┼───────────────────────────────────────────────────┼──────┼──────────────────┼───────────────────────┼───────────
│ 0x0c0500 │ 0x0368 │ 0000:80:01.1 │ -1 │ 0x10de │ MCP55 SMBus Controller │ │ 0x2915 │ │ 0x10f1
└──────────┴────────┴──────────────┴────────────┴────────┴───────────────────────────────────────────────────┴──────┴──────────────────┴───────────────────────┴──────────