Ich würde die Nextcloud in einer VM laufen lassen (sicherer als LXC) sofern auf diese auch vom Internet aus zugegriffen werden soll. Am besten auch gleich mit PHP8+fpm, opcache, redis, fail2ban, dann MySQL und apache/nginx optimieren (
hier ist eine schöne Anleitung). Falls noch andere VMs mit Webdiensten laufen bietet sich auch die Einrichtung einer Reverse Proxy VM an, welche auch gleich das mit dem DynDNS und Letsencrypt-Zertifikatserstellung machen kann.
Die Nextcloud VM braucht dann nur eine sehr kleine virtuelle HDD für das Linux der Wahl inkl. dem Webserver und den DBs (z.B. 32 GB). Die komplette VM (ohne die in Nextcloud hochgeladenen Dateien) kann man dann über die eingebaute Backup-Funktion (vzdump) von Proxmox sichern. Am besten gleich auf ein NAS, aber auf eine externe/interne HDD würde auch gehen. Nur halt nicht auf den selben Storage auf dem auch die VMs selbst laufen. Das kann man dann auch über Proxmox automatisieren für monatliche/wöchentliche/tägliche Backups.
Da bleiben dann die Backups ziemlich klein, selbst wenn kein inkrementelles Sichern geht, da ja nur das Linux und die paar Daten vom Webserver und den DBs gesichert werden müssen (besonders wenn man Thin Provisioning mit LVM thin oder ZFS in kombination mit Zstd-Kompression für das Backup nutzt).
Das Nextcloud-Datenverzeichnis würde ich nicht selbst in der VM haben wollen sondern über einen NFS oder SMB Share in die VM bringen. Hier bietet sich wieder ein externes NAS an oder eine zweite VM die als NAS dient.
Man könnte auch theoretisch eine zweite große virtuelle HDD für die Nextcloud-Daten erstellen und diese dann vom Backup ausschließen, aber da hat man dann zwei Probleme. Erstens lassen sich die Daten dann nicht so einfach inkrementell sichern, wenn man da nicht über einen Netzwerk Share an die Daten kommt (wäre dann ja ein Backup auf Block- und nicht auf Datei-Ebene) und zweitens wird die große virtuelle HDD mit den Nextcloud-Daten dann nicht nur nicht mitgesichert, sondern beim Wiederherstellen einer VM werden auch alle virtuelle Disks der alten VM zerstört. Ist dann sehr ärgerlich, wenn man ein Backup zurückspielen will und einem Proxmox gleich noch alle alten Nextcloud-Daten löscht.
Den Share mit dem Nextcloud-Datenverzeichnis würde ich dann über irgendein Tool sichern was mit dem Delta-Verfahren kopieren kann und inkrementelle Sicherungen erlaubt. Hier gibt es ja haufenweise gute aber komplizierte Backup-Software (bacula, ...) oder wenn dir rsync gefällt könntest du auch mal rdiff austesten. Im Gegensatz zu rsync erlaubt dieses dann auch inkrementelle Backups. Rsync geht natürlich auch, aber du hast dann echt ein Problem wenn mal Ransomware sich bei dir ausbreitet und dir einfach alle Netzwerk-Shares verschlüsselt. Da ist es dann doof, wenn man immer nur ein Backup hat und nicht auf vorherige Versionen zurückgreifen kann.
Wenn man mag kann man auch noch ein Script laufen lassen welches einen Dump der MySQL-DB anlegt und z.B. auf ein NAS speichert, falls man diese nochmal extra sichern möchte. Und wenn du die VM nicht immer runterfahren willst sollte es auch reichen, wenn man da per Script für das Backup die Nextcloud in den Wartungsmodus schickt.
Wichtig finde ich es halt das OS von den Nextcloud-Daten zu trennen. Die Nextcloud-Daten werden ja sehr schnell sehr groß und dann möchte man die nicht immer komplett sichern, dass man da keine X Kopien von Allem hat. Weil ohne den Proxmox Backup Server kann Proxmox ja nichts inkrementell sichern.
Der Proxmox Backup Server wäre natürlich auch noch eine super Alternative, aber den sollte man am besten halt auf einem anderen Server laufen lassen. Würde der als VM auf dem Proxmox Server laufen, dann wäre dieser ja auch nicht erreichbar, wenn mal das Proxmox komplett zerschossen ist und man diesen ja genau dann braucht, um mit diesem das Proxmox neu aufsetzen zu können.