PKR-Lab

60030 - ArgoCD, Bootstrap und SealedSecrets — Hintergründe

Quelle: pkr-lab/pkr-lab-docs/capulus/capulus-core/6-hintergruende/60030-argocd-und-bootstrap.md

ArgoCD, Bootstrap und SealedSecrets — Hintergründe

Begründungen zur Rolle argocd, zu den Bootstrap-Dateien (argocd/bootstrap/, argocd/bootstrap-prod/), zur Promotion-Konfiguration
und zum Versiegeln von Secrets. Bedienung: b0010,
b0020, f00b0.
Übersicht dieser Kategorie: 60000.


Generierte Bootstrap-Dateien

ignoreDifferences im ApplicationSet-Template

Jeder Eintrag existiert, weil ohne ihn eine App dauerhaft „OutOfSync“ oder „Progressing“ bliebe oder ein Rechenlauf zurückgesetzt würde:

Ressource Warum ignoriert
SealedSecret /status Der Status wird vom Sealed-Secrets-Controller geschrieben und weicht deshalb von Git ab.
Alle Deployments mit HPA: /spec/replicas Die Charts setzen replicas: null, damit Kubernetes den Wert nur einmal bei der Erstellung defaultet. ServerSideApply behandelt ein explizites null aber als „Feld leeren“ und setzt es bei jedem Sync auf den Schema-Default (1) zurück. Das bekämpft die HPA-Skalierung und lässt die App dauerhaft OutOfSync (gesehen bei zammad-railsserver). Der Eintrag greift nur bei Applications, die eine Ressource genau dieser Art und dieses Namens enthalten, für alle anderen ist er wirkungslos.
StatefulSet zammad-redis: /spec/updateStrategy/rollingUpdate/maxUnavailable Der Chart-Default setzt maxUnavailable: 1, dem Cluster fehlt aber das Feature-Gate MaxUnavailableStatefulSet, der API-Server verwirft das Feld dauerhaft. Der Versuch, es per maxUnavailable: null in den Values zu entfernen, wirkt lokal mit Helm v3, nicht mit dem Helm v4 im argocd-repo-server (bestätigt mit argocd app diff --core --hard-refresh) und führt zum Dauerdiff. Das null in den Values bleibt trotzdem stehen, schadet nicht und dokumentiert die Absicht.
victoria-metrics-operator: Webhook-Secret und caBundle Der Chart erzeugt das selbstsignierte CA/Zertifikat bei jedem Render neu (genCA/genSignedCert). Sein Schutz dagegen (admissionWebhooks.keepTLSSecret) nutzt Helms lookup, das bei helm template (macht der repo-server fürs Diffing) immer leer ist, weil dort kein Live-Cluster-Zugriff besteht. Der Schutz greift bei ArgoCD also nie, und die Daten unterscheiden sich dauerhaft vom Live-Stand. Unbedenklich, denn admissionWebhooks.policy steht bereits auf Ignore (wegen derselben Webhook-Flakiness).
VMRule: leeres record: "" Die Operator-API ergänzt bei reinen Alert-Regeln ein leeres record: "" (Pendant zu alert), das die eigenen VMRule-Templates nie setzen. Das ergäbe ein Dauerdiff auf allen VMRules, deshalb ohne Namensfilter für alle.

Dazu die Sync-Optionen SkipDryRunOnMissingResource und Retry: Beim Bootstrap von CRD und zugehöriger Ressource im selben
Sync (z. B. victoria-metrics-operator installiert die CRD VMSingle und ein VMSingle) konvergiert die erste Reconciliation nur mit dem
übersprungenen Dry-Run plus Wiederholung.

Rolle argocd


PROD im Hub (argocd/bootstrap-prod/)

Migrationen (argocd/bootstrap-prod/migrations/)

Die Jobs werden manuell in PROD angewendet, nicht per ArgoCD (kein Set liest den Ordner). Muster:

ssh [email protected] 'sudo k3s kubectl apply -f -' < argocd/bootstrap-prod/migrations/<app>-…-job.yaml
ssh [email protected] 'sudo k3s kubectl -n <ns> logs -f job/<job>'
ssh [email protected] 'sudo k3s kubectl -n <ns> delete job <job>'

Gemeinsame Regeln: Lesen aus dem TECH-Verzeichnis nur readOnly. Das Zielvolume wird vor dem Kopieren geleert, damit ein wiederholter Lauf
exakt den TECH-Stand ergibt. Die TECH-App wird vorher gestoppt und die PROD-App steht auf 0. Sie nie mit leeren Volumes
starten, das legt eine neue Datenbank, neue Konten und neue Secrets an. Der Job läuft als uid 1000 (gid 10 bei NAS-Daten), weil das NAS
all_squash erzwingt und Besitzer und Rechte danach stimmen müssen.

App Besonderheiten
Immich Zwei Läufe mit demselben Manifest: 1. Vorlauf bei laufendem TECH (Bibliothek ~74 GB, ändert sich kaum, dauert lange, Nutzer merken nichts, die dabei kopierten Postgres-Dateien sind inkonsistent), 2. Endsync mit gestopptem TECH (server, machineLearning, postgresql auf 0), nur noch das Delta, --delete gleicht das Ziel exakt an. Kopiert von Postgres nur pgdata_fixed_pg16, das alte pgdata_fixed (PG 14, Rückfall des Upgrades) bleibt in TECH, der ML-Modell-Cache wird nicht kopiert (lädt neu). Läuft als root, rsync ohne Besitzer-/Gruppenübernahme (--no-o --no-g), der Modus 0700 für PGDATA wird danach gesetzt.
Nextcloud Dateien (data ~11 GB, html ~1 GB). Nur mit gestoppter TECH-App und PROD-App auf 0. Die Datenbank wird separat per pg_dumpall/pg_dump übernommen (sie liegt auf local-path, nicht auf dem NAS). config.php (Modus 640, Besitzer 1000) und data (770, Gruppe 10) bleiben so lesbar.
Paperless-ngx SQLite (db.sqlite3 plus -wal/-shm) muss konsistent sein, also TECH gestoppt. Der Redis-Speicher wird bewusst nicht kopiert (nur Task-Queue).
Wiki.js Nur mit sauber heruntergefahrenem TECH-Postgres und gestopptem PROD-Postgres. Kopiert nur pgdata_fixed_pg18 (PG 18, ~1,8 GB), das alte pgdata_fixed (PG 16, Rückfall) bleibt in TECH. PGDATA verlangt 0700, uid 1000 wie Postgres im Chart.
Xibo MySQL (~1,1 GB), CMS-Bibliothek (~14 MB), CMS-State. TECH-CMS und -MySQL auf 0, damit die MySQL-Dateien konsistent sind. Nur das aktuelle mysql-data-v26 (subPath im Chart), die alten 8.4-Daten (Rückfall) bleiben in TECH. MySQL verlangt Besitzer uid 1000 und unveränderte Modi (tar -p).

Promotion (argocd/promotion.yaml)


SealedSecrets: Fallstricke beim Versiegeln