PKR-Lab

b0070 - Sealed Secrets — verschlüsselte Secrets im Git

Quelle: pkr-lab/pkr-lab-docs/capulus/capulus-core/b-kubernetes-gitops/b0070-sealed-secrets.md

Sealed Secrets — verschlüsselte Secrets im Git

Der Sealed-Secrets-Controller entschlüsselt SealedSecret-Objekte aus Git zu normalen Kubernetes-Secrets. So liegen alle Zugangsdaten verschlüsselt im Repo, und nur der Cluster kann sie lesen. Jeder Cluster hat einen eigenen Schlüssel.

Cluster: TECH, PROD und ENTW (je ein eigener Controller) · Ordner argocd/apps/{tech,prod,entw}/sealed-secrets/ · Namespace sealed-secrets · Deployment sealed-secrets-controller. kubectl-Befehle in diesem Doc gelten für den jeweiligen Cluster (Zugriff je Cluster).


Architektur

flowchart LR
    dev[Entwickler] -->|kubeseal --raw, Zertifikat des Clusters| enc[Verschlüsselter Wert]
    enc --> git[(values.yaml / templates im Git)]
    git -->|ArgoCD Sync| ss[SealedSecret im Cluster]
    ss --> ctrl[sealed-secrets-controller]
    ctrl -->|Schlüssel im Secret sealed-secrets-key…| sec[Kubernetes-Secret]
    sec --> pod[Pod]
Objekt Zweck
Chart sealed-secrets (Subchart sealed-secrets 2.20.0 von bitnami.github.io/sealed-secrets) installiert den Controller, fullnameOverride: sealed-secrets-controller
Secret sealed-secrets-key<suffix> im Namespace sealed-secrets, Label sealedsecrets.bitnami.com/sealed-secrets-key=active privater Schlüssel (und Zertifikat) des Controllers. Alte Schlüssel bleiben erhalten
SealedSecret in einem Chart-Template oder per Helm-Wert verschlüsselte Daten, Entschlüsselung nur für Namespace und Name, für die versiegelt wurde (strikter Scope)

Die Controller-Version steht in values.yaml unter sealed-secrets.image.tag und kann je Cluster abweichen (Stand der Prüfung: TECH und PROD 0.40.0 bzw. 0.39.1, ENTW 0.39.1). Der Controller läuft mit readOnlyRootFilesystem, runAsNonRoot (UID 1001) und ohne Linux-Capabilities, mit Limits 150m CPU und 256 MiB.

Die Rotation des Schlüssels und die Rolle im Secret-Betrieb: Secrets-Rotation. Aufbau von ArgoCD und Bootstrap: 60030.


Secrets versiegeln

Der übliche Weg ist kubeseal --raw mit dem Controller als Ziel (der Controller muss dazu erreichbar sein, der kubectl-Kontext auf den Ziel-Cluster zeigen):

printf '%s' "$WERT" | kubeseal --raw --namespace <ns> --name <secret> \
  --controller-namespace sealed-secrets --controller-name sealed-secrets-controller \
  --from-file=/dev/stdin

Ohne Cluster-Zugriff genügt das Zertifikat:

kubeseal --fetch-cert --controller-name sealed-secrets-controller --controller-namespace sealed-secrets > cert.pem
printf '%s' "$WERT" | kubeseal --raw --cert cert.pem --namespace <ns> --name <secret> --from-file=/dev/stdin

Alternative per Weboberfläche: kubeseal-webgui. Hilfsskripte für wiederkehrende Fälle (seal-*.sh, reseal-for-prod.sh): f00c0. Jeden neuen Wert trägt man zusätzlich im Token-Register ein (Prüfung in der CI, siehe f0070).

Wichtig:


Schlüssel sichern und wiederherstellen

Der Controller erzeugt standardmäßig alle 30 Tage einen neuen aktiven Schlüssel. Alte Schlüssel bleiben im Namespace, weil bereits versiegelte Secrets sie brauchen. Geht der Namespace (oder der Cluster) verloren, sind alle SealedSecrets des Clusters nicht mehr entschlüsselbar. Deshalb gehört eine Sicherung der Schlüssel an einen Ort außerhalb des Clusters (d0060, Vorfall mit Wiederherstellung: 50010).

kubectl -n sealed-secrets get secret -l sealedsecrets.bitnami.com/sealed-secrets-key -o yaml > sealed-secrets-keys.yaml   # sicher ablegen, enthält private Schlüssel

Wiederherstellung auf einem neuen Cluster: Secrets aus der Sicherung anwenden, bevor der Controller startet, oder Controller neu starten (kubectl -n sealed-secrets rollout restart deployment/sealed-secrets-controller).


Konfiguration

Schlüssel (values.yaml, unter sealed-secrets:) Wert Bedeutung
fullnameOverride sealed-secrets-controller Name, den kubeseal und die Skripte erwarten
image.tag siehe oben Controller-Version (von Renovate gepflegt)
resources 150m/256Mi Limit, 50m/128Mi Request Ressourcen
rbac.clusterRole true Controller darf Secrets in allen Namespaces anlegen
containerSecurityContext read-only, nicht root, ohne Capabilities Härtung

Fehlersuche

kubectl -n sealed-secrets get pods
kubectl -n sealed-secrets logs deploy/sealed-secrets-controller --tail=100
kubectl get sealedsecret -A
kubectl -n <ns> describe sealedsecret <name>
Symptom Ursache Lösung
Secret fehlt, Pod CreateContainerConfigError SealedSecret konnte nicht entschlüsselt werden kubectl -n <ns> describe sealedsecret <name>, Events lesen, Controller-Log prüfen
Event no key could decrypt secret (<feld>) falscher Cluster (zum Beispiel TECH-Wert in PROD), anderer Name oder Namespace mit dem Zertifikat des Ziel-Clusters und mit exakt dem Secret-Namen und -Namespace neu versiegeln (reseal-for-prod.sh für PROD)
Event Failed to unseal: … / decryption error Schlüssel nicht mehr im Cluster (Neuaufbau) Schlüssel aus der Sicherung wiederherstellen, sonst neu versiegeln
kubeseal meldet cannot fetch certificate falscher Kontext, Controller nicht erreichbar oder falsche Namen --controller-name sealed-secrets-controller --controller-namespace sealed-secrets setzen, kubectl config current-context prüfen
kubeseal-Version passt nicht zum Controller zu alte oder zu neue CLI CLI auf die Controller-Version bringen
SealedSecret wird nach dem Sync nicht zum Secret ArgoCD zeigt OutOfSync oder Degraded, Namespace nicht im AppProject AppProjects, ArgoCD
Secret existiert schon ohne SealedSecret als Besitzer Controller überschreibt fremde Secrets nicht altes Secret löschen oder Annotation sealedsecrets.bitnami.com/managed: "true" setzen
CI meldet SealedSecret ohne Register-Eintrag neues Secret nicht im Token-Register Eintrag ergänzen (f00c0)
Controller-Pod startet nicht Ressourcen, Image-Pull kubectl -n sealed-secrets describe pod

Allgemeine Fehlersuche: zentrale Fehlersuche.