CODLAB / Blog · KI & Integration

Befehlssperre, Fail-Closed-Grants und zustimmungsgebundene BYOK-KI-Diagnose in CardinalHost

15 Nov 2026 CODLAB Team 11 min

Stand November 2026: CardinalHost (aktuell vor dem Marktstart unter cardinalhost.org beschrieben) trennt KI-gestützte Systemdiagnose strikt von der Befehlsausführung. Deterministischer Code stuft Befehlsrisiken und KI-Werkzeugaufrufe vorab ein, erzwingt Datenvorschau sowie explizite Zustimmung vor Dateilese- und Befehlsaufrufen (mit 16-KiB-Quellgrenze in leggi_file) und prüft signierte Autorisierungs-Envelopes sowie Eingabe-Grants durch gezielte Mutationstests.

Warum ein Sprachmodell niemals Sicherheitsgrenze einer Systemverwaltung sein darf

Sobald ein Diagnose-Assistent Systemprotokolle, Prozesslisten oder Konfigurationsdateien eines entfernten Rechners auswertet, verarbeitet er potenziell feindliche Eingaben. Eine manipulierte Zeile in einem Webserver-Log, ein präparierter Containername oder eine ungewöhnliche Umgebungsvariable reichen aus, um über indirekte Prompt-Injection das Verhalten eines Sprachmodells zu beeinflussen. Würde ein solches Modell unmittelbar Shell-Befehle absetzen oder beliebige Dateien nachladen dürfen, entstünden zwei gravierende Risiken: unbemerkte Datenabflüsse (etwa privater Schlüssel) und destruktive oder persistente Systemänderungen.

Probabilistische Leitplanken — also System-Prompts mit der Bitte, das Modell möge „vorsichtig handeln“ — lösen dieses Problem prinzipiell nicht. Eine Sicherheitsgrenze existiert in der Systemtechnik nur dort, wo deterministischer, testbarer Code außerhalb des Modells entscheidet, was technisch ausführbar ist und was verworfen wird. Genau nach diesem Prinzip entwickeln wir CardinalHost im Forschungs- und Systemtechnikbereich unserer Projekte weiter — ergänzend zur im ersten Beitrag beschriebenen Wayland- und Transportarchitektur von CardinalHost.

Die Befehlssperre: Risikoklassifikator, KI-Werkzeug-Gate und Envelope-Prüfer mit 18 Ablehnungsgründen

Auf der Client-Seite trennt CardinalHost in Swift drei unterschiedliche Mechanismen: die konservative Risikoklassifikation eines Shell-Befehls (ClassificatoreRischioComando), das darauf aufbauende KI-Werkzeug-Gate (StrumentiAIAgente und GateAIAgente) sowie die kryptografische Prüfung signierter Autorisierungs-Envelopes (VerificatoreEnvelope).

Zunächst bewertet ClassificatoreRischioComando jede Befehlszeichenkette deterministisch und konservativ (Best-Effort, „das höchste Risiko gewinnt“) in drei Risikostufen: lettura gilt ausschließlich für explizit gelistete Leseabfragen am Befehlsanfang ohne Shell-Metazeichen, Umleitungen oder Steuerzeichen; zustandsändernde Befehle sowie jeder unbekannte Befehl fallen konservativ auf modifica zurück (niemals auf lettura); irreversible Muster — etwa rm -rf, dd of=, mkfs, shutdown/reboot, Schreibzugriffe auf Systempräfixe wie /etc, /dev, /boot, /usr oder /root, direkte Shell-/eval-Aufrufe sowie Inline-Code-Flags (-c, -e, -r) — werden als distruttivo eingestuft. Darauf setzt StrumentiAIAgente bei hinterlegtem Benutzerschlüssel (ohne Schlüssel bleibt das Gate spento) drei operative Entscheidungen um:

  • Automatische Ausführung (automatico): Ausschließlich drei eng begrenzte Metadaten-Werkzeuge (leggi_salute, elenca_cartella, indice_cartella). Selbst als lettura erkannte Shell-Befehle über esegui_comando erhalten kein automatico, damit Dateiinhalte nicht unbeaufsichtigt über cat oder grep an einen Cloud-Anbieter abfließen.
  • Explizite menschliche Zustimmung (chiediConsenso): Dateiinhalts-Lesezugriffe (leggi_file) sowie esegui_comando-Aufrufe der Stufen lettura und modifica — ausdrücklich einschließlich unbekannter Shell-Befehle, die als modifica eingestuft werden und auf aktive Bestätigung durch die verantwortliche Person warten.
  • Harte Ablehnung (rifiuta): Jedes unbekannte KI-Werkzeug außerhalb des Werkzeugregisters sowie jeder als distruttivo klassifizierte Befehl. Für das KI-Gate ist rifiuta endgültig; ein geschlossener Befehlskatalog, der jeden nicht gelisteten Binäraufruf verwirft, gehört hingegen zum separaten knotenseitigen Fundament-Baustein PonteAI.

Davon getrennt prüft VerificatoreEnvelope signierte Capability-Tokens (EnvelopeFirmato) unmittelbar vor der Wirkung am Zielpunkt (Sink) nach dem Fail-Closed-Prinzip und unterscheidet genau 18 typisierte Ablehnungsgründe (MotivoNegazioneEnvelope): ungültiges Token-Format (malformato), unbekannter Aussteller (emittenteSconosciuto), ungültige Signatur (firmaNonValida), fehlerhafte Felder (campoNonValido), widerrufene Epoche (revocato), abweichender tenant, host oder sessione (tenantErrato, hostErrato, sessioneErrata), abweichendes Aktionsverb oder Argument-Hash (azioneErrata, argomentiDiversi), unbefugtes Subjekt (soggettoNonAutorizzato), fehlerhafte oder für das reale Risiko unzureichende Policy (policyMalformata, policyInsufficiente), überschrittenes TTL, noch nicht gültiges oder abgelaufenes Zeitfenster (ttlEccessivo, nonAncoraValido, scaduto) sowie Nonce-Replay oder volles Nonce-Register (replay, registroNoncePieno).

Komponente Heutiger Umsetzungsstand (November 2026) Offen ausgewiesene Grenze / nächster Ausbauschritt
Risikoklassifikator & KI-Werkzeug-Gate im Client Risikostufen (lettura / modifica / distruttivo; unbekannte Befehle → modifica) und KI-Gate (automatico nur Metadaten, chiediConsenso inkl. unbekannter Befehle, rifiuta bei unbekanntem Werkzeug oder distruttivo) getestet Best-Effort-Klassifikation für das KI- und Befehls-Gate; kein geschlossener Befehlskatalog im Client, und das interaktive SSH-Terminal bleibt ein getrennter Administrationspfad
Envelope-Prüfer & Eingabe-Grants VerificatoreEnvelope mit 18 typisierten Ablehnungsgründen; Fail-Closed-Eingabe-Grants mit Ablaufzeit und sofortigem Widerruf Kryptografisch signierte, offline durch Dritte über die gesamte Produktkette prüfbare Wirkungsquittungen befinden sich im Aufbau
Knotenseitige Durchsetzung (PonteAI) Erster Fundament-Baustein ohne Shell mit geschlossenem Katalog (uname -sr, uptime) und Mutationstests im Labor verifiziert Anbindung an den entfernten Dispatcher, die Zustimmungs-UI und alle Produktpfade auf dem Zielknoten im Aufbau

Diese explizite Abgrenzung ist uns ebenso wichtig wie der Code selbst: Wir behaupten nicht, dass ein Administrator im offenen SSH-Terminal eingeschränkt würde, und wir kennzeichnen klar, welche Teile der Sperre heute im Client greifen und wo die unabhängige Gegenprüfung auf dem Zielknoten schrittweise ausgebaut wird.

Fail-Closed-Grants und warum grüne Unit-Tests allein nicht genügen

Für Eingaberechte in Fernwartungssitzungen wie auch für freigegebene Einzelaktionen verwendet CardinalHost zeitlich begrenzte Berechtigungsobjekte (Grants). Jeder Grant besitzt einen definierten Geltungsbereich, einen Ablaufzeitpunkt (Expiry) und die Möglichkeit zum sofortigen Widerruf (Revocation). Fehlt ein Feld, ist die Uhr abgelaufen oder wurde der Grant widerrufen, greift ausnahmslos das Fail-Closed-Prinzip: Im Zweifel wird blockiert.

In sicherheitskritischem Code besteht jedoch eine bekannte Gefahr: Eine Testsuite kann eine hohe Zeilenabdeckung melden und trotzdem blind gegenüber subtilen Logikfehlern sein — etwa wenn ein < versehentlich zu <= wird oder eine Ablaufprüfung bei leerem Zeitstempel übersprungen wird. Deshalb überprüfen wir die Grant- und Autorisierungslogik mit Mutationstests (Sabotage-Tests): Ein Prüfskript verändert gezielt einzelne Bedingungen im Produktionscode (Mutanten) und verlangt, dass die Testsuite jeden einzelnen manipulierten Zustand zuverlässig erkennt und rot schlägt. Überlebt ein Mutant, gilt nicht der Code als „gut genug“, sondern die Testsuite als unvollständig.

Erkenntnisse aus dem internen Adversarial Review der BYOK-KI-Diagnose und der Schreibwächter

Für die optionale KI-gestützte Fehleranalyse folgt CardinalHost strikt dem Modell Bring Your Own Key (BYOK): Anwender hinterlegen bei Bedarf ihren eigenen API-Schlüssel im nativen Schlüsselbund des Betriebssystems (macOS Keychain beziehungsweise GNOME Keyring unter Linux). CodLab erhebt keinen Aufschlag (0 € Marge auf Modellaufrufe) und betreibt keinen zentralen KI-Proxy, über den Sitzungsdaten laufen. Für die Zustandsdiagnose (DiagnosiAI) verlangt CardinalHost vor der Übermittlung ein explizites Diagnose-Opt-in sowie eine verbindliche Datenvorschau (anteprimaLeggibile) der tatsächlich serialisierten Statusfelder.

Während unseres internen Adversarial Reviews im August 2026 prüften wir sowohl das KI-Werkzeug-Gate (GateAIAgente und DiagnosiAI) als auch die getrennte Datei-Schreiboberfläche des Agenten und zogen klare technische Grenzen:

  1. Einzelzustimmung, 16-KiB-Quellgrenze in leggi_file und Ausgabekürzung nach dem Lesen: Damit ein Modell über indirekte Prompt-Injection keine vertraulichen Dateien unbeaufsichtigt im Hintergrund nachladen kann, sind sowohl leggi_file als auch lesende Befehle über esegui_comando aus dem automatischen Pfad ausgeschlossen und erfordern bei hinterlegtem Benutzerschlüssel für jeden Aufruf eine explizite Einzelzustimmung (chiediConsenso). Nur leggi_file übergibt nach der Bestätigung den Pfad einfach quotiert mit Optionssperre (--) an head -c 16384, sodass bereits an der Quelle maximal 16 KiB gelesen werden, während ein freigegebener esegui_comando-Aufruf den bestätigten Befehl ohne diese Quellgrenze ausführt; überschreitet die empfangene Werkzeugausgabe (bei elenca_cartella, leggi_file oder esegui_comando) 8.192 Zeichen, behält limita die ersten 8.192 Zeichen bei und hängt die 11 Zeichen lange Kennzeichnung …[troncato] an (insgesamt 8.203 Zeichen bei reinem ASCII-Text; da limita Swift-Zeichen und nicht Bytes zählt, kann UTF-8-Text mit Mehrbyte-Zeichen aus leggi_file dennoch die vollen 16 KiB der Quelle erreichen). Eine automatische Pfad-Sperrliste für Lesezugriffe enthält leggi_file bewusst nicht: Entscheidend ist die menschliche Einzelprüfung des angeforderten Pfads beziehungsweise Befehls.
  2. Zeilenbereinigung in der Diagnosevorschau: Damit manipulierte Systemwerte (etwa ein Zeilenumbruch in einem Dienstnamen oder Betriebssystemfeld) in der verbindlichen Datenvorschau keine gefälschten Zusatzzeilen vortäuschen, bereinigt senzaACapo Zeilenumbrüche und Steuerzeichen gezielt in den angezeigten Feldwerten von anteprimaLeggibile — als Schutz der Vorschau-Treue, nicht als allgemeiner Prompt-Filter über beliebige Dateiinhalte.
  3. Getrennte Anti-Persistenz-Sperren mit realpath für Agenten-Schreibzugriffe: Unabhängig vom KI-Lesepfad sichert ein kanonischer Wächter (_percorso_avvio_vietato) die Datei-Schreib- und Umbenennungsoperationen des Agenten (file-carica, file-rinomina, file-crea-cartella). Er löst symbolische Verknüpfungen über realpath auf und weist Schreibzugriffe in Persistenzorte wie ~/.ssh, Login-Shell-Startdateien (.bashrc, .zshrc, .profile, .bash_aliases, .pam_environment, .netrc), systemd --user und Benutzer-Autostart-Verzeichnisse deterministisch ab.

Dieselbe Trennung zwischen vertrauenswürdigem Systemkontext und nicht vertrauenswürdigen Quelldaten wenden wir in unseren Unternehmensprojekten an — ausführlich dokumentiert in unserer Engineering Note über Quellgrenzen und Schutz vor indirekter Prompt-Injection in RAG-Systemen sowie auf unserer Leistungsseite für KI-Systemtechnik und sichere Integration.

Der erste PonteAI-Baustein auf dem Zielknoten: Ausführung ohne Shell

Damit sich Sicherheitsgarantien langfristig nicht allein auf das korrekte Verhalten des Clients stützen müssen, entsteht im Infrastruktur-Zweig von Cardinal der knotenseitige Ausführungsbaustein PonteAI. Der im September 2026 fertiggestellte und verifizierte erste Fundament-Baustein demonstriert, wie eng eine lokale Ausführungsbrücke gefasst werden kann:

  • Striktes 16-KiB-Anfragelimit und JSON-Schema: Übergroße oder strukturell abweichende Pakete werden vor jeder Weiterverarbeitung verworfen.
  • Reine argv[]-Ausführung ohne Shell: Der Baustein startet Prozesse direkt über Argumentvektoren — niemals über /bin/sh -c. Klassische Shell-Metazeichen, Verkettungen oder Subshells laufen damit ins Leere.
  • Geschlossener Befehlskatalog im Erstbaustein: Im verifizierten Fundament sind ausschließlich explizit hinterlegte Diagnoseabfragen (wie uname -sr und uptime) zulässig; jeder nicht gelistete Eintrag wird abgewiesen.
  • SHA-256-Aktions-Fingerprint, 60-Sekunden-Ablauf und Einmalverbrauch: Jede Freigabe ist über einen SHA-256-Fingerprint exakt an Aktion und Parameter gebunden, verfällt nach 60 Sekunden und wird atomar nur ein einziges Mal eingelöst (Single-Shot-Consumption gegen Replay-Versuche).
  • Prozessisolation und gehärtetes lokales Audit-Log: Die Ausführung verlangt einen nicht-privilegierten Benutzer (UID != 0), schließt stdin, erzwingt ein hartes Zeitlimit von 5 Sekunden und schreibt jeden Vorgang mit Dateirechten 0600, Symlink-Schutz (O_NOFOLLOW) und explizitem fsync in ein lokales JSONL-Protokoll.

Im historischen Prüfprotokoll vom 14. September 2026 (macOS-Prüfstand mit realem Klassifikator und realer AutoritaPermessi, Mock-Modell/-Kanal sowie lokalem uname -sr-Lauf) bestand dieser Fundament-Baustein 41 von 41 Verhaltenstests sowie 6 von 6 erkannten Sabotage-Mutanten. Ebenso offen dokumentieren wir die Grenzen dieser ersten Scheibe: Das entfernte SSH-/CLI-Verb --esegui-proposta, der Kanal-Dispatcher, das reale Zustimmungsfenster, die Linux-Paketierung und ein produktiver KI-Provider-Adapter sind in diesem Baustein noch nicht angebunden, und das lokale JSONL-Audit-Log ist zwar dateisystemseitig gehärtet, aber noch nicht kryptografisch signiert.

Welche sechs Sabotage-Mutanten prove-sabotaggi.py konkret prüft

Während Grenzwerte wie das 60-Sekunden-Ablaufenster, die SHA-256-Bindung, der Einmalverbrauch, UID != 0 und die Dateirechte 0600 in den 41 regulären Verhaltenstests geprüft werden, verifiziert prove-sabotaggi.py in isolierten temporären Kopien von PonteAI.swift gezielt sechs konkrete Code-Sabotagen, von denen jede einzelne mit der erwarteten Verhaltensassertion scheitern muss (nicht bloß mit einem Compilerfehler):

  • automatico-diventa-clic (Sitzungsautomatik statt Einzelklick): Schwächt die Prüfung origine == .clic ab, sodass eine automatische Sitzungsfreigabe fälschlich als aktiver Klick pro Aktion durchgeht.
  • consenso-ampio (zu weit gefasste Berechtigung): Ersetzt den exakten Abgleich poteri == [a.potere] durch true, sodass ein pauschal ausgestelltes Recht anstelle der aktionsgebundenen Befugnis akzeptiert würde.
  • classificazione-saltata (übersprungener Risikoklassifikator): Setzt das Ergebnis von ClassificatoreRischioComando.rischio hart auf .lettura, um zu prüfen, ob destruktive oder verschleierte Aufrufe trotz Umgehung abgefangen werden.
  • catalogo-aperto (geöffneter Befehlskatalog): Deaktiviert die Katalogschranke CatalogoPonteAI.eseguibile(proposta.argv) != nil, sodass nicht gelistete Programme, Skripte oder Root-Aufrufe trotz niedriger Risikostufe passieren könnten.
  • registro-inizio-saltato (ausgelassener Audit-Vorab-Eintrag): Entfernt den verpflichtenden Log-Eintrag annota(.inizio, ...) vor Prozessstart, um sicherzustellen, dass ein defektes Audit-Protokoll das Gate Fail-Closed sperrt.
  • consenso-assente-esegue (Ausführung trotz fehlender Zustimmung): Führt im Fehlerzweig .consensoNonValido dennoch den Prozess aus — die Gegenprobe, dass selbst Leseabfragen ohne gültigen Konsens niemals anlaufen.

Weitere denkbare Mutanten — etwa direkt auf der 60-Sekunden-Uhr oder den Dateimodi — sind sinnvolle Ausbaustufen für künftige Runden, werden aber bewusst nicht als bereits im Sechser-Katalog enthaltene Sabotagen ausgegeben. Für die dokumentierten Autorisierungs- und PonteAI-Bausteine ergänzen sich damit funktionale Randwerttests und gezielte Gegenproben.

„Die Stimme“: Gesprochene System- und Risikohinweise lokal auf dem Gerät

Nicht jede Assistenzfunktion benötigt ein großes Sprachmodell oder eine Internetverbindung. Wenn ein Administrator mehrere Konsolen im Blick behält oder während einer Wartungssitzung vor einem kritischen Zustand gewarnt werden soll, unterstützt CardinalHost eine gesprochene Status- und Risikoausgabe („Die Stimme“) in der eingestellten Sprache der Anwendung. Entscheidend ist die technische Umsetzung: Die Sprachsynthese arbeitet vollständig lokal auf dem Endgerät. Es wird kein KI-API-Schlüssel benötigt, und kein einziges Wort aus Systemmeldungen oder Warnhinweisen verlässt den eigenen Rechner in Richtung externer Cloud-Sprachdienste.

Häufig gestellte Fragen (FAQ)

Kann die KI-Diagnose in CardinalHost selbstständig Shell-Befehle auf meinen Servern ausführen?

Nein. Sprachmodelle haben in CardinalHost keinen direkten Zugriff auf eine Shell. Im KI-Werkzeug-Gate laufen ausschließlich drei Metadaten-Werkzeuge automatisch; Dateilesezugriffe sowie lesende, ändernde oder unbekannte Shell-Befehle (konservativ als modifica eingestuft) erfordern explizite Zustimmung, während unbekannte KI-Werkzeuge und als destruktiv eingestufte Befehle abgewiesen werden. Zusätzlich prüft VerificatoreEnvelope signierte Freigaben mit 18 typisierten Ablehnungsgründen.

Laufen meine Diagnosedaten über Server von CodLab, wenn ich die KI-Diagnose nutze?

Nein. CardinalHost nutzt das Modell Bring Your Own Key (BYOK): Ihr eigener API-Schlüssel bleibt im Schlüsselbund Ihres Betriebssystems, es fällt kein Aufschlag durch CodLab an, und vor jeder Übermittlung an den gewählten KI-Anbieter sehen Sie eine verbindliche Vorschau der zu sendenden Daten.

Wie verhindert CardinalHost das unbemerkte Auslesen vertraulicher Dateien über Prompt-Injection?

Im KI-Werkzeug-Gate laufen weder leggi_file noch lesende Shell-Befehle über esegui_comando automatisch: Beide Pfade erfordern für jeden einzelnen Aufruf eine explizite menschliche Zustimmung (chiediConsenso). Nur leggi_file übergibt den Pfad einfach quotiert mit -- an head -c 16384, sodass bereits an der Quelle maximal 16 KiB gelesen werden, während ein freigegebener esegui_comando-Aufruf den bestätigten Befehl ohne diese Quellgrenze ausführt; überschreitet die empfangene Werkzeugausgabe (bei elenca_cartella, leggi_file oder esegui_comando) 8.192 Zeichen, behält limita die ersten 8.192 Zeichen bei und hängt die 11 Zeichen lange Kennzeichnung …[troncato] an (insgesamt 8.203 Zeichen bei reinem ASCII-Text; da limita Swift-Zeichen und nicht Bytes zählt, kann UTF-8-Text mit Mehrbyte-Zeichen aus leggi_file dennoch die vollen 16 KiB der Quelle erreichen). Eine Pfad-Sperrliste für Lesezugriffe erzwingt leggi_file nicht; die kanonischen realpath-Sperren für ~/.ssh, Shell-Startdateien und Autostart gelten separat für Schreib-, Umbenennungs- und Ordneroperationen des Agenten.

Benötigt die lokale Sprachausgabe („Die Stimme“) einen KI-Schlüssel oder Cloud-Zugang?

Nein. Die gesprochene Ausgabe von Systemzuständen und Risikohinweisen arbeitet vollständig lokal auf dem Gerät in der gewählten Anwendungssprache, ohne KI-API-Schlüssel und ohne Textübertragung in externe Clouds.

Teilen Sie diesen Artikel

Kunden

Noch keine Kommentare. Schreiben Sie den ersten!

Einen Kommentar hinterlassen

Wird nicht veröffentlicht

Verwandte Artikel

Projekt im Kopf?

Wir entwickeln maßgeschneiderte Software und KI-Lösungen. Lassen Sie uns gemeinsam Ihr nächstes Projekt starten.

Kostenloses Erstgespräch