Stand November 2026: CardinalHost (aktuell vor dem Marktstart unter cardinalhost.org beschrieben) trennt KI-gestützte Systemdiagnose strikt von der Befehlsausführung. Deterministischer Code stuft Befehlsrisiken und KI-Werkzeugaufrufe vorab ein, erzwingt Datenvorschau sowie explizite Zustimmung vor Dateilese- und Befehlsaufrufen (mit 16-KiB-Quellgrenze in leggi_file) und prüft signierte Autorisierungs-Envelopes sowie Eingabe-Grants durch gezielte Mutationstests.
Warum ein Sprachmodell niemals Sicherheitsgrenze einer Systemverwaltung sein darf
Sobald ein Diagnose-Assistent Systemprotokolle, Prozesslisten oder Konfigurationsdateien eines entfernten Rechners auswertet, verarbeitet er potenziell feindliche Eingaben. Eine manipulierte Zeile in einem Webserver-Log, ein präparierter Containername oder eine ungewöhnliche Umgebungsvariable reichen aus, um über indirekte Prompt-Injection das Verhalten eines Sprachmodells zu beeinflussen. Würde ein solches Modell unmittelbar Shell-Befehle absetzen oder beliebige Dateien nachladen dürfen, entstünden zwei gravierende Risiken: unbemerkte Datenabflüsse (etwa privater Schlüssel) und destruktive oder persistente Systemänderungen.
Probabilistische Leitplanken — also System-Prompts mit der Bitte, das Modell möge „vorsichtig handeln“ — lösen dieses Problem prinzipiell nicht. Eine Sicherheitsgrenze existiert in der Systemtechnik nur dort, wo deterministischer, testbarer Code außerhalb des Modells entscheidet, was technisch ausführbar ist und was verworfen wird. Genau nach diesem Prinzip entwickeln wir CardinalHost im Forschungs- und Systemtechnikbereich unserer Projekte weiter — ergänzend zur im ersten Beitrag beschriebenen Wayland- und Transportarchitektur von CardinalHost.
Die Befehlssperre: Risikoklassifikator, KI-Werkzeug-Gate und Envelope-Prüfer mit 18 Ablehnungsgründen
Auf der Client-Seite trennt CardinalHost in Swift drei unterschiedliche Mechanismen: die konservative Risikoklassifikation eines Shell-Befehls (ClassificatoreRischioComando), das darauf aufbauende KI-Werkzeug-Gate (StrumentiAIAgente und GateAIAgente) sowie die kryptografische Prüfung signierter Autorisierungs-Envelopes (VerificatoreEnvelope).
Zunächst bewertet ClassificatoreRischioComando jede Befehlszeichenkette deterministisch und konservativ (Best-Effort, „das höchste Risiko gewinnt“) in drei Risikostufen: lettura gilt ausschließlich für explizit gelistete Leseabfragen am Befehlsanfang ohne Shell-Metazeichen, Umleitungen oder Steuerzeichen; zustandsändernde Befehle sowie jeder unbekannte Befehl fallen konservativ auf modifica zurück (niemals auf lettura); irreversible Muster — etwa rm -rf, dd of=, mkfs, shutdown/reboot, Schreibzugriffe auf Systempräfixe wie /etc, /dev, /boot, /usr oder /root, direkte Shell-/eval-Aufrufe sowie Inline-Code-Flags (-c, -e, -r) — werden als distruttivo eingestuft. Darauf setzt StrumentiAIAgente bei hinterlegtem Benutzerschlüssel (ohne Schlüssel bleibt das Gate spento) drei operative Entscheidungen um:
- Automatische Ausführung (
automatico): Ausschließlich drei eng begrenzte Metadaten-Werkzeuge (leggi_salute,elenca_cartella,indice_cartella). Selbst alsletturaerkannte Shell-Befehle überesegui_comandoerhalten keinautomatico, damit Dateiinhalte nicht unbeaufsichtigt übercatodergrepan einen Cloud-Anbieter abfließen. - Explizite menschliche Zustimmung (
chiediConsenso): Dateiinhalts-Lesezugriffe (leggi_file) sowieesegui_comando-Aufrufe der Stufenletturaundmodifica— ausdrücklich einschließlich unbekannter Shell-Befehle, die alsmodificaeingestuft werden und auf aktive Bestätigung durch die verantwortliche Person warten. - Harte Ablehnung (
rifiuta): Jedes unbekannte KI-Werkzeug außerhalb des Werkzeugregisters sowie jeder alsdistruttivoklassifizierte Befehl. Für das KI-Gate istrifiutaendgültig; ein geschlossener Befehlskatalog, der jeden nicht gelisteten Binäraufruf verwirft, gehört hingegen zum separaten knotenseitigen Fundament-Baustein PonteAI.
Davon getrennt prüft VerificatoreEnvelope signierte Capability-Tokens (EnvelopeFirmato) unmittelbar vor der Wirkung am Zielpunkt (Sink) nach dem Fail-Closed-Prinzip und unterscheidet genau 18 typisierte Ablehnungsgründe (MotivoNegazioneEnvelope): ungültiges Token-Format (malformato), unbekannter Aussteller (emittenteSconosciuto), ungültige Signatur (firmaNonValida), fehlerhafte Felder (campoNonValido), widerrufene Epoche (revocato), abweichender tenant, host oder sessione (tenantErrato, hostErrato, sessioneErrata), abweichendes Aktionsverb oder Argument-Hash (azioneErrata, argomentiDiversi), unbefugtes Subjekt (soggettoNonAutorizzato), fehlerhafte oder für das reale Risiko unzureichende Policy (policyMalformata, policyInsufficiente), überschrittenes TTL, noch nicht gültiges oder abgelaufenes Zeitfenster (ttlEccessivo, nonAncoraValido, scaduto) sowie Nonce-Replay oder volles Nonce-Register (replay, registroNoncePieno).
| Komponente | Heutiger Umsetzungsstand (November 2026) | Offen ausgewiesene Grenze / nächster Ausbauschritt |
|---|---|---|
| Risikoklassifikator & KI-Werkzeug-Gate im Client | Risikostufen (lettura / modifica / distruttivo; unbekannte Befehle → modifica) und KI-Gate (automatico nur Metadaten, chiediConsenso inkl. unbekannter Befehle, rifiuta bei unbekanntem Werkzeug oder distruttivo) getestet |
Best-Effort-Klassifikation für das KI- und Befehls-Gate; kein geschlossener Befehlskatalog im Client, und das interaktive SSH-Terminal bleibt ein getrennter Administrationspfad |
| Envelope-Prüfer & Eingabe-Grants | VerificatoreEnvelope mit 18 typisierten Ablehnungsgründen; Fail-Closed-Eingabe-Grants mit Ablaufzeit und sofortigem Widerruf |
Kryptografisch signierte, offline durch Dritte über die gesamte Produktkette prüfbare Wirkungsquittungen befinden sich im Aufbau |
| Knotenseitige Durchsetzung (PonteAI) | Erster Fundament-Baustein ohne Shell mit geschlossenem Katalog (uname -sr, uptime) und Mutationstests im Labor verifiziert |
Anbindung an den entfernten Dispatcher, die Zustimmungs-UI und alle Produktpfade auf dem Zielknoten im Aufbau |
Diese explizite Abgrenzung ist uns ebenso wichtig wie der Code selbst: Wir behaupten nicht, dass ein Administrator im offenen SSH-Terminal eingeschränkt würde, und wir kennzeichnen klar, welche Teile der Sperre heute im Client greifen und wo die unabhängige Gegenprüfung auf dem Zielknoten schrittweise ausgebaut wird.
Fail-Closed-Grants und warum grüne Unit-Tests allein nicht genügen
Für Eingaberechte in Fernwartungssitzungen wie auch für freigegebene Einzelaktionen verwendet CardinalHost zeitlich begrenzte Berechtigungsobjekte (Grants). Jeder Grant besitzt einen definierten Geltungsbereich, einen Ablaufzeitpunkt (Expiry) und die Möglichkeit zum sofortigen Widerruf (Revocation). Fehlt ein Feld, ist die Uhr abgelaufen oder wurde der Grant widerrufen, greift ausnahmslos das Fail-Closed-Prinzip: Im Zweifel wird blockiert.
In sicherheitskritischem Code besteht jedoch eine bekannte Gefahr: Eine Testsuite kann eine hohe Zeilenabdeckung melden und trotzdem blind gegenüber subtilen Logikfehlern sein — etwa wenn ein < versehentlich zu <= wird oder eine Ablaufprüfung bei leerem Zeitstempel übersprungen wird. Deshalb überprüfen wir die Grant- und Autorisierungslogik mit Mutationstests (Sabotage-Tests): Ein Prüfskript verändert gezielt einzelne Bedingungen im Produktionscode (Mutanten) und verlangt, dass die Testsuite jeden einzelnen manipulierten Zustand zuverlässig erkennt und rot schlägt. Überlebt ein Mutant, gilt nicht der Code als „gut genug“, sondern die Testsuite als unvollständig.
Erkenntnisse aus dem internen Adversarial Review der BYOK-KI-Diagnose und der Schreibwächter
Für die optionale KI-gestützte Fehleranalyse folgt CardinalHost strikt dem Modell Bring Your Own Key (BYOK): Anwender hinterlegen bei Bedarf ihren eigenen API-Schlüssel im nativen Schlüsselbund des Betriebssystems (macOS Keychain beziehungsweise GNOME Keyring unter Linux). CodLab erhebt keinen Aufschlag (0 € Marge auf Modellaufrufe) und betreibt keinen zentralen KI-Proxy, über den Sitzungsdaten laufen. Für die Zustandsdiagnose (DiagnosiAI) verlangt CardinalHost vor der Übermittlung ein explizites Diagnose-Opt-in sowie eine verbindliche Datenvorschau (anteprimaLeggibile) der tatsächlich serialisierten Statusfelder.
Während unseres internen Adversarial Reviews im August 2026 prüften wir sowohl das KI-Werkzeug-Gate (GateAIAgente und DiagnosiAI) als auch die getrennte Datei-Schreiboberfläche des Agenten und zogen klare technische Grenzen:
- Einzelzustimmung, 16-KiB-Quellgrenze in
leggi_fileund Ausgabekürzung nach dem Lesen: Damit ein Modell über indirekte Prompt-Injection keine vertraulichen Dateien unbeaufsichtigt im Hintergrund nachladen kann, sind sowohlleggi_fileals auch lesende Befehle überesegui_comandoaus dem automatischen Pfad ausgeschlossen und erfordern bei hinterlegtem Benutzerschlüssel für jeden Aufruf eine explizite Einzelzustimmung (chiediConsenso). Nurleggi_fileübergibt nach der Bestätigung den Pfad einfach quotiert mit Optionssperre (--) anhead -c 16384, sodass bereits an der Quelle maximal 16 KiB gelesen werden, während ein freigegebeneresegui_comando-Aufruf den bestätigten Befehl ohne diese Quellgrenze ausführt; überschreitet die empfangene Werkzeugausgabe (beielenca_cartella,leggi_fileoderesegui_comando) 8.192 Zeichen, behältlimitadie ersten 8.192 Zeichen bei und hängt die 11 Zeichen lange Kennzeichnung…[troncato]an (insgesamt 8.203 Zeichen bei reinem ASCII-Text; dalimitaSwift-Zeichen und nicht Bytes zählt, kann UTF-8-Text mit Mehrbyte-Zeichen ausleggi_filedennoch die vollen 16 KiB der Quelle erreichen). Eine automatische Pfad-Sperrliste für Lesezugriffe enthältleggi_filebewusst nicht: Entscheidend ist die menschliche Einzelprüfung des angeforderten Pfads beziehungsweise Befehls. - Zeilenbereinigung in der Diagnosevorschau: Damit manipulierte Systemwerte (etwa ein Zeilenumbruch in einem Dienstnamen oder Betriebssystemfeld) in der verbindlichen Datenvorschau keine gefälschten Zusatzzeilen vortäuschen, bereinigt
senzaACapoZeilenumbrüche und Steuerzeichen gezielt in den angezeigten Feldwerten vonanteprimaLeggibile— als Schutz der Vorschau-Treue, nicht als allgemeiner Prompt-Filter über beliebige Dateiinhalte. - Getrennte Anti-Persistenz-Sperren mit
realpathfür Agenten-Schreibzugriffe: Unabhängig vom KI-Lesepfad sichert ein kanonischer Wächter (_percorso_avvio_vietato) die Datei-Schreib- und Umbenennungsoperationen des Agenten (file-carica,file-rinomina,file-crea-cartella). Er löst symbolische Verknüpfungen überrealpathauf und weist Schreibzugriffe in Persistenzorte wie~/.ssh, Login-Shell-Startdateien (.bashrc,.zshrc,.profile,.bash_aliases,.pam_environment,.netrc),systemd --userund Benutzer-Autostart-Verzeichnisse deterministisch ab.
Dieselbe Trennung zwischen vertrauenswürdigem Systemkontext und nicht vertrauenswürdigen Quelldaten wenden wir in unseren Unternehmensprojekten an — ausführlich dokumentiert in unserer Engineering Note über Quellgrenzen und Schutz vor indirekter Prompt-Injection in RAG-Systemen sowie auf unserer Leistungsseite für KI-Systemtechnik und sichere Integration.
Der erste PonteAI-Baustein auf dem Zielknoten: Ausführung ohne Shell
Damit sich Sicherheitsgarantien langfristig nicht allein auf das korrekte Verhalten des Clients stützen müssen, entsteht im Infrastruktur-Zweig von Cardinal der knotenseitige Ausführungsbaustein PonteAI. Der im September 2026 fertiggestellte und verifizierte erste Fundament-Baustein demonstriert, wie eng eine lokale Ausführungsbrücke gefasst werden kann:
- Striktes 16-KiB-Anfragelimit und JSON-Schema: Übergroße oder strukturell abweichende Pakete werden vor jeder Weiterverarbeitung verworfen.
- Reine
argv[]-Ausführung ohne Shell: Der Baustein startet Prozesse direkt über Argumentvektoren — niemals über/bin/sh -c. Klassische Shell-Metazeichen, Verkettungen oder Subshells laufen damit ins Leere. - Geschlossener Befehlskatalog im Erstbaustein: Im verifizierten Fundament sind ausschließlich explizit hinterlegte Diagnoseabfragen (wie
uname -srunduptime) zulässig; jeder nicht gelistete Eintrag wird abgewiesen. - SHA-256-Aktions-Fingerprint, 60-Sekunden-Ablauf und Einmalverbrauch: Jede Freigabe ist über einen SHA-256-Fingerprint exakt an Aktion und Parameter gebunden, verfällt nach 60 Sekunden und wird atomar nur ein einziges Mal eingelöst (Single-Shot-Consumption gegen Replay-Versuche).
- Prozessisolation und gehärtetes lokales Audit-Log: Die Ausführung verlangt einen nicht-privilegierten Benutzer (
UID != 0), schließtstdin, erzwingt ein hartes Zeitlimit von 5 Sekunden und schreibt jeden Vorgang mit Dateirechten0600, Symlink-Schutz (O_NOFOLLOW) und explizitemfsyncin ein lokales JSONL-Protokoll.
Im historischen Prüfprotokoll vom 14. September 2026 (macOS-Prüfstand mit realem Klassifikator und realer AutoritaPermessi, Mock-Modell/-Kanal sowie lokalem uname -sr-Lauf) bestand dieser Fundament-Baustein 41 von 41 Verhaltenstests sowie 6 von 6 erkannten Sabotage-Mutanten. Ebenso offen dokumentieren wir die Grenzen dieser ersten Scheibe: Das entfernte SSH-/CLI-Verb --esegui-proposta, der Kanal-Dispatcher, das reale Zustimmungsfenster, die Linux-Paketierung und ein produktiver KI-Provider-Adapter sind in diesem Baustein noch nicht angebunden, und das lokale JSONL-Audit-Log ist zwar dateisystemseitig gehärtet, aber noch nicht kryptografisch signiert.
Welche sechs Sabotage-Mutanten prove-sabotaggi.py konkret prüft
Während Grenzwerte wie das 60-Sekunden-Ablaufenster, die SHA-256-Bindung, der Einmalverbrauch, UID != 0 und die Dateirechte 0600 in den 41 regulären Verhaltenstests geprüft werden, verifiziert prove-sabotaggi.py in isolierten temporären Kopien von PonteAI.swift gezielt sechs konkrete Code-Sabotagen, von denen jede einzelne mit der erwarteten Verhaltensassertion scheitern muss (nicht bloß mit einem Compilerfehler):
automatico-diventa-clic(Sitzungsautomatik statt Einzelklick): Schwächt die Prüfungorigine == .clicab, sodass eine automatische Sitzungsfreigabe fälschlich als aktiver Klick pro Aktion durchgeht.consenso-ampio(zu weit gefasste Berechtigung): Ersetzt den exakten Abgleichpoteri == [a.potere]durchtrue, sodass ein pauschal ausgestelltes Recht anstelle der aktionsgebundenen Befugnis akzeptiert würde.classificazione-saltata(übersprungener Risikoklassifikator): Setzt das Ergebnis vonClassificatoreRischioComando.rischiohart auf.lettura, um zu prüfen, ob destruktive oder verschleierte Aufrufe trotz Umgehung abgefangen werden.catalogo-aperto(geöffneter Befehlskatalog): Deaktiviert die KatalogschrankeCatalogoPonteAI.eseguibile(proposta.argv) != nil, sodass nicht gelistete Programme, Skripte oder Root-Aufrufe trotz niedriger Risikostufe passieren könnten.registro-inizio-saltato(ausgelassener Audit-Vorab-Eintrag): Entfernt den verpflichtenden Log-Eintragannota(.inizio, ...)vor Prozessstart, um sicherzustellen, dass ein defektes Audit-Protokoll das Gate Fail-Closed sperrt.consenso-assente-esegue(Ausführung trotz fehlender Zustimmung): Führt im Fehlerzweig.consensoNonValidodennoch den Prozess aus — die Gegenprobe, dass selbst Leseabfragen ohne gültigen Konsens niemals anlaufen.
Weitere denkbare Mutanten — etwa direkt auf der 60-Sekunden-Uhr oder den Dateimodi — sind sinnvolle Ausbaustufen für künftige Runden, werden aber bewusst nicht als bereits im Sechser-Katalog enthaltene Sabotagen ausgegeben. Für die dokumentierten Autorisierungs- und PonteAI-Bausteine ergänzen sich damit funktionale Randwerttests und gezielte Gegenproben.
„Die Stimme“: Gesprochene System- und Risikohinweise lokal auf dem Gerät
Nicht jede Assistenzfunktion benötigt ein großes Sprachmodell oder eine Internetverbindung. Wenn ein Administrator mehrere Konsolen im Blick behält oder während einer Wartungssitzung vor einem kritischen Zustand gewarnt werden soll, unterstützt CardinalHost eine gesprochene Status- und Risikoausgabe („Die Stimme“) in der eingestellten Sprache der Anwendung. Entscheidend ist die technische Umsetzung: Die Sprachsynthese arbeitet vollständig lokal auf dem Endgerät. Es wird kein KI-API-Schlüssel benötigt, und kein einziges Wort aus Systemmeldungen oder Warnhinweisen verlässt den eigenen Rechner in Richtung externer Cloud-Sprachdienste.
Häufig gestellte Fragen (FAQ)
Nein. Sprachmodelle haben in CardinalHost keinen direkten Zugriff auf eine Shell. Im KI-Werkzeug-Gate laufen ausschließlich drei Metadaten-Werkzeuge automatisch; Dateilesezugriffe sowie lesende, ändernde oder unbekannte Shell-Befehle (konservativ als modifica eingestuft) erfordern explizite Zustimmung, während unbekannte KI-Werkzeuge und als destruktiv eingestufte Befehle abgewiesen werden. Zusätzlich prüft VerificatoreEnvelope signierte Freigaben mit 18 typisierten Ablehnungsgründen.
Nein. CardinalHost nutzt das Modell Bring Your Own Key (BYOK): Ihr eigener API-Schlüssel bleibt im Schlüsselbund Ihres Betriebssystems, es fällt kein Aufschlag durch CodLab an, und vor jeder Übermittlung an den gewählten KI-Anbieter sehen Sie eine verbindliche Vorschau der zu sendenden Daten.
Im KI-Werkzeug-Gate laufen weder leggi_file noch lesende Shell-Befehle über esegui_comando automatisch: Beide Pfade erfordern für jeden einzelnen Aufruf eine explizite menschliche Zustimmung (chiediConsenso). Nur leggi_file übergibt den Pfad einfach quotiert mit -- an head -c 16384, sodass bereits an der Quelle maximal 16 KiB gelesen werden, während ein freigegebener esegui_comando-Aufruf den bestätigten Befehl ohne diese Quellgrenze ausführt; überschreitet die empfangene Werkzeugausgabe (bei elenca_cartella, leggi_file oder esegui_comando) 8.192 Zeichen, behält limita die ersten 8.192 Zeichen bei und hängt die 11 Zeichen lange Kennzeichnung …[troncato] an (insgesamt 8.203 Zeichen bei reinem ASCII-Text; da limita Swift-Zeichen und nicht Bytes zählt, kann UTF-8-Text mit Mehrbyte-Zeichen aus leggi_file dennoch die vollen 16 KiB der Quelle erreichen). Eine Pfad-Sperrliste für Lesezugriffe erzwingt leggi_file nicht; die kanonischen realpath-Sperren für ~/.ssh, Shell-Startdateien und Autostart gelten separat für Schreib-, Umbenennungs- und Ordneroperationen des Agenten.
Nein. Die gesprochene Ausgabe von Systemzuständen und Risikohinweisen arbeitet vollständig lokal auf dem Gerät in der gewählten Anwendungssprache, ohne KI-API-Schlüssel und ohne Textübertragung in externe Clouds.