Im Juli 2025 berichtete SaaStr-Gründer Jason Lemkin, der Coding-Agent von Replit habe trotz Code Freeze die Production-Datenbank seiner neuen App gelöscht. Replit-CEO Amjad Masad bestätigte das Löschen. Der Agent hatte den Rollback zuvor für unmöglich erklärt. Der Rollback hat dann funktioniert, nach Angaben von Lemkin und Replit.
Mich interessiert daran ein Detail: Der Code Freeze war eine Zeile in einer Textdatei. Ein Satz, wo eine Sperre hingehört. Der Agent kannte ihn sogar, er hat ihn hinterher selbst zitiert. Und Replit hat danach Dev und Prod standardmäßig getrennt, statt einen besseren Prompt zu schreiben. Das ist die ganze Lektion. Der Rest dieses Beitrags ist Umsetzung.
Coding-Agenten sind schnell und sehr überzeugt von sich, auch wenn sie danebenliegen. Kennt man von Kollegen, nur tippen die langsamer.
Wir lassen jeden Tag Agenten an unsere Dev-Umgebung, mit echten Clustern und echten Services. Unsere Regeln stehen deshalb in dem Tool, über das ein Agent mit der Plattform spricht. Es sind drei Guardrails.
1. Read und Write sind getrennt
Jedes Tool, das unser MCP-Server anbietet, hat im Code eine Klasse: read, tenant_mutation, destructive, billing oder sensitive. Was nur liest, läuft durch. Alles andere steht vor einem Gate.
2. Erst Preview, dann Confirmation
Ein Write läuft beim ersten Call nicht. Der Server liefert, was passieren würde, plus ein Token, das an genau diesen Call gebunden ist: gleiches Tool, gleiche Argumente. Ändert der Agent ein Argument, passt das Token nicht mehr.
Bei allem, was man nicht zurückholen kann, was Geld kostet oder Credentials herausgibt, geht der Server einen Schritt weiter. Beherrscht der Client Rückfragen (MCP nennt das Elicitation), landet die Frage dort. Die Antwort kommt aus dem UI des Clients und läuft am Modell vorbei. Lehnt die Person ab oder scheitert die Rückfrage, passiert nichts.
Was danach erlaubt ist, entscheidet die Plattform. Ein Agent darf nie mehr als die Person, die ihn gestartet hat. Und wer seinen Agenten alles auto-approven lässt, hat die Guardrail selbst abmontiert.
3. Secrets bleiben draußen
Was im Kontext eines Modells steht, behandelt ihr am besten wie veröffentlicht. Der Agent startet deshalb nur den Login, die Person bestätigt ihn im Browser, und das Token landet im Keychain des Betriebssystems. Datenbank-Passwörter generiert das Tool lokal und schreibt sie direkt in den Secret Store. Der Agent sieht nur den Pfad. Ins Git kommen nur Referenzen.
Das könnt ihr ohne uns nachbauen
Das Pattern funktioniert für jedes interne Tool und jeden MCP-Server. Vier Regeln reichen für den Anfang:
- Jedes Tool hat eine Klasse im Code. Ohne Eintrag gilt es als Write.
- Ein Write läuft erst beim zweiten Call, gebunden an genau diese Argumente.
- Bei allem, was nicht zurückzuholen ist, wird ein Mensch gefragt, und zwar über den Client. Scheitert die Frage, gilt sie als abgelehnt.
- Der Agent bekommt einen eigenen Account mit den Rechten für genau diesen Job, und Secrets laufen an seinem Kontext vorbei.
Regel 1 und 2 passen in ein paar Zeilen:
import hashlib, hmac, json
CLASSES = {"project_list": "read", "project_delete": "destructive"}
def gate(tool, args, token=None):
if CLASSES.get(tool, "write") == "read":
return run(tool, args)
expected = hmac.new(
SECRET,
json.dumps([tool, args], sort_keys=True).encode(),
hashlib.sha256,
).hexdigest()
if token is None or not hmac.compare_digest(token, expected):
# Der Agent bekommt nur eine Preview.
return {"code": "confirmation_required", "token": expected}
return run(tool, args)
Das Token beweist nur den zweiten Call. Für den Menschen braucht ihr die Rückfrage im Client.
Welche Rechte hat euer Coding-Agent heute? Ehrlich.
Quellen
- Jason Lemkin: Post zu Code Freeze und Löschung, 18. Juli 2025
- Jason Lemkin: Der Rollback hat funktioniert, 18. Juli 2025
- Amjad Masad, CEO von Replit: Statement, 20. Juli 2025
- Replit: Trennung von Dev und Prod, 29. Juli 2025
- MCP-Spezifikation 2026-07-28: Grundsätze zu Consent und Kontrolle
- MCP-Spezifikation 2026-07-28: Tools
- MCP-Spezifikation 2026-07-28: Elicitation