Beiträge zu "security"
Macht ein Classifier-Modell immer Sinn? Entscheiden, was ein Agent darf
Classifier-Modelle können Anfragen routen und Agentenaktionen bewerten, kosten aber Geld und irren sich. Wann Regeln besser sind, wann ein Classifier hilft und wie Autonomiestufen passen.
Agenten wie Insider behandeln: was Forschung zu Fehlausrichtung für den Betrieb bedeutet
KI-Insider-Bedrohung: Forschung zu agentic misalignment spricht für Insider-Kontrollen bei Agenten, etwa Funktionstrennung, begrenzten Zugriff und Monitoring.
Die Sicherheits-Prüfliste für Agenten: zwanzig Fragen vor der Produktion
KI-Agenten Sicherheits-Checkliste: zwanzig Ja/Nein-Fragen zu Identität, Rechten, Datenfluss, Injection, Sandbox, Lieferkette und Audit mit Links zur Vertiefung.
Prompt-Injection-Tests: Agenten gegen Hijacking prüfen
Prompt injection testing koppelt eine legitime mit einer eingeschleusten Aufgabe und prüft beide Ergebnisse. Suiten für eigene Tools bauen, Eindämmung behalten.
Code-Ausführung oder direkte Tool-Aufrufe? Abwägungen für Entwickler
Code execution agents sparen Token durch Filtern in einer Sandbox, brauchen aber Isolation. Vergleich mit direkten Tool-Aufrufen bei Kosten, Sicherheit, Audit.
Die OWASP Top 10 für agentische Anwendungen aus Sicht eines Plattform-Teams
Wie ein Plattform-Team die OWASP agentic top 10 und verwandte LLM-Top-10-Einträge in Kontrollen übersetzt: minimale Rechte, Sandboxing, Freigaben und Audit.
Agenten ohne Internet: eine Prüfliste für den Air-Gap-Betrieb
Air-gapped AI heißt: keine Downloads zur Laufzeit. Prüfliste: was einzupflegen, festzulegen und zu verifizieren ist und wie Updates laufen.
AI Agent Sandboxing: Dateisystem- und Netzwerkisolation zusammen
AI Agent Sandboxing wirkt nur, wenn Dateizugriff und Netzverkehr nach außen begrenzt sind. Warum eine Grenze nicht reicht und wie Allow-Lists Freigaben sparen.
Betriebsreihe: AI Incident Response, wenn ein Agent der Akteur ist
AI Incident Response behält die Phasen, braucht aber Kill Switch, Tool-Entzug und Policy-Freeze in Sekunden. Playbook und Postmortem für Agenten-Vorfälle.
Erst den Datenfluss zeichnen, dann den ersten Prompt schreiben
Ein agent data flow diagram zeigt, wo unsichere Daten eintreten, wo private liegen und wo etwas hinausgeht. Eine Vorlage, die Trifecta-Risiken früh zeigt.
MCP-Autorisierung: OAuth 2.1, Audiences und warum Durchreichen verboten ist
MCP authorization baut auf OAuth 2.1, Protected Resource Metadata und Resource Indicators auf. So läuft der Ablauf, und warum Token Passthrough verboten ist.
Entwurfsmuster gegen Prompt-Injection, die nicht auf das Modell setzen
Prompt injection design patterns wie Plan-then-Execute, Dual LLM und Capability Tracking begrenzen Angriffe durch Struktur statt Erkennung. Ein Überblick.
Tool Poisoning: wenn die Tool-Beschreibung der Angriff ist
MCP Tool Poisoning versteckt Anweisungen in Tool-Beschreibungen, die das Modell liest und Nutzer kaum sehen. So funktioniert der Angriff, so begrenzen Sie ihn.
Fremde Skills sind Lieferkette: eine Prüfliste für Agent-Skill-Sicherheit
Agent-Skill-Sicherheit beginnt damit, fremde Skills als Abhängigkeiten zu behandeln. Prüfliste zu Herkunft, Versionsfixierung, Review und Rechten.
Betriebsreihe: Geheimnisse gehören nie in das Kontextfenster eines Agenten
Secrets Management für KI-Agenten in der Praxis: Zugangsdaten bleiben auf der Tool-Seite, das Modell sieht nur Handles, Token-Passthrough entfällt.
Indirekte Prompt-Injection: wenn die Daten die Befehle geben
Indirekte Prompt-Injection versteckt Anweisungen in Tickets, Webseiten und Tool-Ergebnissen. Warum Filter nicht reichen und wie Sie den Schaden begrenzen.
Betriebsreihe: Identität für Agenten, oder wer handelt in wessen Auftrag
KI-Agenten-Identität: Jeder Agent braucht eine eigene Identität und den Vermerk, für wen er handelt. Delegation statt Impersonation, zielgebundene Tokens.
Die tödliche Dreifaltigkeit: private Daten, nicht vertrauenswürdige Inhalte und ein Weg nach draußen
Die Lethal Trifecta bei KI-Agenten: private Daten, nicht vertrauenswürdige Inhalte und externe Kommunikation zusammen. So durchbricht man das Dreieck pro Agent.
Dark Software Factory: nur für MVPs und PoCs
Agenten Software mit minimalem menschlichem Zutun bauen zu lassen, kann ein schneller Weg zum Prototyp sein. open-agentix bietet das als Opt-in-Modus mit festem Hinweis und behält Freigabe-Gates für die Produktion.
Ein Modell darf fragen, die Policy entscheidet: deterministische Gates und manipulationssichtbares Audit
In open-agentix kann ein Modell einen Werkzeugaufruf anfordern, aber nie erlauben. Ein deterministisches Policy-Gate entscheidet vor jedem Aufruf, ein hash-verketteter Audit-Trail hält fest, was es entschieden hat.
Minimale Rechte für Agenten: Zerlegung statt eines allmächtigen Agenten
Ein Agent mit Lese- und Schreibzugriff auf alles hat einen großen Wirkungsradius. open-agentix zerlegt einen Prozess in kleine Agenten, die nur die Werkzeuge ihres Schritts halten.