Guardrails in AI: Keeping LLMs Safe

Der Inhalt definiert KI-Leitschienen (Guardrails) als externe Prüfungen und Kontrollen, die auf KI-Systeme angewendet werden, um ein sicheres, korrektes und zuverlässiges Verhalten zu gewährleisten, ohne die Modellintelligenz zu verändern. Sie fungieren als Eingabefilter zur Blockierung bösartiger Prompts und als Ausgabeprüfer zur Formatierung und Filterung von Antworten.