Guardrails in AI: Keeping LLMs Safe
Der Inhalt definiert KI-Leitschienen (Guardrails) als externe Prüfungen und Kontrollen, die auf KI-Systeme angewendet werden, um ein sicheres, korrektes und zuverlässiges Verhalten zu gewährleisten, ohne die Modellintelligenz zu verändern. Sie fungieren als Eingabefilter zur Blockierung bösartiger Prompts und als Ausgabeprüfer zur Formatierung und Filterung von Antworten.