Your chatbot might be saying things you never intended

Der Inhalt behandelt Sicherheitsrisiken bei KI-Chatbots, wie Prompt-Injection und die Offenlegung sensibler Daten, wobei darauf hingewiesen wird, dass Fehler oft von der Implementierung und nicht vom Modell selbst herrühren. PromptBrake wird als Werkzeug vorgestellt, um das Verhalten von Chatbots unter Druck vor der Veröffentlichung zu testen.