resumable streams

I needed resumable LLM streams in Go — so I built streamhub

Der Autor entwickelte „streamhub“, eine Go-basierte Lösung, die Redis Streams nutzt, um fortsetzbare LLM-Antworten über SSE zu ermöglichen. Sie behebt Probleme wie Client-Verbindungsabbrüche, verschwendeten Token-Verbrauch und verteilte Abbruchsignale für Go-Backends und schließt damit eine bestehende Lücke bei den Tools.