Über unsTopKurse
← heapsort-ai

State Space Models

5 items

RESEARCHarXiv CS.LG·4/21/2026

UniMamba: A Unified Spatial-Temporal Modeling Framework with State-Space and Attention Integration

UniMamba ist ein neues einheitliches räumlich-zeitliches Prognoseframework, das effiziente Zustandsraumdynamiken mit auf Aufmerksamkeit basierendem Abhängigkeitslernen integriert, um Herausforderungen bei multivariaten Zeitreihen zu bewältigen. Es nutzt eine Mamba Variate-Channel Encoding Layer und eine Spatial Temporal Attention Layer, um sowohl globale zeitliche Abhängigkeiten als auch Inter-Variablen-Korrelationen zu erfassen.

forecastingmachine learningattention mechanismsState Space Models
33
RESEARCHarXiv CS.LG·5/8/2026

Sparse Prefix Caching for Hybrid and Recurrent LLM Serving

Dieser Artikel stellt Sparse Prefix Caching vor, eine Optimierung für das Bereitstellen von LLMs, die wiederkehrende Zustände an Prüfpunkten speichert, anstatt den gesamten Token-Verlauf zu benötigen. Die Methode verbessert die Pareto-Grenze im Vergleich zu Standard-Heuristiken, insbesondere bei Anwendungsfällen, in denen Anfragen ein nicht triviales Präfix teilen.

LLMsAI infrastructureCachingperformance
27
RESEARCHarXiv CS.LG·vor 12T

A Simple State Space Model Excels at Multivariate Time Series Classification

Diese Forschung untersucht systematisch strukturierte Zustandsraummodelle (SSMs) für die Zeitreihenklassifizierung und vergleicht komplexe Mamba-basierte Architekturen mit einfacheren diagonalen SSMs (S4D). Überraschenderweise übertrifft S4D Mamba-Varianten konsistent in Genauigkeit und Effizienz bei großen Benchmarks, was die Annahme in Frage stellt, dass eine erhöhte Modellkomplexität zu besseren Leistungen in diesem Bereich führt.

Time Series Classificationdeep learningmachine learningSequence Modeling
27
RESEARCHarXiv CS.LG·5/6/2026

StateSMix: Online Lossless Compression via Mamba State Space Models and Sparse N-gram Context Mixing

StateSMix ist ein eigenständiger verlustfreier Kompressor, der ein online-trainiertes Mamba-ähnliches State Space Model (SSM) mit sparsamer N-Gramm-Kontextmischung und arithmetischer Kodierung kombiniert. Es wird von Grund auf neu initialisiert und Token für Token auf der zu komprimierenden Datei trainiert, benötigt keine vortrainierten Gewichte, keine GPU und keine externen Abhängigkeiten, und erzielt gute Ergebnisse beim enwik8-Benchmark.

AI modelsMambalossless compressionN-gram
27