Parallel Prefix Verification for Speculative Generation

O PARSE (PArallel pRefix Speculative Engine) é um novo framework de geração especulativa que acelera a inferência de LLMs. Ele faz isso paralelizando a verificação de prefixos em nível semântico, superando as limitações dos métodos existentes ao avaliar múltiplos prefixos em uma única passagem.