llama.cpp Speculative Checkpointing, Ollama Multimodal Tool, MLX vs GGUF for Gemma 4

Die heutigen Nachrichten heben die Zusammenführung des "speculative checkpointing" in llama.cpp zur Beschleunigung der lokalen LLM-Inferenz sowie ein neues multimodales Ollama-Tool für die lokale Audio-/Videoanalyse hervor. Zudem wird ein detaillierter Vergleich zwischen MLX und GGUF zur Optimierung der Gemma 4-Bereitstellung auf Consumer-Hardware vorgestellt.