Deepseek AI hat die Veröffentlichung der neuen Deepseek V4 Flash und Non-Flash Versionen ihrer Modelle auf der HuggingFace-Plattform bekannt gegeben. Diese Sammlung bietet direkten Zugang zu den neuesten Deepseek-Modellen für die KI-Community.
DeepSeek V4 ist ein Sprachmodell mit 1,6 Billionen Parametern, das die Preislandschaft der KI neu gestaltet hat. Es bietet Spitzenmodellleistung zu einem 3- bis 5-mal günstigeren Preis (dauerhaft 0,14 $/M Tokens), und dieser Leitfaden beschreibt seine Nutzung, besten Prompts und Verdienstmöglichkeiten.
DeepSeek-V4 macht den Millionen-Token-Kontext zu einem Problem für Inferenzsysteme. Together AI erforscht die Inferenzarbeit hinter V4 auf NVIDIA HGX B200, einschließlich komprimierter KV-Layouts und Präfix-Caching für lange Kontext-Workloads.