Michael Kofler • 28.5.2026

Updates zu lokalen Sprachmodelle: MTP, APEX, Qwopus

Der Artikel behandelt aktuelle Updates für lokale Sprachmodelle: Multi-Token Prediction (MTP) in llama.cpp und LM Studio verdoppelt fast die Output-Geschwindigkeit durch parallele Token-Verifikation ohne Qualitätsverlust. Adaptive Precision for Expert Models (APEX) reduziert den Speicherbedarf von MoE-Modellen um die Hälfte. Qwopus ist eine verbesserte Variante der Qwen-Modelle durch Fine-Tuning mit Claude Opus. Der Artikel erklärt technische Details zu Speculative Decoding und MTP.

0 Kommentare

#Apex #Lokale Sprachmodelle #Mtp