Glossar · Lokale KI & Hardware
FP16 / BF16
16-bit-Gleitkomma-Formate für Modell-Gewichte. FP16 hat mehr Präzision, aber kleineren Wertebereich; BF16 umgekehrt — Standard im Training. Halbiert VRAM gegenüber FP32 ohne nennenswerten Qualitätsverlust.
Mehr aus diesem Bereich
Lokale KI & Hardware
Self-Hosting, GPU-Begriffe, Inference-Server.