VRAM — Video RAM

Speicher auf deiner Grafikkarte. Faustregel: ein 7B-Modell braucht ~5 GB VRAM in 4-bit-Quantisierung, ein 70B-Modell ~40 GB. VRAM ist die wichtigste Spec, wenn du lokal LLMs hosten willst — wichtiger als reine GPU-Rechenleistung.