Glossar · Lokale KI & Hardware
Apple Silicon
Apples M-Chip-Reihe (M1 bis M4). Unified Memory bedeutet: RAM = VRAM. Ein MacBook mit 64 GB RAM kann 70B-Modelle laufen lassen, was auf NVIDIA-Karten 2× 4090 erfordern würde. Trade-off: langsamer pro Token als dedizierte GPUs.
Verwandt: VRAM
Mehr aus diesem Bereich
Lokale KI & Hardware
Self-Hosting, GPU-Begriffe, Inference-Server.