Glossar · KI & LLMs
Inference
Der eigentliche Vorgang, wenn ein bereits trainiertes Modell antwortet. „Inference-Kosten" sind die Kosten pro API-Call. Bei lokalem Hosting bedeutet Inference: dein Rechner rechnet.
Mehr aus diesem Bereich
KI & LLMs
Grundbegriffe rund um Sprachmodelle und Künstliche Intelligenz.