Token
Auch bekannt als: Tokens
Ein Token ist die kleinste Einheit, mit der ein Sprachmodell arbeitet. Nicht immer ein ganzes Wort, oft ein Wortteil oder ein Satzzeichen. Tokens bestimmen Kosten, Kontextlänge und Verarbeitungsgeschwindigkeit.
Wenn du einen Text an ein Sprachmodell schickst, wird er nicht wortweise gelesen, sondern in Tokens zerlegt. "Unternehmensstrategie" wird zu mehreren Tokens, "KI" ist oft ein einziger. Englische Texte sind tokeneffizienter als deutsche, weil die Trainingsdaten überwiegend englisch sind.
Warum Tokens wichtig sind
Kosten: Du zahlst pro Token, nicht pro Wort. Input-Tokens (dein Prompt) und Output-Tokens (die Antwort) werden separat berechnet.
Kontextfenster: Jedes Modell hat ein maximales Token-Limit. Was nicht reinpasst, wird abgeschnitten oder ignoriert.
Qualität: Kürzere Prompts (weniger Tokens) sind nicht automatisch schlechter. Fokussierter Kontext schlägt aufgeblähten.
Faustregel
Ein deutsches Wort entspricht etwa 1,5 Tokens. 1000 Wörter sind also ungefähr 1500 Tokens. Für grobe Kostenschätzungen reicht das.