Un token è l'unità testuale di base elaborata dagli LLM. Un token può essere una parola, parte di una parola o una punteggiatura. I limiti della finestra di contesto sono misurati in token, tipicamente circa 4 caratteri per token in inglese.
Cos'è un Token?
Gli LLM non elaborano il testo carattere per carattere, ma in "token". Un token è un segmento di testo che il modello riconosce come unità.
Esempi di Tokenizzazione
- "Hello" = 1 token
- "Optimization" = 1-2 token
- "AI Labs Audit" = 3-4 token
Perché i Token sono Importanti
Per l'AEO, i token influenzano:
- Limiti di contesto: quanto contenuto l'IA considera
- Costo: la tariffazione delle API è per token
- Elaborazione: le parole rare utilizzano più token
Ogni domanda posta a ChatGPT senza il brand nella risposta è un concorrente raccomandato al suo posto: misurato su 6.820 risposte reali di IA.