Un token è l'unità testuale di base elaborata dagli LLM. Un token può essere una parola, parte di una parola o una punteggiatura. I limiti della finestra di contesto sono misurati in token, tipicamente circa 4 caratteri per token in inglese.

Cos'è un Token?

Gli LLM non elaborano il testo carattere per carattere, ma in "token". Un token è un segmento di testo che il modello riconosce come unità.

Esempi di Tokenizzazione

  • "Hello" = 1 token
  • "Optimization" = 1-2 token
  • "AI Labs Audit" = 3-4 token

Perché i Token sono Importanti

Per l'AEO, i token influenzano:

  • Limiti di contesto: quanto contenuto l'IA considera
  • Costo: la tariffazione delle API è per token
  • Elaborazione: le parole rare utilizzano più token
Quando un cliente interroga le IA senza nominare un brand, viene raccomandato qualcun altro. E i brand che gestisci?

Ogni domanda posta a ChatGPT senza il brand nella risposta è un concorrente raccomandato al suo posto: misurato su 6.820 risposte reali di IA.