Il rate limiting è un meccanismo di controllo che limita il numero di richieste che un client può inviare a un'API in un dato intervallo di tempo, proteggendo il server da abusi.

Cos'è il rate limiting?

Il rate limiting è un meccanismo di protezione implementato dalle API per controllare il numero di richieste che un client può effettuare in un dato intervallo di tempo. Protegge l'infrastruttura dai sovraccarichi e garantisce un servizio equo a tutti gli utenti.

Come funziona?

Quando si supera il limite consentito, l'API restituisce un codice di stato HTTP 429 Too Many Requests. Le intestazioni della risposta forniscono informazioni sull'utilizzo:

  • X-RateLimit-Limit: numero massimo di richieste per finestra
  • X-RateLimit-Remaining: richieste rimanenti
  • X-RateLimit-Reset: timestamp di reset

Strategie di gestione

  • Backoff esponenziale: aumentare progressivamente il ritardo tra i tentativi
  • Caching: memorizzare le risposte localmente per evitare chiamate ridondanti
  • Accodamento: mettere in coda le richieste e distribuirle nel tempo

Rate limiting in AILabsAudit

La REST API di AILabsAudit consente 60 richieste al minuto per API key. Le intestazioni della risposta includono sistematicamente le informazioni sul rate limit per facilitare la gestione dell'utilizzo.

Quando un cliente interroga le IA senza nominare un brand, viene raccomandato qualcun altro. E i brand che gestisci?

Ogni domanda posta a ChatGPT senza il brand nella risposta è un concorrente raccomandato al suo posto: misurato su 6.820 risposte reali di IA.

Per saperne di più

Scopri il nostro articolo approfondito su questo argomento

Leggi l'articolo