Il rate limiting è un meccanismo di controllo che limita il numero di richieste che un client può inviare a un'API in un dato intervallo di tempo, proteggendo il server da abusi.
Cos'è il rate limiting?
Il rate limiting è un meccanismo di protezione implementato dalle API per controllare il numero di richieste che un client può effettuare in un dato intervallo di tempo. Protegge l'infrastruttura dai sovraccarichi e garantisce un servizio equo a tutti gli utenti.
Come funziona?
Quando si supera il limite consentito, l'API restituisce un codice di stato HTTP 429 Too Many Requests. Le intestazioni della risposta forniscono informazioni sull'utilizzo:
X-RateLimit-Limit: numero massimo di richieste per finestraX-RateLimit-Remaining: richieste rimanentiX-RateLimit-Reset: timestamp di reset
Strategie di gestione
- Backoff esponenziale: aumentare progressivamente il ritardo tra i tentativi
- Caching: memorizzare le risposte localmente per evitare chiamate ridondanti
- Accodamento: mettere in coda le richieste e distribuirle nel tempo
Rate limiting in AILabsAudit
La REST API di AILabsAudit consente 60 richieste al minuto per API key. Le intestazioni della risposta includono sistematicamente le informazioni sul rate limit per facilitare la gestione dell'utilizzo.
Ogni domanda posta a ChatGPT senza il brand nella risposta è un concorrente raccomandato al suo posto: misurato su 6.820 risposte reali di IA.