레이트 리미팅(Rate Limiting)

레이트 리미팅이란?

레이트 리미팅은 클라이언트가 주어진 시간 간격 내에 수행할 수 있는 요청 횟수를 제어하기 위해 API가 구현하는 보호 메커니즘입니다. 인프라를 과부하로부터 보호하고 모든 사용자에게 공정한 서비스를 보장합니다.

작동 원리

허용된 한도를 초과하면 API는 HTTP 상태 코드 429 Too Many Requests를 반환합니다. 응답 헤더는 사용량에 대한 정보를 제공합니다:

• X-RateLimit-Limit: 윈도우당 최대 요청 수
• X-RateLimit-Remaining: 남은 요청 수
• X-RateLimit-Reset: 리셋 타임스탬프

관리 전략

• 지수 백오프: 시도 간 지연을 점진적으로 늘립니다
• 캐싱: 중복 호출을 피하기 위해 응답을 로컬에 저장합니다
• 큐잉: 요청을 큐에 넣고 시간 간격을 두고 실행합니다

AILabsAudit의 레이트 리미팅

AILabsAudit REST API는 API 키당 분당 60개의 요청을 허용합니다. 응답 헤더에는 사용량 관리에 도움이 되도록 레이트 리미팅 정보가 체계적으로 포함됩니다.