
Une infrastructure d'optimisation des coûts pour les applications LLM
Promptly est un proxy compatible OpenAI qui réduit jusqu'à 60 % vos dépenses LLM grâce à un routage intelligent, l'optimisation des prompts, la mise en cache sémantique et l'élagage du contexte. Fonctionne avec OpenAI, Anthropic et Google.
agents-ia