Sur le service hébergé, les exécutions sont payées avec des crédits prépayés. Chaque exécution a un budget. Ephemeral réserve la totalité du budget avant le démarrage de l'exécution, facture ce qu'elle a utilisé et libère le reste.
Unités
Tous les montants sont des nombres entiers en dollars américains, exprimés dans l'une de ces deux unités.
| Unité | Utilisée pour | Un dollar |
|---|---|---|
*_ | Budgets et coûts des exécutions, soldes du portefeuille et écritures du registre | 1000000 |
*_ | Achats via Stripe, recharges automatiques et historique des paiements | 100 |
Ainsi, cost_micros: 10000 équivaut à un cent, et amount_cents: 2500 à $25. Un champ monétaire absent d'un objet d'exécution vaut zéro.
Ce que coûte une exécution
Le coût d'une exécution comprend jusqu'à trois éléments.
- Calcul. Le temps écoulé entre la sortie de la file d'attente et la fin de l'exécution, arrondi à la seconde supérieure, au tarif de calcul. Il ne dépasse jamais le montant correspondant au délai d'expiration complet.
GET /v1/merenvoie ce tarif sous la formecompute_micros_per_second. - Appels au modèle. Avant chaque appel au modèle, Ephemeral consulte le prix actuel du modèle et autorise une borne supérieure prudente pour l'appel. Lorsque le fournisseur indique ce que l'appel a réellement coûté, ce montant remplace l'autorisation. Si une réponse est perdue, interrompue ou arrive sans coût fiable, la borne supérieure reste facturée.
- Requêtes web. Lorsque l'exécution dispose de l'accès web, chaque requête coûte $0.001 et chaque recherche $0.01, facturés à l'envoi. Les requêtes refusées ne sont pas facturées.
Les exécutions hébergées prennent en charge le texte et les modèles dont le prix peut être borné à l'avance. GET /v1/models liste les modèles éligibles, avec leurs prix.
Budgets
Définissez le budget avec max_cost_micros dans la requête d'exécution. Il peut aller de 1 à 100 000 000 ($100). Si vous l'omettez, le budget par défaut s'applique ; GET /v1/me le renvoie sous la forme default_max_cost_micros.
Le budget doit couvrir le coût de calcul pour le délai d'expiration complet : au moins timeout_seconds multiplié par compute_micros_per_second. Un budget plus faible est rejeté avec 400 ; raccourcissez le délai ou augmentez le budget.
À 200 microdollars par seconde ($0.72 de l'heure), le délai d'expiration par défaut de 300 secondes exige au moins 60 000 et le maximum de 3 600 secondes en exige 720 000. Le budget par défaut de 500 000 couvre les délais jusqu'à 2 500 secondes.
Pendant l'exécution, tout appel au modèle dont la borne supérieure ferait dépasser son budget à l'exécution est refusé, tout comme toute requête web qui le ferait. L'exécution reste ainsi dans son budget. L'appel refusé renvoie une erreur à l'agent, et l'exécution se termine normalement en failed.
Réserver, facturer, libérer
- Lorsque vous créez une exécution, son statut est
reservingpendant que la totalité du budget est réservée sur vos crédits disponibles. Si le disponible est insuffisant, la requête échoue avec402et l'exécution est enregistrée commefailed. - Tant que l'exécution est active,
cost_microscomprend le coût de calcul pour le délai d'expiration complet, plus chaque appel au modèle (à son coût indiqué dès que le fournisseur l'envoie, ou à sa borne supérieure d'ici là), plus chaque requête web. - Une fois l'exécution terminée, le coût de calcul est recalculé à partir du temps réellement utilisé.
- Ephemeral débite le coût final de votre solde et libère le reste de la réservation.
billing_pendingpasse alors àfalse.
cost_micros comme définitif que lorsque le statut de l'exécution est final et que billing_pending vaut false. Avant cela, il peut être supérieur au montant qui vous est facturé.Crédits et paiements
Les propriétaires et les administrateurs achètent des crédits dans le portail client, sous Facturation, via Stripe Checkout. Chaque achat va de $5 à $10,000. Les crédits sont ajoutés dès que Stripe confirme le paiement, généralement en quelques secondes. Le simple retour depuis la page Checkout n'ajoute pas de crédits.
| Champ du portefeuille | Signification |
|---|---|
balance_ | Crédits que vous détenez. |
reserved_ | Crédits réservés pour des exécutions pas encore réglées. |
available_ | Solde moins les réservations. Les nouvelles exécutions réservent sur ce montant. |
Le portefeuille affiche aussi les 100 dernières écritures du registre, liées à l'exécution ou au paiement correspondant. Le registre est un historique de compte, pas une facture ; Stripe fournit un reçu pour chaque paiement.
La recharge automatique débite une carte enregistrée lorsque le coût d'une exécution fait passer votre solde sous un seuil que vous choisissez. Elle nécessite une carte enregistrée et votre consentement explicite. Le montant de la recharge va de $5 à $10,000, et le seuil est d'au moins $1 et ne dépasse pas le montant de la recharge. Enregistrer une carte ne l'active pas. Supprimer la carte sélectionnée sans choisir une autre carte par défaut la désactive.
Les remboursements et les litiges sont déduits du solde et désactivent la recharge automatique. Si un remboursement rend le solde négatif, les nouvelles exécutions sont bloquées jusqu'à ce que vous rechargiez des crédits.
Les crédits n'expirent jamais. Dans les 14 jours suivant un achat, vous pouvez demander au support le remboursement sur votre carte des crédits de cet achat que vous n'avez pas utilisés. Les crédits déjà utilisés ou réservés par une exécution en cours ne sont pas remboursés. Voir les conditions d'utilisation.