Budgets und Abrechnung · Ephemeral Docs

Ausführungen beim gehosteten Dienst werden aus vorausbezahltem Guthaben bezahlt. Jede Ausführung hat ein Budget. Ephemeral reserviert das gesamte Budget, bevor die Ausführung startet, berechnet, was die Ausführung verbraucht hat, und gibt den Rest wieder frei.

Einheiten

Alle Beträge sind ganze Zahlen in US-Dollar, in einer von zwei Einheiten.

Einheit	Verwendet für	Ein Dollar
`*_micros`	Ausführungsbudgets, Ausführungskosten, Guthabenstände und Kontobuchungen	`1000000`
`*_cents`	Stripe-Käufe, automatische Aufladungen und Zahlungsverlauf	`100`

cost_micros: 10000 entspricht also einem Cent, und amount_cents: 2500 entspricht $25. Ein Geldfeld, das in einem Ausführungsobjekt fehlt, ist null.

Was eine Ausführung kostet

Die Kosten einer Ausführung setzen sich aus bis zu drei Teilen zusammen.

Rechenzeit. Die Zeit vom Verlassen der Warteschlange bis zum Ende der Ausführung, auf ganze Sekunden aufgerundet, zum Rechenzeittarif. Sie übersteigt nie die Gebühr für das volle Zeitlimit. GET /v1/me liefert den Tarif als compute_micros_per_second.
Modellaufrufe. Vor jedem Modellaufruf ermittelt Ephemeral den aktuellen Preis des Modells und autorisiert eine vorsichtige Obergrenze für den Aufruf. Meldet der Anbieter, was der Aufruf tatsächlich gekostet hat, ersetzt dieser Betrag die Autorisierung. Geht eine Antwort verloren, wird sie unterbrochen oder trifft ohne verlässliche Kostenangabe ein, bleibt die Obergrenze berechnet.
Webanfragen. Hat die Ausführung Webzugriff, kostet jede Anfrage $0.001 und jede Suche $0.01, berechnet beim Senden. Abgelehnte Anfragen werden nicht berechnet.

Gehostete Ausführungen unterstützen Text und Modelle, deren Preis sich vorab begrenzen lässt. GET /v1/models listet die infrage kommenden Modelle mit ihren Preisen auf.

Budgets

Legen Sie das Budget mit max_cost_micros in der Ausführungsanfrage fest. Es kann 1 bis 100.000.000 ($100) betragen. Lassen Sie es weg, gilt das Standardbudget; GET /v1/me liefert es als default_max_cost_micros.

Das Budget muss die Rechenzeitgebühr für das volle Zeitlimit abdecken: mindestens timeout_seconds multipliziert mit compute_micros_per_second. Ein kleineres Budget wird mit 400 abgelehnt; verkürzen Sie das Zeitlimit oder erhöhen Sie das Budget.

Bei 200 Mikrodollar pro Sekunde ($0.72 pro Stunde) braucht das Standard-Zeitlimit von 300 Sekunden mindestens 60.000 und das Maximum von 3.600 Sekunden 720.000. Das Standardbudget von 500.000 deckt Zeitlimits bis zu 2.500 Sekunden ab.

Während der Ausführung wird jeder Modellaufruf abgelehnt, dessen Obergrenze die Ausführung über ihr Budget hinausbringen würde, ebenso jede Webanfrage, die das täte. So bleibt die Ausführung innerhalb ihres Budgets. Der abgelehnte Aufruf gibt dem Agenten einen Fehler zurück, und die Ausführung endet in der Regel als failed.

Reservieren, berechnen, freigeben

Wenn Sie eine Ausführung erstellen, hat sie den Status reserving, während das gesamte Budget aus Ihrem verfügbaren Guthaben reserviert wird. Ist zu wenig verfügbar, schlägt die Anfrage mit 402 fehl und die Ausführung wird als failed aufgezeichnet.
Solange die Ausführung aktiv ist, enthält cost_micros die Rechenzeitgebühr für das volle Zeitlimit plus jeden Modellaufruf, mit den gemeldeten Kosten, sobald der Anbieter sie sendet, bis dahin mit seiner Obergrenze, plus jede Webanfrage.
Nach dem Ende der Ausführung wird die Rechenzeitgebühr anhand der tatsächlich genutzten Zeit neu berechnet.
Ephemeral belastet die Endkosten Ihrem Guthaben und gibt den Rest der Reservierung frei. Danach wird billing_pending zu false.

Kosten sind bis zur Abrechnung vorläufig

Betrachten Sie cost_micros nur dann als endgültig, wenn der Status der Ausführung final und billing_pending auf false gesetzt ist. Davor kann der Wert höher sein als der Betrag, der Ihnen berechnet wird.

Guthaben und Zahlungen

Inhaber und Admins kaufen Guthaben im Kundenportal unter Abrechnung über Stripe Checkout. Jeder Kauf beträgt $5 bis $10,000. Das Guthaben wird gutgeschrieben, sobald Stripe die Zahlung bestätigt, in der Regel innerhalb weniger Sekunden. Die Rückkehr von der Checkout-Seite schreibt allein noch kein Guthaben gut.

Guthabenfeld	Bedeutung
`balance_micros`	Das Guthaben, das Sie halten.
`reserved_micros`	Guthaben, das für noch nicht abgerechnete Ausführungen reserviert ist.
`available_micros`	Kontostand abzüglich Reservierungen. Neue Ausführungen reservieren hieraus.

Das Guthaben zeigt außerdem die letzten 100 Kontobuchungen, jeweils verknüpft mit der Ausführung oder Zahlung dahinter. Die Buchungsliste ist ein Kontoverlauf und keine Rechnung; Stripe stellt für jede Zahlung einen Beleg aus.

Die automatische Aufladung belastet eine gespeicherte Karte, wenn die Gebühr einer Ausführung Ihren Kontostand unter einen von Ihnen gewählten Schwellenwert sinken lässt. Sie setzt eine gespeicherte Karte und Ihre ausdrückliche Einwilligung voraus. Der Aufladebetrag beträgt $5 bis $10,000, und der Schwellenwert mindestens $1 und höchstens den Aufladebetrag. Das Speichern einer Karte aktiviert sie nicht. Wird die ausgewählte Karte entfernt, ohne eine andere als Standard zu wählen, wird die automatische Aufladung deaktiviert.

Erstattungen und Zahlungsstreitigkeiten werden vom Kontostand abgezogen und deaktivieren die automatische Aufladung. Wird der Kontostand durch eine Erstattung negativ, sind neue Ausführungen gesperrt, bis Sie Guthaben aufladen.

Guthaben verfällt nie. Innerhalb von 14 Tagen nach einem Kauf können Sie über den Support verlangen, dass das noch nicht genutzte Guthaben aus diesem Kauf auf Ihre Karte erstattet wird. Bereits genutztes oder von einer laufenden Ausführung reserviertes Guthaben wird nicht erstattet. Siehe die Nutzungsbedingungen.

Selbst gehostete Installationen

Selbst gehostete Ausführungen nutzen das gehostete Guthaben nicht und werden von Ephemeral nicht berechnet. Sie bezahlen Ihren Modellanbieter und AWS direkt. Siehe Self-Hosting.