ホスト型サービスでの実行の料金は、プリペイドのクレジットから支払われます。すべての実行に予算があります。Ephemeral は実行の開始前に予算の全額を確保し、実行が使った分を請求して、残りを解放します。
単位
金額はすべて米ドルの整数で、次の 2 つの単位のいずれかで表します。
| 単位 | 用途 | 1 ドル |
|---|---|---|
*_ | 実行の予算、実行のコスト、ウォレットの残高、台帳のエントリ | 1000000 |
*_ | Stripe での購入、自動チャージ、支払い履歴 | 100 |
つまり、cost_micros: 10000 は 1 セント、amount_cents: 2500 は $25 です。実行オブジェクトに金額のフィールドがない場合は 0 です。
実行にかかるコスト
実行のコストは、最大で 3 つの要素からなります。
- コンピュート。実行がキューを離れてから終了するまでの時間を、秒単位に切り上げ、コンピュートの料金で計算したものです。タイムアウト全体分の料金を超えることはありません。この料金は
GET /v1/meがcompute_micros_per_secondとして返します。 - モデル呼び出し。モデルを呼び出す前に、Ephemeral はそのモデルの現在の価格を調べ、その呼び出しに対する保守的な上限額を承認します。呼び出しに実際にかかったコストをプロバイダーが報告すると、その金額が承認額に置き換わります。レスポンスが失われた、中断された、または信頼できるコストなしで届いた場合は、上限額が請求されたままになります。
- Web リクエスト。実行に Web アクセスがある場合、リクエスト 1 回あたり $0.001、検索 1 回あたり $0.01 が、送信時に課金されます。拒否されたリクエストには課金されません。
ホスト型の実行は、テキストと、価格を事前に見積もれるモデルに対応しています。対象のモデルとその価格は、GET /v1/models で確認できます。
予算
予算は、実行リクエストの max_cost_micros で設定します。指定できる値は 1 から 100,000,000 ($100) です。省略した場合は、デフォルトの予算が適用されます。この値は GET /v1/me が default_max_cost_micros として返します。
予算は、タイムアウト全体分のコンピュート料金、つまり timeout_seconds に compute_micros_per_second を掛けた額以上である必要があります。これより小さい予算は 400 で拒否されます。タイムアウトを短くするか、予算を引き上げてください。
1 秒あたり 200 マイクロドル (1 時間あたり $0.72) の場合、デフォルトのタイムアウト 300 秒には 60,000 以上、最大の 3,600 秒には 720,000 が必要です。デフォルトの予算 500,000 で、2,500 秒までのタイムアウトをまかなえます。
実行中は、上限額を加えると予算を超えるモデル呼び出しも、超える Web リクエストも拒否されます。これにより、実行は予算内に収まります。拒否された呼び出しはエージェントにエラーを返し、通常、実行は failed で終了します。
確保、請求、解放
- 実行を作成すると、利用可能なクレジットから予算の全額が確保される間、ステータスは
reservingになります。利用可能な額が足りない場合、リクエストは402で失敗し、実行はfailedとして記録されます。 - 実行中の
cost_microsには、タイムアウト全体分のコンピュート料金に加えて、各モデル呼び出し (プロバイダーから報告されるまでは上限額、報告後はそのコスト) と、各 Web リクエストが含まれます。 - 実行が終了すると、コンピュート料金が実際に使った時間から再計算されます。
- Ephemeral は最終的なコストを残高に請求し、確保していた分の残りを解放します。その後、
billing_pendingがfalseになります。
cost_micros を確定した値として読めるのは、実行のステータスが最終状態で、かつ billing_pending が false の場合のみです。それより前の値は、実際に請求される額より高いことがあります。クレジットと支払い
オーナーと管理者は、カスタマーポータルの請求から、Stripe Checkout を通じてクレジットを購入できます。1 回の購入額は $5 から $10,000 です。クレジットは、Stripe が支払いを確認すると追加されます。通常は数秒以内です。Checkout のページから戻っただけでは、クレジットは追加されません。
| ウォレットのフィールド | 意味 |
|---|---|
balance_ | 保有しているクレジット。 |
reserved_ | まだ精算されていない実行のために確保されているクレジット。 |
available_ | 残高から確保分を引いた額。新しい実行はここから確保されます。 |
ウォレットには、最新 100 件の台帳エントリも表示され、それぞれの元になった実行または支払いにリンクしています。台帳はアカウントの履歴であり、請求書ではありません。各支払いの領収書は Stripe が発行します。
自動チャージは、実行の請求によって残高が設定したしきい値を下回ったときに、保存済みのカードに請求します。利用には、保存済みのカードと、あなたの明示的な同意が必要です。チャージ額は $5 から $10,000 で、しきい値は $1 以上、かつチャージ額以下です。カードを保存しただけでは、オンになりません。選択されているカードを削除し、別のカードをデフォルトに選ばなかった場合、オフになります。
返金と支払いの異議申し立て (ディスピュート) は残高から差し引かれ、自動チャージはオフになります。返金によって残高がマイナスになった場合、クレジットをチャージするまで新しい実行はブロックされます。
クレジットに有効期限はありません。購入から 14 日以内であれば、その購入分のうち未使用のクレジットの返金をサポートからご依頼いただけます。返金は購入時のカードに行われます。使用済みのクレジットや実行中の実行が予約しているクレジットは返金の対象外です。詳しくは利用規約をご覧ください。