예산과 결제 · Ephemeral 문서

호스팅 서비스의 실행은 선불 크레딧으로 결제합니다. 모든 실행에는 예산이 있습니다. Ephemeral은 실행을 시작하기 전에 예산 전체를 예약하고, 실행이 사용한 만큼 청구한 뒤 나머지를 해제합니다.

단위

모든 금액은 미국 달러 기준의 정수이며, 두 가지 단위 중 하나로 표시합니다.

단위	사용처	1달러
`*_micros`	실행 예산, 실행 비용, 지갑 잔액, 원장 항목	`1000000`
`*_cents`	Stripe 구매, 자동 충전, 결제 내역	`100`

따라서 cost_micros: 10000은 1센트이고, amount_cents: 2500은 $25입니다. 실행 객체에 없는 금액 필드는 0입니다.

실행 비용

실행 비용은 최대 세 부분으로 구성됩니다.

컴퓨팅. 실행이 대기열을 떠난 시점부터 끝날 때까지의 시간을 초 단위로 올림해 컴퓨팅 요율로 계산합니다. 전체 타임아웃에 해당하는 요금을 넘지 않습니다. GET /v1/me는 이 요율을 compute_micros_per_second로 반환합니다.
모델 호출. 모델을 호출하기 전에 Ephemeral이 모델의 현재 가격을 조회해 보수적인 상한을 승인합니다. 공급자가 호출의 실제 비용을 보고하면 그 금액이 승인액을 대체합니다. 응답이 유실되거나 중단되거나 신뢰할 수 있는 비용 없이 도착하면 상한이 그대로 청구됩니다.
웹 요청. 실행에 웹 액세스가 있으면 요청마다 $0.001, 검색마다 $0.01이 전송 시점에 청구됩니다. 거부된 요청에는 비용이 청구되지 않습니다.

호스팅 실행은 텍스트와, 가격의 상한을 미리 정할 수 있는 모델을 지원합니다. 해당하는 모델과 가격은 GET /v1/models에서 확인할 수 있습니다.

예산

예산은 실행 요청의 max_cost_micros로 설정합니다. 1에서 100,000,000($100)까지 지정할 수 있습니다. 생략하면 기본 예산이 적용되며, GET /v1/me가 이를 default_max_cost_micros로 반환합니다.

예산은 전체 타임아웃에 해당하는 컴퓨팅 요금, 즉 timeout_seconds에 compute_micros_per_second를 곱한 값 이상이어야 합니다. 이보다 작은 예산은 400으로 거부되므로, 타임아웃을 줄이거나 예산을 늘리세요.

초당 200 마이크로달러($0.72/시간)에서는 기본 타임아웃 300초에 최소 60,000이 필요하고, 최대 타임아웃 3,600초에는 720,000이 필요합니다. 기본 예산 500,000은 최대 2,500초의 타임아웃을 감당합니다.

실행 중에 상한이 실행 예산을 넘게 되는 모델 호출은 거부되며, 예산을 넘게 되는 웹 요청도 마찬가지입니다. 이렇게 해서 실행은 예산 안에 머뭅니다. 거부된 호출은 에이전트에게 오류를 반환하고, 실행은 보통 failed로 끝납니다.

예약, 청구, 해제

실행을 만들면 예산 전체를 사용 가능한 크레딧에서 예약하는 동안 상태가 reserving입니다. 사용 가능한 크레딧이 부족하면 요청이 402로 실패하고 실행은 failed로 기록됩니다.
실행이 진행되는 동안 cost_micros에는 전체 타임아웃에 대한 컴퓨팅 요금, 각 모델 호출(공급자가 보고한 비용이 오면 그 값, 그 전에는 상한), 각 웹 요청이 포함됩니다.
실행이 끝나면 컴퓨팅 요금이 실제 사용한 시간으로 다시 계산됩니다.
Ephemeral이 최종 비용을 잔액에서 청구하고 예약의 나머지를 해제합니다. 그러면 billing_pending이 false가 됩니다.

정산 전까지 비용은 잠정 값입니다

실행의 상태가 최종 상태이고 billing_pending이 false일 때만 cost_micros를 확정된 값으로 읽으세요. 그 전에는 실제 청구 금액보다 클 수 있습니다.

크레딧과 결제

소유자와 관리자는 고객 포털의 결제에서 Stripe Checkout으로 크레딧을 구매합니다. 한 번에 $5에서 $10,000까지 구매할 수 있습니다. 크레딧은 Stripe가 결제를 확인하면 추가되며, 보통 몇 초 안에 반영됩니다. Checkout 페이지에서 돌아오는 것만으로는 크레딧이 추가되지 않습니다.

지갑 필드	의미
`balance_micros`	보유한 크레딧.
`reserved_micros`	아직 정산되지 않은 실행을 위해 예약된 크레딧.
`available_micros`	잔액에서 예약분을 뺀 값. 새 실행은 이 금액에서 예약합니다.

지갑에는 최근 원장 항목 100개도 표시되며, 각 항목은 그 근거가 된 실행이나 결제와 연결됩니다. 원장은 계정 내역이며 청구서가 아닙니다. 결제마다 Stripe가 영수증을 제공합니다.

자동 충전은 실행 요금으로 잔액이 사용자가 정한 기준 아래로 내려가면 저장된 카드로 결제합니다. 저장된 카드와 사용자의 명시적 동의가 필요합니다. 충전 금액은 $5에서 $10,000이고, 기준은 $1 이상이면서 충전 금액 이하여야 합니다. 카드를 저장해도 자동 충전이 켜지지 않습니다. 선택한 카드를 삭제하면서 다른 기본 카드를 지정하지 않으면 자동 충전이 꺼집니다.

환불과 분쟁은 잔액에서 차감되며 자동 충전을 끕니다. 환불로 잔액이 음수가 되면 크레딧을 충전할 때까지 새 실행이 차단됩니다.

크레딧은 만료되지 않습니다. 구매 후 14일 이내라면 그 구매분 중 사용하지 않은 크레딧의 환불을 지원팀에 요청할 수 있으며, 결제한 카드로 환불됩니다. 이미 사용했거나 실행 중인 실행이 예약한 크레딧은 환불되지 않습니다. 이용약관을 참고하세요.

셀프 호스팅 설치본

셀프 호스팅 실행은 호스팅 지갑을 사용하지 않으며 Ephemeral이 비용을 청구하지 않습니다. 모델 공급자와 AWS에 직접 비용을 지불합니다. 셀프 호스팅을 참고하세요.