Modelos · Documentação da Ephemeral

O catálogo de modelos lista os modelos que as execuções podem usar e o padrão que vale quando uma execução não indica nenhum. Não exige chave de API.

GET/v1/models

Retorna o catálogo desta instalação.

Resposta

itemsarray

Modelos compatíveis, ordenados por ID.

default_modelstring

O modelo que uma execução usa quando não tem o campo model.

custom_models_allowedboolean

Se as execuções podem indicar um modelo que não está em items.

Cada item

idstring

O valor a passar como model, como anthropic/claude-haiku-5.5.

namestring

Nome de exibição.

context_lengthinteger

Janela de contexto em tokens, quando o provedor a publica.

pricingobject

Preços do provedor em dólares americanos por token, como strings decimais. prompt é a entrada e completion é a saída.

supported_parametersstring[]

Parâmetros de requisição que o provedor aceita para este modelo, quando publicados.

Terminal

curl $EPHEMERAL_URL/v1/models

JSON

{
  "items": [
    {
      "id": "anthropic/claude-haiku-5.5",
      "name": "Anthropic: Claude Haiku 5.5",
      "context_length": 1000000,
      "pricing": {
        "prompt": "0.0000001",
        "completion": "0.0000005",
        "input_cache_read": "0.00000001",
        "input_cache_write": "0.000000125",
        "input_cache_write_1h": "0.0000002",
        "overrides": [{ "min_prompt_tokens": 100000, "prompt": "0.0000005", "completion": "0.0000025" }]
      },
      "supported_parameters": ["max_tokens", "reasoning", "tool_choice", "tools"]
    }
  ],
  "default_model": "anthropic/claude-haiku-5.5",
  "custom_models_allowed": false
}

Catálogo hospedado

No serviço hospedado, o catálogo lista os modelos que o Ephemeral consegue cobrar com segurança. Um modelo é listado quando tem preços de tokens de entrada e de saída e nenhuma outra cobrança que não possa ser limitada com antecedência. Entrada em cache e faixas de preço de contexto longo (overrides) não são problema: cada chamada é autorizada na faixa mais cara do modelo e cobrada pelo valor que o provedor informa. Quando o provedor publica os parâmetros que um modelo aceita, a lista deve incluir tools, porque o agente trabalha por meio de chamadas de ferramentas. custom_models_allowed é false.

O catálogo fica em cache por um minuto. Os preços são verificados de novo antes de cada chamada ao modelo, e cada chamada é autorizada contra o orçamento da execução ao preço atual. Se um modelo deixar de atender aos critérios, as chamadas a ele são recusadas e a execução falha. Veja orçamentos e faturamento.

As execuções hospedadas enviam apenas texto. Entradas de imagem, áudio e arquivo para o modelo são recusadas.

Catálogo auto-hospedado

Uma instalação auto-hospedada lista apenas o seu modelo padrão configurado, e custom_models_allowed é true. As execuções podem indicar qualquer ID de modelo que o seu endpoint de inferência aceite. O catálogo não consulta nem expõe as suas credenciais de inferência.