Modelos · Documentación de Ephemeral

El catálogo de modelos lista los modelos que pueden usar las ejecuciones y el predeterminado que se aplica cuando una ejecución no indica ninguno. No necesita clave de API.

GET/v1/models

Devuelve el catálogo de esta instalación.

Respuesta

itemsarray

Modelos compatibles, ordenados por ID.

default_modelstring

El modelo que usa una ejecución cuando no tiene el campo model.

custom_models_allowedboolean

Si las ejecuciones pueden indicar un modelo que no está en items.

Cada elemento

idstring

El valor que se pasa como model, como anthropic/claude-haiku-5.5.

namestring

Nombre para mostrar.

context_lengthinteger

Ventana de contexto en tokens, cuando el proveedor la publica.

pricingobject

Precios del proveedor en dólares estadounidenses por token, como cadenas decimales. prompt es la entrada y completion es la salida.

supported_parametersstring[]

Parámetros de solicitud que el proveedor admite para este modelo, cuando se publican.

Terminal

curl $EPHEMERAL_URL/v1/models

JSON

{
  "items": [
    {
      "id": "anthropic/claude-haiku-5.5",
      "name": "Anthropic: Claude Haiku 5.5",
      "context_length": 1000000,
      "pricing": {
        "prompt": "0.0000001",
        "completion": "0.0000005",
        "input_cache_read": "0.00000001",
        "input_cache_write": "0.000000125",
        "input_cache_write_1h": "0.0000002",
        "overrides": [{ "min_prompt_tokens": 100000, "prompt": "0.0000005", "completion": "0.0000025" }]
      },
      "supported_parameters": ["max_tokens", "reasoning", "tool_choice", "tools"]
    }
  ],
  "default_model": "anthropic/claude-haiku-5.5",
  "custom_models_allowed": false
}

Catálogo del servicio alojado

En el servicio alojado, el catálogo muestra los modelos que Ephemeral puede facturar con seguridad. Un modelo aparece en la lista cuando tiene precios de tokens de entrada y de salida y ningún otro cargo que no pueda acotarse de antemano. La entrada en caché y los tramos de precio de contexto largo (overrides) son válidos: cada llamada se autoriza al tramo más caro del modelo y se cobra lo que informa el proveedor. Cuando el proveedor publica los parámetros que admite un modelo, la lista debe incluir tools, porque el agente trabaja mediante llamadas a herramientas. custom_models_allowed es false.

El catálogo se guarda en caché durante un minuto. Los precios se comprueban de nuevo antes de cada llamada al modelo, y cada llamada se autoriza contra el presupuesto de la ejecución al precio actual. Si un modelo deja de cumplir los requisitos, las llamadas a él se rechazan y la ejecución falla. Consulta presupuestos y facturación.

Las ejecuciones alojadas envían solo texto. Las entradas de imagen, audio y archivo al modelo se rechazan.

Catálogo autoalojado

Una instalación autoalojada lista solo su modelo predeterminado configurado, y custom_models_allowed es true. Las ejecuciones pueden indicar cualquier ID de modelo que acepte tu endpoint de inferencia. El catálogo no consulta ni expone tus credenciales de inferencia.