Modelle · Ephemeral Docs

Der Modellkatalog listet die Modelle auf, die Ausführungen nutzen können, und das Standardmodell, das gilt, wenn eine Ausführung keines nennt. Er braucht keinen API-Schlüssel.

GET/v1/models

Liefert den Katalog dieser Installation.

Antwort

itemsarray

Unterstützte Modelle, nach ID sortiert.

default_modelstring

Das Modell, das eine Ausführung ohne model-Feld verwendet.

custom_models_allowedboolean

Ob Ausführungen ein Modell nennen dürfen, das nicht in items steht.

Jeder Eintrag

idstring

Der Wert, der als model übergeben wird, etwa anthropic/claude-haiku-5.5.

namestring

Anzeigename.

context_lengthinteger

Kontextfenster in Tokens, sofern der Anbieter es veröffentlicht.

pricingobject

Preise des Anbieters in US-Dollar pro Token, als Dezimalstrings. prompt ist die Eingabe und completion die Ausgabe.

supported_parametersstring[]

Anfrageparameter, die der Anbieter für dieses Modell unterstützt, sofern veröffentlicht.

Terminal

curl $EPHEMERAL_URL/v1/models

JSON

{
  "items": [
    {
      "id": "anthropic/claude-haiku-5.5",
      "name": "Anthropic: Claude Haiku 5.5",
      "context_length": 1000000,
      "pricing": {
        "prompt": "0.0000001",
        "completion": "0.0000005",
        "input_cache_read": "0.00000001",
        "input_cache_write": "0.000000125",
        "input_cache_write_1h": "0.0000002",
        "overrides": [{ "min_prompt_tokens": 100000, "prompt": "0.0000005", "completion": "0.0000025" }]
      },
      "supported_parameters": ["max_tokens", "reasoning", "tool_choice", "tools"]
    }
  ],
  "default_model": "anthropic/claude-haiku-5.5",
  "custom_models_allowed": false
}

Katalog beim gehosteten Dienst

Beim gehosteten Dienst listet der Katalog die Modelle auf, die Ephemeral sicher abrechnen kann. Ein Modell wird aufgeführt, wenn es Token-Preise für Eingabe und Ausgabe hat und keine anderen Kosten, die sich nicht vorab begrenzen lassen. Zwischengespeicherte Eingaben und Preisstufen für lange Kontexte (overrides) sind unproblematisch: Jeder Aufruf wird zur teuersten Stufe des Modells autorisiert und mit dem berechnet, was der Anbieter meldet. Veröffentlicht der Anbieter die Parameter, die ein Modell unterstützt, muss die Liste tools enthalten, weil der Agent über Tool-Aufrufe arbeitet. custom_models_allowed ist false.

Der Katalog wird eine Minute lang zwischengespeichert. Preise werden vor jedem Modellaufruf erneut geprüft, und jeder Aufruf wird zum aktuellen Preis gegen das Budget der Ausführung autorisiert. Erfüllt ein Modell die Bedingungen nicht mehr, werden Aufrufe daran abgelehnt und die Ausführung schlägt fehl. Siehe Budgets und Abrechnung.

Gehostete Ausführungen senden nur Text. Bild-, Audio- und Dateieingaben an das Modell werden abgelehnt.

Katalog bei Self-Hosting

Eine selbst gehostete Installation listet nur ihr konfiguriertes Standardmodell auf, und custom_models_allowed ist true. Ausführungen können jede Modell-ID nennen, die Ihr Inferenz-Endpunkt akzeptiert. Der Katalog fragt Ihre Inferenz-Zugangsdaten weder ab noch legt er sie offen.