Mit Klarheit entwickeln.

Wo wir stehen

Die API ist gebaut und getestet. Bis die erste Modellroute öffnet, liefern Chat-Anfragen 503 inference_not_configured. Den aktuellen Stand finden Sie immer unter https://undergrove.vercel.app/api/status.

Sie folgt dem Format der OpenAI-API, vorhandene SDKs funktionieren also, wenn Sie die Basis-URL ändern: Chat mit Bildern, Function Calling und strukturierten Ausgaben, dazu Embeddings, Transkription und Sprachausgabe. Damit Anfragen selbst für unser Gateway unlesbar bleiben, nutzen Sie den verschlüsselten Modus, wie der Arbeitsbereich.

Schnellstart

Basis-URL: https://undergrove.vercel.app/v1. Modelle mit GET /v1/models auflisten, dann eine Antwort streamen:

curl https://undergrove.vercel.app/v1/chat/completions \
  -H "Authorization: Bearer $UNDERGROVE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "<model-id>",
    "stream": true,
    "messages": [{"role": "user", "content": "Help me explore an idea."}]
  }'

Playground

Senden Sie von dieser Seite mit Ihrem eigenen Schlüssel eine Chat-Anfrage und sehen Sie die Antwort, ihre Nutzung und die Rohantwort, dazu dieselbe Anfrage als curl. Sie geht von Ihrem Browser an /v1 dieser Website, wie jeder andere API-Aufruf, und verbraucht wie gewohnt Ihr Kontingent oder Guthaben.

Wählen Sie „Verschlüsselt“, um sie so zu senden wie der verschlüsselte Modus der SDKs: Das SDK von Tinfoil verifiziert die Enklave in dieser Seite und versiegelt die Anfrage dann für sie. Der Playground zeigt die Bytes, die die Seite tatsächlich verlassen haben, was zurückkam, und den Beleg für die Enklave, für die versiegelt wurde.

curl --no-buffer https://undergrove.vercel.app/v1/chat/completions \
  -H "Authorization: Bearer $UNDERGROVE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "<model-id>",
    "messages": [
      {
        "role": "user",
        "content": "Hilf mir, eine Idee zu erkunden."
      }
    ],
    "stream": true
  }'

Authentifizierung

Senden Sie einen API-Schlüssel von Undergrove als Bearer-Token. Schlüssel beginnen mit ugk_ und werden während der Alpha auf Einladung ausgegeben. Wo Self-Service-Schlüssel eingeschaltet sind, erstellen Alpha-Mitglieder bis zu fünf in den Einstellungen des Arbeitsbereichs, und jeder verbraucht Kontingent und Guthaben seines Kontos. Wir speichern nur einen Einweg-Hash jedes Schlüssels; ein verlorener Schlüssel lässt sich daher nicht wiederherstellen, nur ersetzen.

Jeder Self-Service-Schlüssel kann eigene Limits haben, beim Erstellen oder später in den Einstellungen festgelegt: ein Tageslimit für Ausgaben, nach dessen Erreichen seine Anfragen bis Mitternacht UTC abgewiesen werden, und eine Liste der Modelle, die er nutzen darf. Ein begrenzter Schlüssel zählt weiterhin gegen das Kontingent seines Kontos. Schlüssel, die vor Einführung der Limits erstellt wurden, haben keine und funktionieren wie bisher.

curl https://undergrove.vercel.app/v1/models \
  -H "Authorization: Bearer $UNDERGROVE_API_KEY"

Endpunkte

Antworten haben die Standardform chat.completion. Streams senden chat.completion.chunk-Ereignisse und enden mit data: [DONE]. Reasoning-Modelle streamen ihr Reasoning getrennt in delta.reasoning_content, und der letzte Chunk meldet die Token-Nutzung. Bricht ein Stream ab, ist das letzte Ereignis ein Fehlerobjekt statt [DONE], sodass eine Teilantwort nie für eine vollständige gehalten wird.

curl https://undergrove.vercel.app/v1/embeddings \
  -H "Authorization: Bearer $UNDERGROVE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "undergrove/nomic-embed-text",
    "input": ["Where is the signed contract?", "Payment terms"]
  }'

Parameter

curl https://undergrove.vercel.app/v1/chat/completions \
  -H "Authorization: Bearer $UNDERGROVE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "<model-id>",
    "max_tokens": 500,
    "messages": [{"role": "user", "content": "Is it raining in Lisbon?"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Current weather for a city",
        "parameters": {
          "type": "object",
          "properties": {"city": {"type": "string"}},
          "required": ["city"]
        }
      }
    }]
  }'

Verschlüsselter Modus

Die Standard-API liest unser Gateway im Arbeitsspeicher, um jede Anfrage zu prüfen. Damit Anfragen auch für Undergrove unlesbar bleiben, nutzen Sie das SDK von Tinfoil mit Ihrem Schlüssel. Es prüft die Hardware-Attestierung der Enklave und verschlüsselt dann jede Anfrage so, dass nur diese Enklave sie lesen kann. Unser Relay prüft Ihren Schlüssel und Ihr Kontingent und reicht den Chiffretext weiter.

import { SecureClient } from "tinfoil"; // npm install tinfoil

const RELAY = "https://undergrove.vercel.app/api/enclave";
const client = new SecureClient({
  baseURL: `${RELAY}/v1/`,
  attestationBundleURL: RELAY,
});
await client.ready(); // verifies the enclave; throws if it can't

const response = await client.fetch("chat/completions", {
  method: "POST",
  headers: {
    authorization: `Bearer ${process.env.UNDERGROVE_API_KEY}`,
    "content-type": "application/json",
  },
  body: JSON.stringify({
    model: "gemma4-31b", // enclave_model in /v1/models
    max_tokens: 1000,
    messages: [{ role: "user", content: "Summarise this contract." }],
  }),
});
console.log((await response.json()).choices[0].message.content);

Derselbe Client erreicht embeddings, audio/transcriptions und audio/speech. Da das Relay diese Anfragen nicht lesen kann, werden Modelle über ihre enclave_model-id aus /v1/models benannt, Antworten kommen im Format von Tinfoil zurück, und die Nutzung wird aus der Größe der verschlüsselten Daten geschätzt. Kontingente und Guthaben gelten wie gewohnt.

MCP-Server

Undergrove ist auch ein Model-Context-Protocol-Server, unter https://undergrove.vercel.app/mcp. Jedes Live-Modell ist ein Werkzeug, etwa ask_<model>, das MCP-Clients wie Claude Code, Cursor und Claude Desktop mit Ihrem API-Schlüssel aufrufen können. Ein Werkzeug nimmt einen prompt und optional system, max_tokens sowie, bei Modellen mit Suche, web_search, und gibt die Antwort des Modells als Text zurück.

Ein Werkzeugaufruf ist eine API-Anfrage wie jede andere: Das Gateway liest ihn im Arbeitsspeicher, sendet ihn über die veröffentlichte Route des Modells, bewahrt keine Kopie auf und rechnet ihn auf Limits, Kontingent und Guthaben Ihres Schlüssels an. Der Server nutzt Streamable HTTP, antwortet in JSON und hält keine Sitzungen. Er unterstützt die Protokollversionen 2025-11-25, 2025-06-18 und 2025-03-26.

claude mcp add --transport http undergrove https://undergrove.vercel.app/mcp \
  --header "Authorization: Bearer ugk_your_key"

{
  "mcpServers": {
    "undergrove": {
      "url": "https://undergrove.vercel.app/mcp",
      "headers": {
        "Authorization": "Bearer ugk_your_key"
      }
    }
  }
}

{
  "mcpServers": {
    "undergrove": {
      "command": "npx",
      "args": [
        "-y",
        "mcp-remote",
        "https://undergrove.vercel.app/mcp",
        "--header",
        "Authorization:${AUTH_HEADER}"
      ],
      "env": {
        "AUTH_HEADER": "Bearer ugk_your_key"
      }
    }
  }
}

curl https://undergrove.vercel.app/mcp \
  -H "Authorization: Bearer ugk_your_key" \
  -H "Content-Type: application/json" \
  -H "Accept: application/json, text/event-stream" \
  -d '{"jsonrpc": "2.0", "id": 1, "method": "tools/list"}'

Rufen Sie dann das Werkzeug eines Modells auf:

curl https://undergrove.vercel.app/mcp \
  -H "Authorization: Bearer $UNDERGROVE_API_KEY" \
  -H "Content-Type: application/json" \
  -H "Accept: application/json, text/event-stream" \
  -d '{
    "jsonrpc": "2.0",
    "id": 2,
    "method": "tools/call",
    "params": {
      "name": "ask_<model>",
      "arguments": {"prompt": "Name three uses for a sealed envelope."}
    }
  }'

Umgekehrt kann der Arbeitsbereich Werkzeuge von MCP-Servern nutzen, die Sie in den Einstellungen verbinden. Diese Aufrufe gehen im Klartext über den Server von Undergrove an den verbundenen Server, nutzen Sie also Server, denen Sie mit dem anvertrauen, was die Werkzeuge erhalten.

Fehler und Limits

Fehler nutzen das OpenAI-Format: {"error": {"message", "type", "code"}}.

Während der Alpha hat jeder Schlüssel und jedes Konto ein Kontingent pro Minute, für tägliche Anfragen und für tägliche Ausgaben. Die aktuellen Werte stehen unter /api/status.

HTTP/2 429
retry-after: 41

{
  "error": {
    "message": "You’re sending messages quickly. Please wait a moment.",
    "type": "rate_limit_error",
    "code": "rate_limited"
  }
}

Wissen, wohin Ihre Daten gehen

Das Gateway prüft Ihren Schlüssel, wendet Limits an und leitet nur die oben genannten Felder an die Modellroute weiter. Es bewahrt keine Kopie von Prompts oder Antworten auf und protokolliert sie nicht. Seine Logs erfassen nur Routennamen, Statuscodes und Zeiten. Zähler für Ratenlimits nutzen einen Einweg-Hash Ihres Schlüssels oder Kontos und verfallen innerhalb von zwei Tagen.

Betreiber, Standort und Aufbewahrung jeder Modellroute sind im Modellregister unter /api/status und auf der Datenschutzseite veröffentlicht. Anfragen weichen nie auf eine andere Route aus. Vercel, unser Hoster, bewahrt übliche Anfrage-Metadaten wie IP-Adressen auf.

Auf Confidential-Computing-Routen prüft das API-Gateway vor dem Verbinden die Hardware-Attestierung der Enklave und verschlüsselt jede Anfrage so, dass nur diese Enklave sie lesen kann. Das Gateway selbst liest API-Anfragen weiterhin im Arbeitsspeicher, um sie zu prüfen.

Daten im Arbeitsbereich

Synchronisierung, geteilte Links und geteilte Projekte speichern nur Geheimtext, den der Browser erzeugt hat. Jedes Diagramm zeigt Schritt für Schritt, wer den Schlüssel hat.

Was die Prüfung belegt

Bevor etwas gesendet wird, führt der Arbeitsbereich den Open-Source-Prüfer von Tinfoil in Ihrem Browser aus. Er prüft den Hardware-Attestierungsbericht der Enklave anhand der Signaturschlüssel von AMD oder Intel, prüft, dass der in der Enklave gemessene Code einem von Tinfoil auf GitHub veröffentlichten und signierten Release entspricht, und prüft, dass der verwendete Verschlüsselungsschlüssel zu dieser Enklave gehört. Wählen Sie im Arbeitsbereich Geprüft, um jede Prüfung, das Release und die Messung zu sehen.

Sie belegt, dass Ihre Nachrichten nur von dieser Hardware mit diesem veröffentlichten Code entschlüsselt werden können. Sie belegt nicht, dass der veröffentlichte Code fehlerfrei ist, schützt nicht vor Schwächen der Prozessoren selbst und erfasst nicht, was Sie mit Antworten tun, sobald sie Ihren Browser erreichen. Der Code des Arbeitsbereichs wird von Undergrove ausgeliefert, Sie vertrauen also darauf, dass wir den Prüfer so ausliefern, wie er veröffentlicht ist; Diese Seite prüfen vergleicht den Code, den Ihr Browser geladen hat, mit dem Build-Manifest, und npm run verify:site vergleicht die Website mit Ihrem eigenen Build desselben Commits. Eine unabhängige Prüfung ist geplant.

Jede Antwort aus einer Enklave hat eine Schaltfläche Beleg. Sie zeigt die Enklave, das Release und die Messwerte, die vor dem Senden dieser Anfrage geprüft wurden, sowie den Schlüssel, für den verschlüsselt wurde, und lädt sie als JSON herunter. Bis der Tab geschlossen wird, enthält der Download den Attestierungsbericht, sodass Sie den Prüfer später erneut darauf anwenden können; danach enthält er den Hash des Berichts und wo der aktuelle Bericht der Enklave abgerufen werden kann. Der Beleg ist die Aufzeichnung Ihres Browsers, keine signierte Erklärung, und die Enklave, die er nennt, ist der Modell-Router von Tinfoil; der Router gibt Anfragen an die eigene Enklave des Modells weiter. Der Beleg nennt auch diese Enklave, und Ihr Browser versucht, sie auf dieselbe Weise zu prüfen. Die meisten Modell-Enklaven laufen auf Intel TDX, das der Prüfer im Browser noch nicht prüfen kann; in diesen Fällen sagt der Beleg das, und die Prüfung stützt sich auf den Router, dessen veröffentlichter Code jede Modell-Enklave prüft, bevor er sie nutzt.

# The attestation bundle the gateway verified, what it checked
# in it, and the steps to check it again yourself
curl https://undergrove.vercel.app/v1/attestation

Was als Nächstes kommt