ComputeMesh Architektur- & Integrationshandbuch
Umfassende Dokumentation zur Integration des OpenAI-kompatiblen Gateways, zur Einrichtung von Provider-Knoten und zur Skalierung von Workloads.
1. OpenAI-kompatibler Gateway-Schnellstart
Das Gateway implementiert eine vollständige OpenAI-kompatible `/v1`-REST-Schnittstelle. Passe einfach die `base_url` an und nutze deinen ComputeMesh API-Key in Python, TypeScript, Go oder cURL.
from openai import OpenAI
client = OpenAI(
base_url="https://mesh.inetconnector.com/v1",
api_key="cm_live_your_api_key_here"
)
response = client.chat.completions.create(
model="qwen2.5:7b",
messages=[{"role": "user", "content": "Explain the ComputeMesh decentralized architecture."}],
stream=True
)
for chunk in response:
print(chunk.choices[0].delta.content or "", end="", flush=True)
⚡ Interaktiver Browser-Playground
Live StreamingKlicke auf "Inferenz starten", um Tokens live aus dem Mesh zu streamen.
2. Verteilte Mesh-Architektur
ComputeMesh verbindet unabhängige GPU-Knoten zu einem einheitlichen Rechennetzwerk. Anfragen werden dynamisch nach Latenz, VRAM und Durchsatz geroutet.
➔ Placement Engine wählt optimale GPU-Nodes (Latenz & VRAM)
➔ Pipeline-Sharded Execution über Hochgeschwindigkeits-Wire
➔ Zero-Knowledge Ausführungsnachweis (Ed25519)
➔ Transparente Verbuchung im Double-Entry-Ledger
3. Pipeline-Layer-Sharding-Technologie
Unsere Sharding-Engine teilt große Sprachmodelle dynamisch auf mehrere GPUs auf, sodass auch sehr große Modelle auf handelsüblicher Hardware mit maximaler Geschwindigkeit laufen.
4. Provider-Node einrichten
Tritt dem Netzwerk in wenigen Minuten bei. Unser nativer Agent steht für Windows (mit übersichtlicher Tray-App) und Linux (als Server-Daemon und Docker) zur Verfügung.
Alle Verbindungen sind Ende-zu-Ende über mTLS und Ed25519-Schlüssel gesichert.
5. Mining-Rig NodeOS Appliance
NodeOS ist ein maßgeschneidertes, bootfähiges Linux-Betriebssystem für Multi-GPU-Mining-Rigs (4 bis 12 GPUs) mit automatischer Treiber-Konfiguration und Plug-and-Play-Anbindung.
6. Transparenter Ledger & automatische Abrechnung
Alle Inferenz-Abrechnungen und Provider-Vergütungen werden in einem manipulationssicheren Double-Entry-Ledger geführt. Hardware-Provider erhalten 75% des Kundenumsatzes mit automatischen Auszahlungen.