Führende Open-Source KI-Modelle sofort einsatzbereit
Wähle aus den leistungsstärksten State-of-the-Art Modellen. Vollständig optimiert für verteiltes Inferenz-Streaming mit maximalem Token-Durchsatz und 100% OpenAI Drop-In API.
Qwen 2.5 Coder 32B
Top-Tier Code-Generierung, Refactoring, Multi-File-Synthese und autonome Agenten-Steuerung.
DeepSeek-R1 (Distill 32B / 671B MoE)
Reinforcement-Learning Reasoning-Modell mit explizitem Chain-of-Thought für komplexe Logik- und Mathe-Aufgaben.
Llama 3.3 70B Instruct
Meta's Flaggschiff für mehrsprachige Dialoge, komplexe Analysen und professionelle Enterprise-Assistenten.
Qwen 2.5 VL 7B / MiniCPM-V
Visuelle Dokumentenanalyse, OCR, UI-Screenshots, Diagramme und detaillierte Bildbeschreibungen.
Mistral NeMo 12B
Gemeinsam mit NVIDIA trainiert. Extrem effiziente und reaktionsschnelle Allround-Inferenz.
Phi-3 Mini (3.8B)
Microsofts ultra-kompaktes Modell. Perfekt für Edge-Nodes, Smartphones und schnelle Chat-Routinen.
Jedes Modell mit 2 Zeilen Code ansteuern
Tausche einfach die `base_url` und den `api_key` in deinen bestehenden OpenAI SDKs aus:
from openai import OpenAI
client = OpenAI(
base_url="https://mesh.inetconnector.com/v1",
api_key="cm_live_your_key"
)
response = client.chat.completions.create(
model="qwen2.5:7b",
messages=[{"role": "user", "content": "Schreibe einen Algorithmus für verteiltes Inferenz-Routing."}],
stream=True
)
for chunk in response:
if chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)