Cerebras
Cerebras Systems · Coding
Cerebras Inference ist eine KI-Inferenz-Cloud und API, die Open-Source-Modelle auf Wafer-Scale-Hardware ausführt. Sie ist OpenAI-kompatibel und startet mit einer kostenlosen Testphase.
Über Cerebras
About
Was ist Cerebras
Cerebras baut den Wafer-Scale Engine, ein einzelnes Stück Silizium in Tellerformat statt eines Verbunds kleiner GPUs. Das Unternehmen betreibt darauf seine eigene Inferenz-Cloud, und der Dienst verkauft vor allem eines: Geschwindigkeit. Antworten kommen weit schneller zurück als bei üblichen GPU-Clouds, was für Coding-Agenten, Sprache und alles zählt, das in Echtzeit antworten muss.
Die öffentliche API ist OpenAI-kompatibel, deshalb braucht der Umzug einer bestehenden App meist zwei Änderungen: die Basis-URL auf api.cerebras.ai/v1 zeigen lassen und den Modellnamen tauschen. Wer eine andere KI-Inferenz-API verlässt, spart hier am meisten Arbeit. Der geteilte Katalog ist klein und ausschließlich Open Source. GPT OSS 120B und Qwen 3.8 27B liegen in der kostenlosen Testphase und im Pay-as-you-go-Tarif, während sich viele weitere Familien, darunter Qwen3, Llama, Mistral, GLM, Kimi und Gemma, über Dedicated Inference für Unternehmenskunden öffnen.
Die Preise richten sich nach Tokens, nicht nach Arbeitsplätzen. Cerebras rechnet pro Token ab, also Bezahlung pro Token statt pro Sitz. Neue Konten erhalten 5 Dollar Guthaben, das nach 30 Tagen abläuft, und eine dauerhaft kostenlose Stufe gibt es nicht. Pay-as-you-go beginnt mit einer Aufladung von 10 Dollar und hebt die Ratenlimits deutlich über die Testphase. Teams, die reservierte Kapazität, eigene Gewichte oder einen SLA brauchen, wechseln zu Dedicated Inference und einem ausgehandelten Vertrag.
Erste Schritte
- Registrieren Sie sich auf cloud.cerebras.ai und öffnen Sie API Keys in der linken Navigationsleiste, um einen Schlüssel anzulegen.
- Setzen Sie CEREBRAS_API_KEY in Ihrer Shell oder übergeben Sie ihn bei jeder Anfrage.
- Installieren Sie das SDK mit pip install cerebras_cloud_sdk oder npm install @cerebras/cerebras_cloud_sdk.
- Senden Sie eine Chat-Completion an api.cerebras.ai/v1 und wählen Sie ein Modell wie qwen-3.8-27b.
- Laden Sie Guthaben im Tab Billing, wenn Sie die Testphase überschreiten, oder kontaktieren Sie den Vertrieb für reservierte Kapazität.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von Cerebras.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- Entwickler von Echtzeit-Apps
- Teams, die von einem GPU-Anbieter umziehen
- Unternehmen, die reservierte Kapazität brauchen
- Startups, die mit kleinem Budget testen
Aufgaben
- Coding-Agenten versorgen
- Tool-Nutzung ausführen
- Konversation bedienen
- Lange Eingaben zusammenfassen
- Strukturierte Daten extrahieren
Szenarien
- Ein Sprachassistent, der mitten im Satz antwortet
- Ein Coding-Agent über Nacht
- Ein Support-Bot unter Last
- Ein Umzug von einem geschlossenen Modell
Wichtigste Funktionen
Wafer-Scale-Hardware
Die Chipgeneration hinter dem Dienst ist die WSE-3, und Cerebras führt die Inferenz auf dem Wafer-Scale Engine aus statt auf vielen kleinen Matrizen, die per Netz verbunden sind. Rechnen und Speicher auf einem Stück Silizium zu halten, entfernt die Sprünge zwischen Chips, die geclusterte GPUs bremsen. Das Unternehmen meldet Inferenz bis zu 30-mal schneller als GPU-Systeme, und die Ergebnisse schwanken je nach Last und Modell.
OpenAI-kompatible API
Der Endpoint unter api.cerebras.ai/v1 entspricht dem OpenAI-Client, deshalb läuft bestehender Code meist, sobald Sie Basis-URL und Modellnamen ändern. Cerebras liefert SDKs für Python und Node.js, und cURL-Aufrufe funktionieren ohne Installation. Das ist die Funktion, die den Wechsel günstig macht.
Geteilte und dedizierte Inferenz
Geteilte Inferenz führt den öffentlichen Katalog bei Bedarf aus, mit Limits pro Modell und ohne Einrichtung. Dedicated Inference reserviert Kapazität für eine Organisation und ergänzt stabile Endpoints, konfigurierbaren Durchsatz, eigene Gewichte, eine Management-API, eine Batch-API und Prometheus-kompatible Metriken.
Steuerung des Schlussfolgerns
Die Modelle bieten eine Einstellung reasoning_effort mit den Stufen none, low, medium und high, mit der Sie das Nachdenken bei einer harten Aufgabe hochdrehen oder bei einer einfachen abschalten. Die Option reasoning_format legt fest, ob Denk-Tokens getrennt, an die Antwort angehängt oder verborgen zurückkommen.
Ratenlimits und Prompt-Caching
Limits werden in Anfragen und Tokens pro Minute, Stunde und Tag gemessen, was zuerst eintritt. Zwischengespeicherte Tokens umgehen das Uncached-Limit, deshalb kann eine hohe Cache-Trefferquote den effektiven Durchsatz im selben Kontingent vervielfachen. Entwicklerkonten streichen die Stunden- und Tagesgrenzen ganz.
Verwaltung dedizierter Endpoints
Unternehmenskunden definieren Endpoints, Deployments und Replicas über eine Management-API. Sie stellen angepasste Gewichte neben Standardversionen, justieren Kapazität und Quantisierung und leiten Anfragen nach Modellarchitektur, ohne die Endpoint-ID zu ändern, die Ihre App bereits aufruft.
Modellportfolio für Unternehmen
Über die zwei geteilten Modelle hinaus unterstützt Dedicated Inference Qwen3 und Qwen3-Coder, GPT OSS, Llama 3 und 4, Mistral und Devstral, GLM 4 und 5, Kimi K2, DeepSeek V3, Gemma 4 und weitere. Multimodale Modelle wie Gemma 4 nehmen Bildeingaben an, und jedes Modell lässt sich auf Latenz oder Durchsatz abstimmen.
Batch-API für große Aufträge
Die Batch-API führt große asynchrone Lasten auf reservierter Kapazität aus, was zu Aufträgen passt, die keine sofortige Antwort brauchen. Sie kombiniert sich mit vorhergesagten Ausgaben, einer Einstellung, bei der Sie den erwarteten Inhalt liefern, um die Latenz weiter zu senken.
Vor- und Nachteile
Vorteile
- Schnelle Inferenz, die das Gefühl von Echtzeit- und Agenten-Apps wirklich verändert.
- Die OpenAI-kompatible API senkt die Kosten eines Anbieterwechsels.
- Das Testguthaben von 5 Dollar und der Einstieg bei 10 Dollar erleichtern das Ausprobieren.
- Dedicated Inference deckt eigene Gewichte, SLAs und reservierte Kapazität für die Produktion ab.
- Prompt-Caching streckt dasselbe Limit, um mehr Tokens insgesamt zu bedienen.
Nachteile
- Der geteilte Katalog ist kurz, mit nur GPT OSS 120B und Qwen 3.8 27B in der Test- und der Pay-as-you-go-Stufe.
- Es gibt keine dauerhaft kostenlose Stufe; Guthaben läuft nach 30 Tagen ab.
- Mehr Modellfamilien und multimodale Eingaben erfordern Dedicated Inference, das nur für Unternehmen ist.
- Genaue Token-Preise und dedizierte Angebote stehen nicht in der Dokumentation, deshalb braucht die Kalkulation ein Gespräch mit dem Vertrieb.
Häufige Fragen
Es ist eine KI-Inferenz-Cloud und API von Cerebras Systems, die Open-Source-Modelle auf dem Wafer-Scale Engine ausführt, einem Chip in Wafergröße. Sie ist auf Geschwindigkeit ausgelegt und mit dem OpenAI-Client kompatibel.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu Cerebras.
Alternativen zu Cerebras
Base Code
Base44 (Wix) · Coding · ProduktivitätBase Code ist eine geteilte Cloud-Entwicklungsumgebung von Base44. Das Team beschreibt Änderungen an einem bestehenden GitHub-Repository im Chat, prüft sie in der Vorschau und reicht sie als Pull Request ein.
Google EmbeddingGemma 2
Google DeepMind · Schreiben · Bilder · CodingGoogle EmbeddingGemma 2 ist ein offenes Modell mit 740 Millionen Parametern, das Text, Code, Bilder, Audio und Videobilder in Vektoren eines gemeinsamen 768-dimensionalen Raums umwandelt und auf Handys und Notebooks läuft.
GitGlow
GitGlow · Coding · ProduktivitätGitGlow ist ein Git-Client für den Desktop, der Ihren Code und die Änderungen Ihrer KI-Agenten in einer Review bündelt, damit Sie vor dem Ausliefern sehen, was die Maschine verlässt.