RunInfra
RunInfra · Coding
RunInfra ist eine KI-Inferenzplattform, die zwei Aufgaben in einem einzigen Konto abdeckt. Sie können die Modelle mit offenen Gewichten, die sie bereits hostet, über eine OpenAI-kompatible und eine Anthropic-kompatible API aufrufen, oder ihr ein Hugging-Face-Modell im Chat übergeben und einen Agenten den Serving-Stack für Sie abstimmen lassen. Sie richtet sich an Entwickler und kleine Teams, die Produktionsendpunkte wollen, ohne GPUs auszuwählen. Manuelles Provisionieren ist hier nicht die Aufgabe. LLM-Serving zu eigenen Bedingungen schon.
Über RunInfra
Was ist RunInfra
RunInfra vereint eine gehostete Modell-API und einen Optimierungsdienst in einem Arbeitsbereich. Die erste Hälfte funktioniert wie bei den meisten Modellanbietern: Sie senden eine HTTP-Anfrage an eine Basis-URL und bekommen die Completion zurück. Chat-Completions und das Responses-Format folgen der OpenAI-Spezifikation, während Messages der von Anthropic folgt. Bestehende SDKs passen daher meist mit einem Wechsel von URL und Schlüssel hinein. Keine GPU, die man auswählen muss. Kein Instanztyp, über den man streiten kann.
Die zweite Hälfte ist der Teil, der heraussticht. Sie beschreiben ein Hugging-Face-Modell in einfacher Sprache, und der Agent von RunInfra bewertet es, passt den Serving-Stack an und liefert ein gemessenes Ergebnis zurück. Danach behalten Sie entweder einen laufenden Endpunkt oder exportieren ein Deployment-Kit. Das Kit ist einsehbar und portabel, was bedeutet, dass Sie es später auf Ihre eigene Hardware umziehen können.
Die wichtigste Einschränkung sind Geld und Umfang. Der Zugang läuft über vorausbezahlte Credits statt über Stufen, Sie laden also auf, bevor Sie ausgeben, und der Arbeitsablauf neigt zum Technischen. Wenn Sie noch nie eine API-Schlüssel oder ein Modell-Repository angefasst haben, wirkt der Agenten-Chat wie viele bewegliche Teile. Ist das ein Ausschlusskriterium? Das können nur Sie sagen.
Erste Schritte
- Legen Sie ein RunInfra-Konto an und fügen Sie dem Guthaben des Arbeitsbereichs Credits hinzu. Neue Konten erhalten einmalig 1 $ gratis, und die Mindestaufladung beträgt 10 $.
- Erzeugen Sie einen API-Schlüssel im Dashboard und setzen Sie die Basis-URL auf
https://api.runinfra.ai/v1. - Richten Sie für gehostete Modelle Ihren bestehenden OpenAI- oder Anthropic-Client auf diese Basis-URL und wählen Sie ein veröffentlichtes Modell. Für ein eigenes Modell fügen Sie seinen Hugging-Face-Namen in den Chat-Agenten ein.
- Prüfen Sie das Benchmark-Ergebnis, das der Agent meldet, und wählen Sie dann einen Endpunkt oder exportieren Sie das Deployment-Kit.
- Binden Sie den Endpunkt in Ihre App oder Ihr Programmierwerkzeug ein und verfolgen Sie die Nutzung gegen Ihr Guthaben.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von RunInfra.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- Solo-Entwickler und kleine Teams, die KI-Funktionen ausliefern
- ML-Ingenieure mit einem Hugging-Face-Modell, das abgestimmt werden muss
- Kostenbewusste Entwickler
Aufgaben
- Einen gehosteten Anbieter in eine bestehende App tauschen
- Serving-Konfigurationen für ein Modell vergleichen
- Vom verwalteten Hosting weggehen
Szenarien
- Einen Programmieragenten wie Claude Code, Codex oder Cline über einen einzigen Arbeitsbereichsschlüssel mit Modellen offener Gewichte verbinden.
- Einen Prototyp-Endpunkt aufstellen, wenn Sie noch keine GPUs haben und sie nicht blind mieten wollen.
- Ein Modell portabel halten, damit ein Anbieterwechsel kein Neuschreiben bedeutet.
Wichtigste Funktionen
OpenAI-kompatible und Anthropic-kompatible API
RunInfra stellt Chat-Completions und Responses im OpenAI-Format und Messages im Anthropic-Format bereit. Wenn Ihr Code bereits mit einem der beiden Anbieter spricht, ändern Sie im Wesentlichen die Basis-URL und den Schlüssel. Das hält die Migration günstig. Es erlaubt zudem, dass ein Arbeitsbereich Apps bedient, die auf verschiedenen SDKs gebaut sind.
Chat-basierte Modelloptimierung
Sie nennen dem Agenten-Chat ein Hugging-Face-Modell und beschreiben, was Sie brauchen. Der Agent bewertet es, stimmt den Serving-Stack ab und meldet ein gemessenes Ergebnis, kein Versprechen. Dieser Ablauf trennt RunInfra von einem reinen Modellhost, weil der Abstimmungsschritt für Sie geschieht, statt Ihre Aufgabe zu bleiben.
Portable Deployment-Kits
Wenn die Optimierung fertig ist, können Sie einen Endpunkt bereitstellen oder ein Deployment-Kit exportieren. Das Kit ist einsehbar, Sie lesen also nach, was geändert wurde, und es ist portabel, Sie führen es also auf Ihrer eigenen Hardware aus. Das zählt, wenn die Abstimmungsarbeit jeden einzelnen Anbieter überdauern soll.
Ein Guthaben pro Arbeitsbereich
Agenten-Chat, Optimierungsläufe, bereitgestellte Endpunkte und Modell-API-Aufrufe ziehen alle vom selben Guthaben ab. Es gibt keinen Plan zu kaufen; Sie laden unterwegs Credits auf. Ein Credit entspricht einem Dollar, die Rechnung bleibt also einfach.
Breite Unterstützung für Programmieragenten
RunInfra veröffentlicht Verbindungsschritte für eine lange Liste von Programmierwerkzeugen, darunter Claude Code, Codex, OpenCode, Aider, Cline, Zed und andere. Das macht es zu einem brauchbaren Ersatz-Backend, wenn Sie Modelle mit offenen Gewichten im Editor oder Terminal wollen, das Sie ohnehin nutzen. Die Einrichtung ist dokumentiert, nicht geraten.
Vor- und Nachteile
Vorteile
- Keine GPU-Auswahl und kein Provisionieren, was den fehleranfälligsten Teil des Selbsthostings eines Modells entfernt.
- Vorausbezahlte Credits ohne Abo, leichte Nutzer zahlen also keinen monatlichen Sockelbetrag.
- Die Endpunkte sprechen OpenAI- und Anthropic-Formate, der meiste bestehende Code braucht also nur einen Wechsel von URL und Schlüssel.
- Das exportierbare Deployment-Kit hält die Abstimmungsarbeit außerhalb von RunInfra nutzbar.
- Für eine breite Menge von Programmieragenten existiert ein veröffentlichter Verbindungsweg.
Nachteile
- Der Arbeitsablauf setzt Vertrautheit mit API und Modell-Repositories voraus, nicht technische Nutzer finden ihn also rau.
- Vorausbezahlte Credits bedeuten, dass ein Aufruf bei Nullguthaben schon vor jeder Arbeit ein 402 zurückgibt, Sie müssen das Guthaben also im Blick behalten.
- Die Bibliothek führt keine Kategorie für RunInfra, die genaue Produktfamilie lässt sich also nicht aus den Produktdaten selbst festmachen.
Häufige Fragen
Es macht zwei Dinge. Sie können Modelle offener Gewichte, die es hostet, über OpenAI-kompatible oder Anthropic-kompatible API aufrufen, oder ihm ein Hugging-Face-Modell im Chat übergeben und einen Agenten den Serving-Stack zu einem Endpunkt oder einem portablen Kit abstimmen lassen.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu RunInfra.
Alternativen zu RunInfra
Forefront
Forefront · CodingForefront ist eine Webplattform zum Bauen mit Open-Source-KI. Sie lassen sich führende Open-Source-Sprachmodelle mit eigenen Daten feintunen, ihre Leistung bewerten und sie über eine API ausführen oder exportieren, um sie selbst zu hosten. Entwickler, die den Komfort einer geschlossenen Plattform wollen, aber darauf bestehen, ihre Modelle und Daten zu besitzen, sind hier die Zielgruppe.
Startkit
StartKit.AI · CodingStartkit ist ein Boilerplate zum Bauen von KI-SaaS-Produkten und KI-Wrappern. Man kann es sich als KI-Startup-Boilerplate vorstellen, bei dem die langweiligen Teile schon verdrahtet sind: Authentifizierung, Zahlungen über Stripe und Lemon Squeezy, Nutzungslimits, transaktionale E-Mail und ein KI-API-Starter-Kit, das mit OpenAI, Anthropic, Groq oder Llama spricht. Man klont das Repository, setzt seinen Preis und kümmert sich um den Teil des Produkts, für den Menschen wirklich bezahlen. Es basiert auf Next.js über React und Tailwind, deshalb fühlt sich ein Großteil des Boilerplate-Codes schon vertraut an.
Testim
Tricentis · CodingTestim ist eine KI-gestützte Plattform für Testautomatisierung, mit der man End-to-End-Tests für Web-, Mobile- und Salesforce-Anwendungen baut und ausführt. Sie setzt auf maschinelles Lernen, um Tests stabil zu halten, wenn sich eine Oberfläche ändert, sodass Teams weniger Zeit mit der Reparatur kaputter Selektoren verbringen. Nicht schlecht für ein Tool für automatisierte Tests, das Sie heute schon nutzen können. Sie erstellen Tests, indem Sie Aktionen im Browser aufzeichnen, und fügen danach JavaScript hinzu, wenn Sie mehr Kontrolle brauchen. Für ein beschäftigtes QA-Team eine solide Wahl.