Awan LLM

Jeder Tarif, auch der kostenlose, verspricht unbegrenzte Token-Generierung bis zum Kontextfenster des jeweiligen Modells. Sie zahlen den Tarif, nicht Eingabe oder Ausgabe, ein langer Prompt oder eine lange Antwort kostet also nichts zusätzlich. Die monatliche LLM-Pauschale dreht die Rechnung um: Mehr Nutzung macht das Angebot günstiger, und ein voller Monat bringt keine Überraschung auf der Karte.

Die OpenAI-kompatible API nutzt denselben Pfad: Anfragen gehen an https://api.awanllm.com/v1/chat/completions, mit denselben Feldern model und messages wie bei OpenAI sowie zusätzlichen Sampling-Reglern wie top_k und repetition_penalty. Auf der Quick-Start-Seite stehen Beispiele in Python, TypeScript und Shell, damit fast jedes OpenAI-SDK nach dem Tausch von Basis-URL und Schlüssel läuft. Streaming ist dabei, was in Chat-Oberflächen zählt, wo eine ausbleibende Antwort wie ein Fehler wirkt.

Statt eines globalen Kontingents teilt Awan die Limits in die Klassen klein, mittel und groß und gibt jedem Tarif ein Minuten- und ein Tagesbudget. Lite erlaubt 200 Anfragen pro Tag an kleine Modelle und 10 an große, Pro hebt das auf 80.000 und 30.000, Max streicht die Tagesgrenze und erlaubt parallele Anfragen. Die Minutengrenze reicht von 20 in den günstigen Tarifen bis 200 bei Max.

Die aktuellen Aushängeschilder der Llama-3.1-API sind Meta-Llama-3.1-8B-Instruct und Meta-Llama-3.1-70B-Instruct, beide mit 131.072 Tokens Kontext. Das 70B-Modell übernimmt die schwierigeren Denk- und Schreibaufgaben, die 8B-Modelle antworten schneller und verbrauchen weniger Anfragebudget. Awan nennt eine geschätzte Geschwindigkeit pro Modell: rund 50 Tokens pro Sekunde bei Einzelanfragen mit dem 8B, 20 beim 70B.

Neben den Originalgewichten von Meta listet der Katalog eigene Llama-3-8B-Varianten. Dolfin folgt Anweisungen genau und lehnt seltener ab, Cumulus ist auf Erzählen und Rollenspiel ohne Ablehnung ausgelegt, daneben steht eine abliterated Version von Instruct. Das sind Nischenwerkzeuge, doch in Fiktion und Figurenarbeit verhalten sie sich völlig anders als ein gefilterter Assistent: Wer unzensierte Llama-Modelle sucht, findet hier genau diese Nische.

Awan erklärt in der Datenschutzerklärung, weder Prompts noch Ausgaben zu speichern, und wiederholt das auf der Startseite. Wer Kundenmaterial, unveröffentlichte Entwürfe oder private Gespräche durch eine API schickt, entscheidet oft genau deswegen für den Anbieter. Nehmen Sie es als Zusage des Unternehmens, nicht als geprüfte Garantie: Bei regulierten Daten gehört die Prüfung der Bedingungen in Ihre Hand.