Orpheus TTS

Orpheus TTS

Canopy Labs · Stimme & Sprache

Orpheus TTS ist ein Open-Source-Text-to-Speech-Modell von Canopy Labs auf Llama-3B-Basis, das Stimmen ohne Training klont, Emotions-Tags hinzufügt und Audio mit niedriger Latenz streamt.

Vorschau der Oberfläche von Orpheus TTS

Über Orpheus TTS

About

Was ist Orpheus TTS

Orpheus TTS ist ein Open-Source-Text-to-Speech-Modell von Canopy Labs. Es läuft auf einer Llama-3B-Basis, das heißt, das Team überträgt Techniken großer Sprachmodelle auf die Sprachsynthese statt auf eine klassische akustische Kette. Das Ergebnis ist eine Stimme mit natürlichem Rhythmus, natürlicher Intonation und Emotion, und das Projekt veröffentlicht Code und Gewichte, damit jeder es ausführen kann.

Die Idee ist einfach. Ältere Sprachsysteme lösten jede Stufe, die Textanalyse, das Timing und die Audioerzeugung, mit getrennten Bausteinen. Orpheus behandelt das Problem als eine Generierungsaufgabe, die ein Sprachmodell bereits beherrscht. Das Modell lernte, Sprach-Einheiten zu erzeugen, so wie ein Sprachmodell Wörter erzeugt, und dieser Ansatz brachte ein emergentes Verhalten hervor, das laut den Autoren mit einigen Closed-Source-Optionen mithält oder sie übertrifft.

Sie bekommen ein Werkzeug für Entwickler, keine fertige App. Es gibt keine Website, auf der Sie einen Satz eintippen und eine Datei herunterladen. Sie installieren das Paket, hosten das Modell und binden es in Ihr eigenes Produkt ein. Diese Flexibilität zählt, wenn Sie Sprachausgabe ohne Kosten pro Anfrage wollen, und sie bedeutet auch, dass Sie sich um Hardware und Einrichtung kümmern.

Erste Schritte

  1. Klonen Sie das Repository oder installieren Sie das Paket mit pip install orpheus-speech, das intern vllm für schnelle Inferenz nutzt.
  2. Laden Sie ein Modell wie canopylabs/orpheus-tts-0.1-finetune-prod über die Klasse OrpheusModel.
  3. Schreiben Sie Ihren Text mit einem optionalen Sprechernamen und Emotions-Tags und rufen Sie generate_speech mit einer Stimme aus der Liste auf.
  4. Streamen Sie die zurückgegebenen Audioabschnitte in eine WAV-Datei oder direkt in Ihre App zur Wiedergabe in Echtzeit.
  5. Für Ihre eigene Stimme bereiten Sie einen Hugging-Face-Datensatz vor und starten die Skripte zum Feintuning, mit dem Ziel von etwa 300 Beispielen pro Sprecher.

Produktinformationen

Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von Orpheus TTS.

Kostenloser TarifJa
Bezahlte TarifeN/A
PlattformLinux, Windows, macOS, Docker
EntwicklerCanopy Labs
KategorieStimme & Sprache
VeröffentlichungsdatumApr 2025
Zuletzt aktualisiertMay 2025
Website-Besuche5.2K
Globales Website-Ranking2.7M
API-VerfügbarkeitN/A

Am besten für

Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.

Nutzer

  • Entwickler, die einer App Sprache hinzufügen
  • Kreative, die eine bestimmte Stimme wollen
  • Wer Echtzeitgespräche baut

Aufgaben

  • Eine Stimme aus einer kurzen Probe klonen
  • Emotion in die Erzählung bringen
  • Sprache in mehreren Sprachen erzeugen
  • Sprache lokal für den Datenschutz betreiben

Szenarien

  • Eine Schleife für einen Sprachassistenten betreiben
  • Hörbücher und lange Skripte vertonen
  • Ein Video in eine andere Sprache synchronisieren

Wichtigste Funktionen

Menschlich klingende Sprache

Orpheus TTS erzeugt Intonation, Emotion und Rhythmus, die laut den Autoren mit den besten Closed-Source-Systemen mithalten oder sie übertreffen. Es greift Hinweise im Text auf und kann dort ein Seufzen oder Lachen einstreuen, wo die Schrift es nahelegt. Das ist das Hauptversprechen, und genau das brachte das Projekt in die Open-Source-Debatte. Sauberer Text mit klaren Hinweisen liefert die besten Ergebnisse.

Voice Cloning ohne Training

Das vortrainierte Modell kopiert eine Stimme ohne jedes Feintuning. Geben Sie ihm ein oder mehrere Text-Sprache-Paare im Prompt, und es imitiert die Person mit neuem Text. Je mehr Paare Sie übergeben, desto sicherer trifft es die richtige Stimme. Das unterscheidet es von älteren Systemen, die Stunden an Aufnahmen brauchten.

Gesteuerte Emotion und Intonation

Sie steuern die Vortragsweise mit einfachen Tags, darunter Lachen, Kichern, Seufzen, Husten, Schniefen, Stöhnen, Gähnen und Keuchen. Das Modell liest sie als Teil des Textes und formt das Audio darum. Für Dialoge, Hörbücher oder einen Chatbot, der menschlich klingen soll, hilft diese Kontrolle enorm. Die unterstützten Tags unterscheiden sich in der mehrsprachigen Version je Sprache.

Streaming mit niedriger Latenz

Die Streaming-Latenz liegt bei rund 200 Millisekunden, und die Dokumentation nennt etwa 100 bei Streaming-Eingabe. Bei Echtzeitnutzung wie Sprachassistenten entscheidet dieser Abstand, ob ein Gespräch natürlich wirkt. Das Paket sendet Audioabschnitte, sobald sie entstehen, sodass die Wiedergabe vor dem vollständigen Clip beginnt.

Mehrere Modellgrößen

Neben den englischen Modellen in feinabgestimmter und vortrainierter Form plant das Projekt mehrere kleinere Versionen mit 1B, 400M und 150M Parametern. Kleinere Modelle tauschen etwas Qualität gegen Tempo und leichtere Hardware, was zählt, wenn Sie auf bescheidenen Maschinen arbeiten. Die Roadmap führt sie als kommende Veröffentlichungen.

Feintuning auf Ihre eigene Stimme

Das Repository liefert Skripte für Training und Datenverarbeitung, um das Basismodell an Ihren eigenen Sprecher anzupassen. Nach etwa 50 Beispielen werden die Ergebnisse gut, und das Team empfiehlt 300 pro Sprecher für das beste Ergebnis. Der Ablauf ähnelt dem Feintuning eines Sprachmodells mit Trainer und Transformers, ML-Erfahrung hilft also.

Mehrere Wege zum Betrieb

Sie können Orpheus TTS über das Python-Paket, einen Weg ohne GPU mit llama.cpp oder ein dediziertes Deployment bei Baseten betreiben, dem bevorzugten Inferenzpartner des Projekts. Community-Builds ergänzen eine OpenAI-kompatible API und eine Gradio-Weboberfläche. Wählen Sie den Weg, der zu Ihrer Auslieferung passt.

Vor- und Nachteile

Vorteile

  • Spricht mit natürlicher Emotion und natürlichem Rhythmus, die mit Closed-Source-Modellen konkurrieren
  • Klont eine Stimme ohne Training aus einer kurzen Probe
  • Streamt Audio mit rund 200 ms Latenz für Echtzeit-Apps
  • Offene Gewichte und offener Code, Sie können es also selbst betreiben
  • Emotions-Tags geben feine Kontrolle über die Vortragsweise

Nachteile

  • Keine offizielle gehostete API, Sie hosten und warten es also selbst
  • Braucht eine GPU für schnelle Inferenz, und die Datei des Basismodells ist groß
  • Die Qualität hängt vom Referenzclip ab, verrauschtes Audio zieht das Ergebnis also herunter
  • Die vollständige mehrsprachige Familie ist noch eine Forschungsvorschau

Häufige Fragen

Orpheus TTS wandelt Text in natürlich klingende Sprache um und kann eine gewählte Stimme imitieren. Entwickler nutzen es für Sprachassistenten, Vertonung, Synchronisation und Forschung zu Sprachmodellen. Es ist ein Baustein für ein größeres Projekt, kein eigenständiges Produkt.