Lantern
Lantern Systems, Inc. · Coding
Lantern ist eine Open-Source-Erweiterung für Postgres, die HNSW-Vektorsuche und Embedding-Erzeugung in Ihre Datenbank bringt, dazu ein verwalteter Cloud-Dienst für KI-Anwendungen.
Über Lantern
About
Was ist Lantern
Lantern läuft als Erweiterung in PostgreSQL, die Vektoren liegen also in denselben Tabellen wie der Rest Ihrer Daten. Sie legen eine Vektorspalte an, bauen einen lantern_hnsw-Index darauf, und die Datenbank beantwortet Nachbarschaftsabfragen mit normalem SQL. Kein zweiter Speicher, kein Sync-Job, keine eigene Abfragesprache. Statt einer separaten Vektordatenbank bleibt es bei der, die Sie schon betreiben.
Das Projekt richtet sich an Teams, die semantische Suche, Empfehlungen und Kontextabruf für KI-Assistenten bauen, ohne Postgres zu verlassen. Es läuft auf Postgres 11 bis 16 und nutzt den vector-Typ von pgvector, sodass eine bestehende pgvector-Tabelle mit einem bereits passenden Typ umzieht.
Die Grenzen zählen mit. Lantern wird von einem kleinen Team gepflegt, die neueste Open-Source-Version ist v0.5.0 von November 2024, und der kostenlose Cloud-Tarif ist mit 0,25 vCPU und 0,5 GB RAM knapp. Für Prototypen und mittlere Kataloge passt das gut, für Teams mit Bedarf an großer Support-Organisation deutlich weniger.
Erste Schritte
- Legen Sie ein kostenloses Projekt in Lantern Cloud an, oder installieren Sie die Erweiterung auf Ihrem eigenen Postgres per Docker, Homebrew oder vorkompiliertem Binary.
- Führen Sie
CREATE EXTENSION lanternin der Datenbank aus, die Sie nutzen wollen. Jede Datenbank einer Instanz braucht ihre eigene Kopie. - Fügen Sie einer Tabelle eine Vektorspalte hinzu und schreiben Sie die Zeilen als Float-Arrays.
- Bauen Sie den Index mit
CREATE INDEX ... USING lantern_hnswund wählen Sie eine Operatorklasse wie Kosinus oder L2 zum Quadrat. - Fragen Sie mit den Distanzoperatoren ab, oder schalten Sie die automatische Embedding-Erzeugung ein, damit Lantern die Vektorspalte aus Ihrem Text füllt.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von Lantern.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- Backend-Entwickler, die schon Postgres betreiben
- KI-Engineers, die Kontextabruf für Chatbots bauen
- Kleine Teams ohne Datenbankadministrator
Aufgaben
- Semantische Suche in Produktkatalogen, Support-Dokumentation oder internen Wikis, wenn eine Textabfrage Treffer nach Bedeutung liefern soll statt nach exaktem Wort.
- Bildsuche nach Ähnlichkeit mit CLIP-Embeddings, die Lantern als eigenes Modell neben den Textmodellen mitbringt.
- Empfehlungsfunktionen, die Elemente nach Abstand zum Embedding eines Nutzers sortieren, berechnet in derselben Abfrage, die Ihre Geschäftstabellen verknüpft.
- Deduplizierung und Erkennung fast gleicher Datensätze in großen Beständen, mit Kosinus-Index und einem Distanzschwellwert.
Szenarien
- Suche in eine bestehende Rails-, Django- oder Node-App einbauen, ohne einen weiteren Datenspeicher aufzunehmen.
- Von pgvector oder Pinecone umsteigen, wenn eine Datenbank sowohl relationale Daten als auch Vektoren halten soll.
- Eine RAG-Pipeline im kostenlosen Tarif testen, bevor Sie eine bezahlte Instanz buchen.
Wichtigste Funktionen
HNSW-Index direkt in Postgres
Lantern ergänzt einen lantern_hnsw-Index für Vektorspalten und beschleunigt ORDER BY ... LIMIT-Abfragen. Der Index setzt auf usearch, eine kompakte HNSW-Implementierung, und unterstützt L2 zum Quadrat, Kosinus und Hamming über Operatorklassen, die Sie beim Anlegen wählen.
Embedding-Erzeugung in SQL
Vektoren entstehen ohne Umweg über einen anderen Dienst. Lantern liefert Hilfsfunktionen, die Embedding-Modelle aufrufen und das Ergebnis in eine Spalte schreiben. Ein Python- oder Node-Dienst muss Text also nicht selbst zerlegen, eine API aufrufen und Wiederholungen abfangen.
Spalten mit automatischen Embeddings
Verwaltete Spalten halten die Vektoren aktuell. Sie zeigen Lantern auf eine Textspalte und ein Modell, neue oder geänderte Zeilen bekommen ihre Vektoren im Hintergrund als asynchrone Aufgabe. Der Klebecode zwischen Inhaltstabelle und Suchindex entfällt.
LLM-Aufrufe aus SQL
Version 0.5.0 brachte llm_completion und add_completion_job, mit denen Prompts gegen ein LLM in einer Abfrage oder als Hintergrundjob laufen. Das Feature ist schmal, nützlich für Klassifikation und kurze Zusammenfassungen, kein Ersatz für die Anwendungsschicht.
Serverlose Indexierung und paralleler Aufbau
Der Indexaufbau ist bei Vektorsetups oft der langsame Teil. Lantern baut den Indexgraphen außerhalb des Datenbankservers oder auf einer anderen Maschine, ein großer Neuaufbau bremst den normalen Verkehr also nicht. In der Cloud wird das als serverlose Indexierung ab 0,50 $ pro GB abgerechnet.
Automatisches Index-Tuning und Quantisierung
M, ef und ef_construction von Hand zu wählen kostet Versuche. Lantern enthält ein Autotune-Werkzeug, das Parameter für Ihre Daten vorschlägt, dazu Produktquantisierung, um den Index zu verkleinern, wenn der Speicher knapp wird.
Vor- und Nachteile
Vorteile
- Die Vektoren liegen in Postgres, Joins, Filter und Transaktionen verhalten sich wie im Rest Ihres Schemas.
- Der Datentyp von pgvector wird unterstützt, was den Umstieg kurz hält, wenn Sie ihn schon nutzen.
- Embedding-Erzeugung und verwaltete Spalten sparen einen separaten Ingestion-Dienst.
- Der kostenlose Cloud-Tarif pausiert nie, ein Demoprojekt kann also ruhen, ohne seine Datenbank zu verlieren.
- Der Index lässt sich außerhalb des Hauptservers bauen, die Produktion bleibt während eines Neuaufbaus ansprechbar.
Nachteile
- Der Release-Takt im Open-Source-Projekt ist langsam. v0.5.0 erschien im November 2024, der letzte Push ins Repository stammt von Dezember 2024, für Fehlerbehebungen brauchen Sie also Ihren eigenen Fork.
- Die Dokumentation setzt SQL-Kenntnisse und Erfahrung mit Index-Tuning voraus. Ein Team ohne Backend-Entwickler hängt beim ersten Index.
- Die kostenlose Instanz hat 0,25 vCPU und 0,5 GB RAM, genug für eine Demo und kaum mehr.
- Embedding-Kosten kommen zur Datenbankrechnung dazu, und nur ein eigener OpenAI- oder Cohere-Schlüssel umgeht den Token-Aufschlag von Lantern.
Häufige Fragen
Ja, in zwei Punkten. Die Erweiterung ist Open Source unter AGPL-3.0 und lässt sich kostenlos selbst hosten, und Lantern Cloud hat einen kostenlosen Tarif mit 0,25 vCPU, 0,5 GB RAM und ohne Pause. Bezahlte Instanzen starten bei 44 $ pro Monat und reichen bis 704 $ pro Monat für 16 vCPU und 60 GB RAM.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu Lantern.
Alternativen zu Lantern
Base Code
Base44 (Wix) · Coding · ProduktivitätBase Code ist eine geteilte Cloud-Entwicklungsumgebung von Base44. Das Team beschreibt Änderungen an einem bestehenden GitHub-Repository im Chat, prüft sie in der Vorschau und reicht sie als Pull Request ein.
Google EmbeddingGemma 2
Google DeepMind · Schreiben · Bilder · CodingGoogle EmbeddingGemma 2 ist ein offenes Modell mit 740 Millionen Parametern, das Text, Code, Bilder, Audio und Videobilder in Vektoren eines gemeinsamen 768-dimensionalen Raums umwandelt und auf Handys und Notebooks läuft.
GitGlow
GitGlow · Coding · ProduktivitätGitGlow ist ein Git-Client für den Desktop, der Ihren Code und die Änderungen Ihrer KI-Agenten in einer Review bündelt, damit Sie vor dem Ausliefern sehen, was die Maschine verlässt.