LinkingMem — Graph-native RAG Engine
khapu2906 · Coding · Lernen
LinkingMem ist ein graphnativer RAG-Motor, der als selbst gehosteter Docker-Dienst läuft und die Vektorsuche mit dem Graphdurchlauf verbindet, damit ein LLM Fragen aus Ihren eigenen Dokumenten beantwortet. Statt Textabschnitte nur nach Ähnlichkeit zuzuordnen, läuft er die Kanten zwischen Entitäten ab und zieht zusammenhängende Fakten in eine fundierte Antwort. Das ist die ganze Idee. Wenn Sie eine RAG-Pipeline wollen, die Sie von Anfang bis Ende kontrollieren, auf Ihrer eigenen Hardware, ist das dafür gebaut.
Über LinkingMem — Graph-native RAG Engine
Was ist LinkingMem
LinkingMem ist ein Abrufmotor für den Aufbau von Frage-Antwort-Systemen auf privaten Daten. Er verbindet einen Rechenkern in Rust mit Python-Plugins und behandelt den Wissensgraphen als zentralen Teil des Abrufs, nicht als nachträglichen Zusatz. Eine Anfrage läuft in die Pipeline, wird eingebettet, trifft auf einen HNSW-Vektorindex und erweitert sich dann über die Graphkanten, bevor das LLM die endgültige Antwort schreibt. Diese Reihenfolge zählt. Der Graphschritt ist das, was Fakten verbindet, die kein gemeinsames Vokabular haben.
Der Motor wird als Docker-Image ausgeliefert, also betreiben Sie ihn selbst. Die Behandlung von Text und Bildern liegt in getrennten Plugins, die Sie starten oder weglassen können, und der LLM-Client spricht das OpenAI-kompatible Protokoll. Wählen Sie Ihr Backend. OpenAI-kompatible Endpunkte sowie Ollama, Groq und Gemini funktionieren, was nützlich ist, wenn Sie die Inferenz lokal halten wollen.
Der größte Haken sind die Einrichtungskosten. LinkingMem verlangt Rust 1.80+ und Python 3.11+, und Sie sind für die Verkabelung der Konfiguration, des LLM-Schlüssels und der Datendateien zuständig. Es ist ein Entwicklerwerkzeug, keine App, die man installiert und vergisst.
Erste Schritte
- Ziehen Sie das Docker-Image von Docker Hub (khapu2906/linkingmem) oder klonen Sie das Repository und installieren Sie Rust 1.80+ und Python 3.11+ mit uv.
- Kopieren Sie
.env.examplenach.envund setzen Sie mindestensOPENAI_API_KEY; richten SieOPENAI_BASE_URLauf Ollama oder einen anderen kompatiblen Anbieter, wenn Sie lieber lokal arbeiten. - Sehen Sie sich
plugins.tomlan, um zu entscheiden, welche Plugins Sie starten (das Text-Plugin auf Port 8001, das Bild-Plugin auf Port 8002) und wie die Abfrage-Pipeline geordnet ist. - Nehmen Sie Ihre Dokumente über die Endpunkte
POST /ingest/textoderPOST /ingest/jsonauf, um die Knoten, Kanten und Vektoren aufzubauen. - Schicken Sie eine Frage an
POST /queryund lesen Sie die fundierte LLM-Antwort, oder nutzen SiePOST /query/multihop, wenn der Motor mehreren Sprüngen folgen soll.
Produktinformationen
Ein kurzer Überblick über Preise, unterstützte Plattformen und die Leistung von LinkingMem — Graph-native RAG Engine.
Am besten für
Die Nutzer, Aufgaben und Szenarien, für die dieses Tool am besten passt.
Nutzer
- Backend- und KI-Entwickler
- Teams mit privaten Dokumenten
- Entwickler, die Graph-RAG-Ideen testen
Aufgaben
- Einen Frage-Antwort-Dienst über interne Dokumente bauen
- Fragen über mehrere Sprünge
- Bild- und Textabruf mischen
Szenarien
- Eine private Wissensdatenbank auf Ihrem eigenen Server betreiben
- Ein Abruf-Backend prototypisch bauen, bevor Sie sich an einen gemanagten Dienst binden
- Einem LLM, das Sie schon hosten, Fundierung hinzufügen
Wichtigste Funktionen
Hybrider Vektor- und Graphabruf
LinkingMem fährt eine zweistufige Abruf-Pipeline. Eine Anfrage wird eingebettet und gegen einen HNSW-Vektorindex abgeglichen, für eine schnelle Suche nach nächsten Nachbarn, danach erweitern sich die Ergebnisse über die Graphkanten mit Breitensuche. Der Vektorschritt findet die Einstiegspunkte. Der Graphschritt sammelt den umliegenden Kontext. Bei Fragen, die auf Beziehungen zwischen Entitäten beruhen, ist dieser zweite Schritt oft das, was die Antwort korrekt macht.
Endpunkt für Reasoning über mehrere Sprünge
Der Motor bietet einen eigenen Endpunkt /query/multihop, der mehreren Sprüngen durch den Wissensgraphen folgt, bevor er eine Antwort erzeugt. Er zielt auf Fragen, die kein einzelnes Dokument beantwortet, bei denen das Modell Fakten aus verschiedenen Knoten kombinieren muss. Sie bekommen eine Kette verknüpfter Belege statt eines einzelnen passenden Abschnitts.
Modulare Text- und Bild-Plugins
Text-Einbettung, Entitätsextraktion und Antworterzeugung liegen in einem Python-Text-Plugin auf Port 8001, während Bildspeicherung und -einbettung in einem getrennten Plugin auf Port 8002 laufen. Sie starten nur, was Sie brauchen. Das Bild-Plugin bietet zwei Backends: einen Vision-LLM-Beschreibungsmodus, der den Text-Vektorraum teilt, oder einen CLIP-Encoder für echte visuelle Ähnlichkeit ohne LLM-Aufruf.
OpenAI-kompatibler LLM-Client
Der LLM-Client spricht die OpenAI-kompatible API, also binden Sie OpenAI, Ollama, Groq, Gemini-kompatible Endpunkte und ähnliche Dienste an. Ein Anbieterwechsel ist eine Konfigurationsänderung, keine Codeänderung. Lokale Inferenz gewünscht? Der Ollama-Weg übernimmt das.
Rust-Kern mit absturzsicherem Delta-Speicher
Die Rechenschicht ist in Rust geschrieben und bedient eine HTTP-API auf Port 8000. Sie enthält einen Delta-Speicher im LSM-Stil mit Write-Ahead-Log und Dateisperren, sodass aufgenommene Änderungen einen Neustart überstehen. Ein nebenläufiger Einbettungs-Cache (moka) und ein Ergebnis-Cache verringern wiederholte Arbeit bei häufigen Anfragen.
Integrierte Beobachtbarkeit und Authentifizierung
Die Admin-Endpunkte bieten /health, /metrics, /graph/stats und Knotenlisten, und die Metriken kommen im Prometheus-kompatiblen Format. API-Schlüssel-Authentifizierung und ein Token-Bucket-Ratenbegrenzer sitzen in der Middleware. Das ist eine Schicht weniger zu bauen. Sie können den Motor sofort vor mehr als einen Client setzen.
Vor- und Nachteile
Vorteile
- Standardmäßig selbst gehostet, sodass private Dokumente auf Ihrer eigenen Infrastruktur bleiben.
- Die Graph-Erweiterung löst Fragen über mehrere Sprünge, die reine Vektorsuche oft übersieht.
- Der OpenAI-kompatible LLM-Client lässt Sie die Inferenz über Ollama lokal laufen lassen.
- Modulare Plugins lassen Sie Bildunterstützung oder Textfunktionen weglassen, die Sie nicht brauchen.
- Offener Quellcode, mit dem vollständigen Rust-Kern und den Python-Plugins zum Lesen und Ändern.
Nachteile
- Die Einrichtung ist Entwickler-niveau: Sie brauchen Docker plus Rust 1.80+ und Python 3.11+, um aus dem Quellcode zu bauen, was nicht-technische Nutzer ausschließt.
- Kein Hosting-Angebot und kein Web-Dashboard, also liegen Hosting, Skalierung und Verfügbarkeit bei Ihnen.
- Die Dokumentation ist codeorientiert, das heißt, Sie verbringen Zeit mit dem Lesen des Repos und der Konfigurationsdateien, bevor Ihre erste Anfrage funktioniert.
Häufige Fragen
Es ist ein Abrufmotor, der Fragen aus Ihren eigenen Dokumenten beantwortet, indem er Vektorsuche mit Graphdurchlauf verbindet und den abgerufenen Kontext dann an ein LLM übergibt. Der Graphschritt ist das, was ihn von einem einfachen RAG-Aufbau mit Abschnittszuordnung unterscheidet.
Ähnliche Inhalte
Entdecke passende Tools, Skills und Artikel zu LinkingMem — Graph-native RAG Engine.
Alternativen zu LinkingMem — Graph-native RAG Engine
Forefront
Forefront · CodingForefront ist eine Webplattform zum Bauen mit Open-Source-KI. Sie lassen sich führende Open-Source-Sprachmodelle mit eigenen Daten feintunen, ihre Leistung bewerten und sie über eine API ausführen oder exportieren, um sie selbst zu hosten. Entwickler, die den Komfort einer geschlossenen Plattform wollen, aber darauf bestehen, ihre Modelle und Daten zu besitzen, sind hier die Zielgruppe.
Startkit
StartKit.AI · CodingStartkit ist ein Boilerplate zum Bauen von KI-SaaS-Produkten und KI-Wrappern. Man kann es sich als KI-Startup-Boilerplate vorstellen, bei dem die langweiligen Teile schon verdrahtet sind: Authentifizierung, Zahlungen über Stripe und Lemon Squeezy, Nutzungslimits, transaktionale E-Mail und ein KI-API-Starter-Kit, das mit OpenAI, Anthropic, Groq oder Llama spricht. Man klont das Repository, setzt seinen Preis und kümmert sich um den Teil des Produkts, für den Menschen wirklich bezahlen. Es basiert auf Next.js über React und Tailwind, deshalb fühlt sich ein Großteil des Boilerplate-Codes schon vertraut an.
Testim
Tricentis · CodingTestim ist eine KI-gestützte Plattform für Testautomatisierung, mit der man End-to-End-Tests für Web-, Mobile- und Salesforce-Anwendungen baut und ausführt. Sie setzt auf maschinelles Lernen, um Tests stabil zu halten, wenn sich eine Oberfläche ändert, sodass Teams weniger Zeit mit der Reparatur kaputter Selektoren verbringen. Nicht schlecht für ein Tool für automatisierte Tests, das Sie heute schon nutzen können. Sie erstellen Tests, indem Sie Aktionen im Browser aufzeichnen, und fügen danach JavaScript hinzu, wenn Sie mehr Kontrolle brauchen. Für ein beschäftigtes QA-Team eine solide Wahl.