LinkingMem — Graph-native RAG Engine

LinkingMem — Graph-native RAG Engine

khapu2906 · 코딩 · 학습

LinkingMem은 자체 호스팅 Docker 서비스로 동작하는 그래프 네이티브 RAG 엔진이다. 벡터 검색과 그래프 순회를 연결해 LLM이 여러분의 문서에서 질문에 답하도록 돕는다. 유사도만으로 텍스트 조각을 맞추는 대신, 개체 사이의 간선을 따라가며 관련 사실을 하나의 근거 있는 답변으로 모은다. 이것이 이 도구의 전부다. 자신의 하드웨어에서 처음부터 끝까지 직접 통제하는 RAG 파이프라인을 원한다면, 바로 그 용도로 만들어진 셈이다.

LinkingMem — Graph-native RAG Engine 미리보기

LinkingMem — Graph-native RAG Engine 소개

LinkingMem이란 무엇인가

LinkingMem은 비공개 데이터 위에 질의응답 시스템을 구축하기 위한 검색 엔진이다. Rust 연산 코어와 Python 플러그인을 결합하고, 지식 그래프를 뒤늦게 덧붙이는 요소가 아니라 검색의 핵심으로 다룬다. 질의는 파이프라인에 들어가 임베딩되고, HNSW 벡터 인덱스에 적중한 뒤 그래프 간선을 통해 확장되고 나서야 LLM이 최종 답변을 작성한다. 이 순서가 중요하다. 어휘를 공유하지 않는 사실을 연결하는 것이 바로 그래프 단계다.

엔진은 Docker 이미지로 배포되므로 직접 실행한다. 텍스트와 이미지 처리는 각각 별도 플러그인에 있어 시작하거나 건너뛸 수 있고, LLM 클라이언트는 OpenAI 호환 프로토콜로 통신한다. 백엔드는 직접 고르면 된다. OpenAI, Ollama, Groq, Gemini 호환 엔드포인트가 모두 동작하므로 추론을 로컬에 두고 싶을 때 유용하다.

가장 큰 걸림돌은 구축 비용이다. LinkingMem은 Rust 1.80+와 Python 3.11+를 요구하며, 설정과 LLM 키, 데이터 파일을 연결하는 일은 모두 사용자 몫이다. 설치하고 잊어버리는 앱이 아니라 개발자 도구다.

시작하기

  1. Docker Hub(khapu2906/linkingmem)에서 Docker 이미지를 받거나 저장소를 복제하고 uv로 Rust 1.80+와 Python 3.11+를 설치한다.
  2. .env.example을 .env로 복사하고 최소한 OPENAI_API_KEY를 설정한다. 로컬에서 실행하려면 OPENAI_BASE_URL을 Ollama나 다른 호환 제공자로 지정한다.
  3. plugins.toml을 검토해 어떤 플러그인을 시작할지(8001번 포트의 텍스트 플러그인, 8002번 포트의 이미지 플러그인)와 질의 파이프라인 순서를 정한다.
  4. POST /ingest/text 또는 POST /ingest/json 엔드포인트로 문서를 수집해 노드, 간선, 벡터를 만든다.
  5. POST /query로 질문을 보내 근거 있는 LLM 답변을 읽거나, 엔진이 여러 홉을 따라가야 할 때는 POST /query/multihop을 쓴다.

제품 정보

LinkingMem — Graph-native RAG Engine의 요금, 지원 플랫폼, 성능을 한눈에 확인해 보세요.

무료 플랜예
유료 플랜$0
플랫폼Self-hosted (Docker; Rust 1.80+ and Python 3.11+ for source builds)
개발사khapu2906
카테고리코딩 · 학습
출시일May 2025
최근 업데이트Sep 2025
웹사이트 방문 수3.1M
웹사이트 글로벌 순위N/A
API 제공 여부예

추천 대상

이 도구가 가장 잘 맞는 사용자, 작업, 상황입니다.

사용자

  • 백엔드 및 AI 엔지니어
  • 비공개 문서를 다루는 팀
  • 그래프 RAG 아이디어를 시험하는 개발자

작업

  • 사내 문서 위에 질의응답 서비스를 구축하기
  • 멀티홉 질문
  • 이미지와 텍스트 검색 혼합

활용 상황

  • 자신의 서버에서 비공개 지식 베이스를 운영하기
  • 관리형 서비스를 선택하기 전에 검색 백엔드 시제품 만들기
  • 이미 호스팅하는 LLM에 근거 부여를 추가하기

주요 기능

벡터와 그래프의 하이브리드 검색

LinkingMem은 2단계 검색 파이프라인을 돌린다. 질의가 임베딩되어 HNSW 벡터 인덱스와 대조되어 빠르게 최근접 이웃을 찾고, 그 결과가 너비 우선 순회로 그래프 간선을 통해 확장된다. 벡터 단계는 진입점을 찾는다. 그래프 단계는 주변 맥락을 모은다. 개체 간 관계에 달린 질문에서는 이 두 번째 단계가 답을 정확하게 만드는 열쇠인 경우가 많다.

멀티홉 추론 엔드포인트

엔진은 답변을 생성하기 전에 지식 그래프를 여러 홉 따라가는 전용 /query/multihop 엔드포인트를 제공한다. 단일 문서로는 답할 수 없고 모델이 서로 다른 노드의 사실을 결합해야 하는 질문을 겨냥한다. 단일 일치 조각이 아니라 연결된 증거의 사슬을 얻는다.

모듈식 텍스트 및 이미지 플러그인

텍스트 임베딩, 개체 추출, 답변 생성은 8001번 포트의 Python 텍스트 플러그인에 있고, 이미지 저장과 임베딩은 8002번 포트의 별도 플러그인에서 실행된다. 필요한 것만 시작하면 된다. 이미지 플러그인은 두 가지 백엔드를 제공한다. 텍스트 벡터 공간을 공유하는 비전 LLM 캡션 방식, 또는 LLM 호출 없이 진짜 시각적 유사도를 다루는 CLIP 인코더다.

OpenAI 호환 LLM 클라이언트

LLM 클라이언트는 OpenAI 호환 API로 통신하므로 OpenAI, Ollama, Groq, Gemini 호환 엔드포인트와 비슷한 서비스를 연결할 수 있다. 제공자 교체는 코드 변경이 아니라 설정 변경이다. 로컬 추론이 필요하면 Ollama 경로가 처리한다.

크래시에 강한 델타 저장소를 갖춘 Rust 코어

연산 계층은 Rust로 작성되었고 8000번 포트에서 HTTP API를 제공한다. 선행 기록 로그와 파일 잠금을 갖춘 LSM 방식 델타 저장소를 포함하므로 수집한 변경이 재시작을 견딘다. 동시 임베딩 캐시(moka)와 결과 캐시는 흔한 질의의 반복 작업을 줄인다.

내장 관측성과 인증

관리 엔드포인트는 /health, /metrics, /graph/stats와 노드 목록을 노출하고, 지표는 Prometheus 호환 형식으로 나온다. API 키 인증과 토큰 버킷 방식 속도 제한기는 미들웨어에 있다. 만들 계층이 하나 줄어드는 셈이다. 곧바로 엔진을 둘 이상의 클라이언트 앞에 둘 수 있다.

장단점

장점

  • 기본이 자체 호스팅이라 비공개 문서가 자신의 인프라에 남는다.
  • 그래프 확장이 단순 벡터 검색이 놓치기 쉬운 멀티홉 질문을 처리한다.
  • OpenAI 호환 LLM 클라이언트 덕분에 Ollama로 추론을 로컬에서 돌릴 수 있다.
  • 모듈식 플러그인으로 필요 없는 이미지 지원이나 텍스트 기능을 건너뛸 수 있다.
  • 오픈 소스라 Rust 코어 전체와 Python 플러그인을 읽고 바꿀 수 있다.

단점

  • 구축이 개발자 수준이다. 소스에서 빌드하려면 Docker에 더해 Rust 1.80+와 Python 3.11+가 필요해 비기술 사용자는 배제된다.
  • 호스팅 요금제도 웹 대시보드도 없어 호스팅, 확장, 가동률은 모두 사용자 책임이다.
  • 문서가 코드 중심이라 첫 질의가 동작하기까지 저장소와 설정 파일을 읽는 시간이 든다.

자주 묻는 질문

자신의 문서에서 질문에 답하는 검색 엔진이다. 벡터 검색과 그래프 순회를 결합하고 검색한 맥락을 LLM에 넘긴다. 그래프 단계가 조각 맞추기만 하는 기본 RAG 구성과의 차이를 만든다.

관련 콘텐츠

LinkingMem — Graph-native RAG Engine와 관련된 도구, 스킬, 아티클을 살펴보세요.

LinkingMem — Graph-native RAG Engine 대안

Forefront

Forefront

Forefront · 코딩

Forefront는 오픈소스 AI로 무언가를 만드는 웹 플랫폼이다. 대표적인 오픈소스 언어 모델을 자신의 데이터로 미세 조정하고, 성능을 평가하고, API로 실행하거나 내보내 직접 호스팅할 수 있다. 폐쇄형 플랫폼의 편의를 원하면서도 모델과 데이터의 소유권은 놓지 않으려는 개발자가 대상이다.

무료 / $0 - $99/mo자세히 보기
Startkit

Startkit

StartKit.AI · 코딩

Startkit은 AI SaaS와 AI 래퍼 제품을 만들기 위한 보일러플레이트다. 지루한 부분을 미리 연결해 둔 AI 스타트업 보일러플레이트라고 생각하면 된다. 인증, Stripe와 Lemon Squeezy 결제, 사용량 제한, 트랜잭션 이메일, 그리고 OpenAI, Anthropic, Groq, Llama와 통신하는 AI API 스타터 키트가 포함된다. 저장소를 복제하고 가격을 정한 뒤 사용자가 실제로 돈을 내는 부분에 착수하면 된다. React와 Tailwind 위의 Next.js로 만들어졌기 때문에 보일러플레이트 코드의 상당 부분이 이미 익숙하게 느껴진다.

유료 / $99 - $499 one-time자세히 보기
Testim

Testim

Tricentis · 코딩

Testim은 웹, 모바일, Salesforce 애플리케이션 전반에 걸쳐 엔드투엔드 테스트를 만들고 실행하는 AI 기반 테스트 자동화 플랫폼이다. 머신러닝에 기대어 인터페이스가 바뀌어도 테스트를 안정적으로 유지하므로, 팀은 깨진 셀렉터를 고치는 데 쓰는 시간을 줄인다. 오늘부터 쓸 수 있는 자동화 테스트 도구치고 나쁘지 않다. 브라우저에서 동작을 녹화해 테스트를 만들고, 더 세밀한 제어가 필요하면 JavaScript를 더한다. 바쁜 QA 팀에게 탄탄한 선택이다.

무료 / Custom pricing on request자세히 보기