OrioSearch: Your AI Agent need WebSearch

이 API는 Tavily의 /search, /extract, /tool-schema 엔드포인트를 그대로 재현한다. 그래서 전환은 보통 기본 URL을 바꾸고 API 키를 지우는 것으로 끝난다. 기존 에이전트 코드와 응답 파싱이 계속 작동한다. 이 호환성이 마이그레이션이 편한 이유 전체다. 일반적인 API 교체라면 무언가를 내보내기 전에 요청 빌더, 응답 핸들러, 오류 경로를 다시 써야 한다. 재작성은 없다. 새 SDK를 배울 필요도 없다.

OrioSearch는 SearXNG에 기대어 Google, Bing, DuckDuckGo 등 수십 곳의 결과를 모은다. SearXNG에 닿을 수 없으면 DuckDuckGo로 자동 대체한다. 소스가 많을수록 단일 엔진이 놓칠 결과를 잡을 확률이 높아진다. 어느 엔진이 실제로 이기는지는 쿼리에 달렸고, 바로 그 점이 이들을 묶는 이유다.

URL을 지정하면 추출 파이프라인이 먼저 trafilatura를 쓰고 실패하면 readability-lxml로 넘어간다. 원본 HTML 대신 깔끔한 markdown이나 일반 텍스트를 돌려준다. 콘텐츠를 모델에 넣기 전에 파싱 단계를 하나 아낀다. 작은 일이다. 수천 페이지에 걸치면 쌓인다.

include_answer: true를 켜면 OrioSearch가 받은 결과로 OpenAI 호환 모델을 써서 답변을 합성하고 출처를 붙인다. 로컬에서 Ollama로 돌려도 되고, 호스팅 모델을 쓰고 싶으면 OpenAI나 Groq으로 보내도 된다. 선택은 자신의 몫이다. 답변 품질은 연결한 모델을 따라가므로 작은 로컬 모델과 최전선 모델은 읽는 느낌이 같지 않다.

/search/stream 엔드포인트는 전체 응답을 기다리지 않고 결과가 도착하는 대로 Server-Sent Events로 밀어낸다. 첫 쓸모 있는 결과에 바로 행동하는 에이전트라면 매 턴마다 실제 시간을 줄인다. 에이전트가 작업마다 수십 번 검색을 던진다면 작은 이득이 아니다.

Redis는 설정 가능한 TTL로 조회를 묶고 만료 캐시로의 매끄러운 대체도 갖춰, 반복 쿼리가 빠르게 돌아온다. 그 위에 작은 FlashRank ONNX 모델이 의미적 관련성으로 결과 순서를 다시 매긴다. 전부 CPU에서 돌고 PyTorch에 의존하지 않는다. GPU는 필요 없다. 덕분에 발자국이 작아 적당한 머신에서 앱 옆에 함께 돌릴 수 있다.