RAGaaS

RAGaaS

RAGaaS · Programação

O RAGaaS é uma API RAG gerenciada com foco em privacidade: conecta seu armazenamento compatível com S3, seu banco de dados vetorial e suas chaves de LLM, e cuida da fragmentação, dos embeddings e da busca.

Prévia da interface de RAGaaS

Sobre RAGaaS

What Is RAGaaS

RAGaaS é a sigla de Retrieval Augmented Generation as a Service, ou geração aumentada por recuperação como serviço. É uma API gerenciada com a qual um time monta uma aplicação RAG sem construir a encanação por baixo. Você aponta para onde estão os documentos e o serviço faz o trabalho pesado: divide o texto em fragmentos, transforma tudo em embeddings, guarda os vetores e devolve os trechos relevantes quando chega uma consulta.

O que separa o RAGaaS da maioria das plataformas de RAG como serviço é onde seus dados ficam. Em vez de copiar os documentos para a nuvem do fornecedor, ele trabalha com armazenamento e bancos que você já controla. Você traz um bucket compatível com S3, um banco de dados vetorial e a chave do seu provedor de LLM, e o serviço coordena tudo por uma API pequena. A empresa apresenta isso como IA com foco em privacidade: seus arquivos e suas credenciais ficam na sua conta.

O outro lado é que o RAGaaS parte do princípio de que você manja de infraestrutura. Antes de rodar qualquer coisa, você precisa de um bucket ativo, de um índice vetorial e de uma chave de API. Isso deixa de fora quem não é técnico. Além disso, a documentação pública é escassa hoje, e o domínio original ragaas.dev agora redireciona para o SiteGPT, então vale confirmar com a empresa se o produto continua ativo antes de construir em cima dele.

Getting Started

  1. Crie uma conta e conecte um bucket de armazenamento compatível com S3, que é onde seus documentos vão ficar.
  2. Vincule um banco de dados vetorial e adicione a chave de API do seu provedor de LLM para que o serviço gere e consulte embeddings.
  3. Chame o endpoint de processamento para ingerir os arquivos, o que dispara a fragmentação e a geração de embeddings.
  4. Envie as consultas de busca pela segunda chamada da API para recuperar trechos fundamentados para o seu LLM.
  5. Leve o contexto devolvido para a sua própria aplicação ou modelo e produza respostas com citações.

Informações do produto

Uma visão rápida dos preços, das plataformas compatíveis e do desempenho de RAGaaS.

Plano gratuitoNão
Planos pagosN/A
PlataformaWeb (API service)
DesenvolvedorRAGaaS
CategoriaProgramação
Data de lançamentoJan 2024
Última atualizaçãoOct 2024
Visitas ao siteN/A
Ranking global do siteN/A
Disponibilidade da APISim

Ideal para

Os usuários, tarefas e cenários em que esta ferramenta se encaixa melhor.

Usuários

  • Engenheiros de backend e de machine learning que criam funções RAG
  • Times com exigências rígidas de residência de dados
  • Times de produto pequenos sem especialista em infraestrutura

Tarefas

  • Ingerir um conjunto de documentos
  • Adicionar busca sobre documentos privados
  • Trocar o LLM de um app RAG

Cenários

  • Uma base de conhecimento interna sobre arquivos confidenciais
  • Um assistente de suporte que precisa citar fontes
  • Um protótipo que precisa de recuperação rápido

Principais recursos

Traga seu próprio armazenamento e banco vetorial

O RAGaaS roda na infraestrutura que é sua: um bucket compatível com S3 para os documentos e um banco de dados vetorial que você controla. O serviço gerencia a ligação entre os dois em vez de hospedar seus dados, e é aí que está o núcleo da proposta de privacidade e o motivo pelo qual atrai times regulados.

API de duas chamadas para processar e buscar

A superfície para o desenvolvedor é curta de propósito. Uma chamada processa os documentos, com a fragmentação e a geração de embeddings incluídas, e a segunda faz a busca. Quem descreve o produto costuma citar esse fluxo de duas chamadas como o principal atrativo, porque elimina o código de cola que um RAG montado à mão exige.

Fragmentação e geração de embeddings gerenciadas

O serviço divide os documentos que chegam em fragmentos e os converte em embeddings por você. Essa é a parte que mais gente subestima, porque o tamanho do fragmento e a escolha do modelo de embeddings definem a qualidade da recuperação muito antes de qualquer prompt ser escrito.

Otimização de busca no seu índice

Depois que os documentos viram embeddings, o RAGaaS assume a recuperação e ajusta como os resultados são ordenados diante de uma consulta. Você recebe trechos relevantes em vez de correspondências vetoriais cruas, então seu LLM recebe contexto que realmente pode usar.

Suas próprias chaves de LLM

A chave do provedor do modelo é sua, então a geração roda contra um provedor que você escolheu e paga direto. Os custos do modelo e os termos do fornecedor ficam sob seu controle em vez de virem embutidos numa assinatura da plataforma.

Infraestrutura mantida

A empresa apresenta o RAGaaS como responsável pela manutenção de rotina de um pipeline RAG, como manter os embeddings em sincronia com os documentos de origem e escalar a recuperação conforme o conteúdo cresce. Para um time pequeno, essa manutenção costuma ser o motivo de escolher um serviço gerenciado em vez de um auto-hospedado.

Prós e contras

Prós

  • Mantém os documentos no seu próprio armazenamento compatível com S3 e banco vetorial, o que ajuda em revisões de residência de dados e conformidade.
  • A API é pequena, com uma chamada para processar documentos e outra para buscá-los, então há menos trabalho de integração do que num pipeline feito à mão.
  • A chave de LLM é sua, então a escolha do modelo e o gasto com modelos ficam nas suas mãos.
  • A fragmentação e a geração de embeddings gerenciadas poupam o esforço de construir e ajustar esse pipeline sozinho.

Contras

  • Parte do princípio de uma configuração técnica: você precisa de um bucket em pé, de um índice vetorial e de chaves de provedor antes de rodar qualquer coisa, então quem não é dev não consegue usar.
  • A documentação pública é pouca, o que dificulta confirmar de antemão o comportamento exato da API e seus limites.
  • O domínio original ragaas.dev agora redireciona para o SiteGPT, então não está claro se o produto continua mantido e existe o risco de te prender a um serviço sem roadmap visível.
  • O preço não é publicado, então você não compara o custo de uso com uma pilha auto-hospedada sem perguntar direto para a empresa.

Perguntas frequentes

O RAGaaS é uma API gerenciada de geração aumentada por recuperação. Ele ingere seus documentos, cuida da fragmentação e dos embeddings, guarda os vetores num banco que você controla e devolve os trechos relevantes na busca, para o seu app responder com base no seu próprio conteúdo.