RLAMA

O RLAMA é uma ferramenta de perguntas e respostas para os seus próprios documentos, feita para rodar inteira no seu computador. É uma ferramenta RAG local de linha de comando que se apoia no Ollama, o aplicativo que roda modelos de linguagem offline, e transforma uma pasta de arquivos em uma base de conhecimento consultável. O desenvolvedor publica tudo sob a licença Apache 2.0, então o código é aberto e pode ser usado de graça.

A ideia é direta. Você aponta para uma pasta, o RLAMA lê os arquivos, quebra cada um em trechos e guarda no seu disco os vetores de cada trecho. Quando você faz uma pergunta, a ferramenta encontra os trechos que combinam, entrega para o seu modelo local e o modelo responde usando o seu material como contexto. Esse método se chama geração aumentada por recuperação (RAG), e é ele que mantém as respostas presas a fontes reais em vez de deixar o modelo improvisar de memória.

O ponto fraco está na instalação. O RLAMA é uma CLI, não um app de um clique, então você trabalha no terminal e precisa do Ollama instalado e rodando antes de qualquer coisa funcionar. Também não existe versão hospedada, que é justamente o que se espera de uma ferramenta RAG auto-hospedada. Os resultados dependem do modelo que você escolher e da qualidade dos seus documentos, e uma máquina fraca ou um modelo pequeno aparecem nas respostas. O projeto também está em pausa, então não há recursos novos chegando agora.

Getting Started

1. Instale o Ollama em ollama.ai e baixe pelo menos um modelo, por exemplo ollama pull llama3.
2. Instale o RLAMA com o script de uma linha: curl -fsSL https://raw.githubusercontent.com/dontizi/rlama/main/install.sh | sh.
3. Crie um sistema RAG apontando para uma pasta: rlama rag llama3 meus-docs ./docs.
4. Abra uma sessão interativa e pergunte: rlama run meus-docs.
5. Adicione arquivos depois com rlama add-docs, ou ligue o monitoramento de pasta para que entrem sozinhos no índice.