Dream 7B
HKU NLP Group and Huawei Noah's Ark Lab · Negócios · Outros
Dream 7B é um modelo de linguagem de difusão aberto e gratuito criado pela HKU e pela Huawei. Ele escreve trechos inteiros em paralelo em vez de palavra por palavra e planeja tarefas complexas melhor que modelos do mesmo porte.
Sobre Dream 7B
About
O que é o Dream 7B
Dream 7B, também chamado de Dream LLM, é um modelo de difusão de texto e linguagem de 7 bilhões de parâmetros criado pela Universidade de Hong Kong e pelo laboratório Noah's Ark da Huawei. A maioria dos chatbots, incluindo GPT-4 e Claude, escreve da esquerda para a direita, um token após o outro. O Dream 7B funciona de outro jeito. Ele parte de uma sequência totalmente ruidosa e refina o texto inteiro em paralelo ao longo de vários passos, então cada posição enxerga o contexto completo de uma vez.
Esse desenho rende em duas frentes. Em escrita geral, matemática e código, o Dream 7B iguala ou supera modelos autorregressivos fortes do mesmo porte, como Qwen2.5 7B e LLaMA3 8B. Em quebra-cabeças de planejamento como Countdown e Sudoku, ele passa à frente desses modelos e às vezes até supera o DeepSeek V3, um modelo com muito mais parâmetros. Ele também aceita infilling, então você pode pedir que preencha uma lacuna em um parágrafo ou que respeite uma frase final específica.
O porém é que se trata de um lançamento de pesquisa, não de um app polido. Não há chatbot hospedado, nem licença comercial para os pesos, nem API da equipe. Para rodar por conta própria, baixar Dream 7B do Hugging Face é o primeiro passo, e você precisa de uma GPU com pelo menos 20 GB de memória.
Como começar
- Instale as bibliotecas certas: transformers 4.46.2 e torch 2.5.1, porque o Dream depende do SdpaAttention embutido no torch.
- Baixe um checkpoint do Hugging Face, seja o Dream-v0-Base-7B para ajustar ou o Dream-v0-Instruct-7B para conversar.
- Carregue o modelo com as classes AutoModel e AutoTokenizer, com trust_remote_code ativado, e mova para um dispositivo CUDA.
- Chame model.diffusion_generate com o seu prompt e ajuste steps para trocar velocidade por qualidade.
- Para o ajuste fino, clone o repositório e rode o script de SFT em um nó com 8 GPUs.
Informações do produto
Uma visão rápida dos preços, das plataformas compatíveis e do desempenho de Dream 7B.
Ideal para
Os usuários, tarefas e cenários em que esta ferramenta se encaixa melhor.
Usuários
- Pesquisadores de IA
- Desenvolvedores testando modelos não autorregressivos
- Estudantes que querem entender modelos de linguagem de difusão
Tarefas
- Preenchimento de texto
- Quebra-cabeças de planejamento com muitas restrições
- Ajuste fino para um domínio específico
Cenários
- Testar um modelo de linguagem de difusão sem pagar por um serviço comercial
- Pesquisar uma alternativa à geração da esquerda para a direita
- Montar um assistente de código ou matemática com pouco orçamento
Principais recursos
Geração de texto em paralelo
O Dream 7B escreve muitos tokens por passo em vez de um de cada vez. A sequência começa toda mascarada e é refinada em paralelo, então o modelo usa todo o contexto em cada passada. Essa é a diferença central em relação aos modelos autorregressivos e o motivo de ele planejar bem.
Tarefas de planejamento e restrições
O modelo brilha em problemas com várias restrições ao mesmo tempo. No Countdown e no Sudoku, supera Qwen2.5 7B e LLaMA3 8B e às vezes encosta no DeepSeek V3, apesar do porte muito maior desse modelo. Segundo a equipe da HKU, a difusão se encaixa melhor em problemas com vários objetivos e restrições.
Infilling e ordem livre
Você não fica preso à saída da esquerda para a direita. O Dream 7B preenche uma lacuna entre um início dado e uma frase final fixa e pode gerar na ordem que você escolher. Isso ajuda em tarefas de edição em que você mantém uma linha e reescreve o meio.
Equilíbrio entre qualidade e velocidade
O número de passos de difusão controla quanto trabalho cada resposta recebe. Menos passos dão texto mais rápido porém mais bruto, e mais passos elevam a qualidade a um custo maior. Isso dá um botão de velocidade que os modelos autorregressivos não oferecem, e você o move a cada requisição.
Pesos abertos e código de treino
Os checkpoints base e instruct estão no Hugging Face, e o código de treino, avaliação e SFT está no GitHub. Você pode ajustar o Dream 7B com os seus próprios dados em vez de alugá-lo. A equipe também publicou o Dream-Coder para código e o DreamOn para geração de comprimento variável.
Estratégias de remasking
A chamada diffusion_generate deixa você escolher como os tokens são fixados. Dá para ir totalmente aleatório ou usar estratégias por confiança como maskgit_plus, topk_margin ou entropy, além de somar temperatura para variar. A qualidade da inferência de modelos de linguagem muda com essas escolhas, então as estratégias por confiança importam quando a precisão conta.
Contexto de 2048 tokens e execução em uma única GPU
O Dream 7B tem contexto de 2048 tokens entre entrada e saída, o suficiente para a maioria das tarefas de um único prompt. Roda em uma GPU com pelo menos 20 GB de memória, então fica ao alcance de uma estação de trabalho e não de um cluster.
Prós e contras
Prós
- Pesos abertos e gratuitos para os modelos base e instruct, sem licença comercial atrelada a um plano pago.
- Iguala ou supera modelos autorregressivos do mesmo porte em testes de escrita geral, matemática e código.
- Lidera em tarefas de planejamento como Countdown e Sudoku, onde às vezes passa à frente de modelos com muito mais parâmetros.
- O infilling nativo e a geração em ordem livre abrem fluxos de edição que os modelos da esquerda para a direita não permitem.
- Os passos de difusão ajustáveis dão um botão claro de velocidade contra qualidade a cada requisição.
Contras
- Não há produto hospedado, então você roda por conta própria e precisa de uma GPU com pelo menos 20 GB de memória.
- O contexto de 2048 tokens é curto, o que deixa de fora documentos longos e conversas extensas.
- A equipe não oferece API, então colocá-lo em um app significa hospedar o modelo e escrever você mesmo o caminho de inferência.
- A estratégia de decodificação aleatória padrão pode derrubar a precisão, então é preciso ajustar o remasking para trabalhos sérios.
- Por ser um lançamento de pesquisa, falta o acabamento, as camadas de segurança e o suporte dos modelos comerciais.
Perguntas frequentes
Sim. Os checkpoints base e instruct são gratuitos no Hugging Face, e o código de treino é aberto no GitHub. Não há plano pago nem assinatura hospedada, mas você paga pelo seu próprio hardware.
Conteúdo relacionado
Explore ferramentas, skills e artigos relacionados a Dream 7B.
Alternativas a Dream 7B
Knocket
Knocket (Tencent RTC team) · Produtividade · Negócios · ChatbotO Knocket é uma ferramenta gratuita de chat ao vivo e página de contato: o visitante escreve pelo site, pelo app ou por um link, e você responde pelo Telegram ou por uma única caixa de entrada.
shippedit.me
Krawlup · Marketing · NegóciosO shippedit.me agora redireciona para o Krawlup, uma plataforma web que audita SEO, AEO e velocidade toda semana e entrega as correções a agentes de código via MCP.
Ayven
Alknoma · Produtividade · NegóciosAyven é uma central de controle de IA da Alknoma: transforma um objetivo escrito em linguagem comum num plano com datas, distribui as tarefas entre o time e os agentes de IA e pede sua aprovação só quando a decisão cabe a você.