Hierarchical Reasoning Model

Aqui o raciocínio hierárquico fica concreto: como modelo de raciocínio recursivo, o HRM divide o trabalho entre dois módulos recorrentes acoplados. O módulo de alto nível planeja devagar e define a direção; o de baixo nível calcula rápido e preenche o detalhe. Isso imita o processamento em várias escalas de tempo do córtex humano, em que as regiões superiores integram informação por mais tempo e as inferiores reagem na hora. O desenho permite ao modelo alcançar profundidade computacional real sem empilhar dezenas de camadas Transformer.

O modelo chega a uma resposta em uma única passada, e nada supervisiona os passos intermediários. Não há texto de cadeia de pensamento nem prompt passo a passo. O que o artigo sustenta é que a linguagem é uma ferramenta de comunicação, não o substrato do pensamento, então o HRM raciocina em um espaço latente e emite apenas o resultado final. Isso corta a latência e o custo em dados que travam os modelos CoT.

O modelo de 27 milhões de parâmetros treina com cerca de 1.000 exemplos, e não precisa de traços de raciocínio rotulados para chegar lá. Ele não exige pré-treinamento nem dados de cadeia de pensamento, então um laboratório consegue treiná-lo do zero. Segundo a Sapient Intelligence, esses números produzem pontuações quase perfeitas em sudoku extremo e na busca de rotas em labirintos grandes, tarefas em que os modelos de cadeia de pensamento marcam zero. Para uma montagem de pesquisa, o tamanho reduzido é o grande atrativo.

O HRM decide quanto pensar conforme o problema. O módulo de alto nível se atualiza, deixa o de baixo nível convergir e repete, e um sinal de parada aprendido marca quando parar. Os quebra-cabeças fáceis gastam menos ciclos e os difíceis, mais, então a computação escala com a dificuldade em vez de rodar um número fixo de passos. Essa ampliação no tempo de inferência é o que deixa um modelo minúsculo ir fundo em um problema.

O Abstraction and Reasoning Corpus (ARC-AGI) é um benchmark feito para medir raciocínio geral, não conhecimento memorizado. Segundo os autores, o HRM superou modelos bem maiores e com janelas de contexto mais longas no ARC-AGI-1, entre eles o3-mini-high e Claude 3.7, partindo de pesos aleatórios e sem cadeia de pensamento. Depois, a equipe do ARC Prize o testou de novo em um conjunto oculto e reproduziu uma pontuação na casa dos trinta por cento, ainda alta para um modelo tão pequeno, mas abaixo do número original.

A Sapient Intelligence publicou o código e os pesos no GitHub, então qualquer pessoa pode repetir os experimentos. O repositório inclui treino, avaliação, um conjunto de dados de quebra-cabeças e um notebook de ARC, e em poucas semanas acumulou milhares de estrelas e uma discussão bastante movimentada. A publicação aberta importa aqui porque os resultados eram incomuns o bastante para que outros pesquisadores quisessem conferi-los por conta própria.

A mesma arquitetura sustenta agora o HRM-Text, um modelo de geração de texto de cerca de 1 bilhão de parâmetros que a Sapient treinou do zero sem pós-treinamento nem RLHF. Os relatos colocam suas pontuações em 56,2 no MATH, 84,5 no GSM8K, 81,9 no ARC-Challenge e 82,2 no DROP, com treino de menos de dois dias em 16 H100. É um lançamento separado do HRM original, mas mostra para onde a arquitetura caminha.