Hierarchical Reasoning Model

En tant que modèle de raisonnement récursif, le HRM répartit son travail entre deux modules récurrents couplés. Le module de haut niveau planifie lentement et fixe la direction ; celui de bas niveau calcule vite et remplit le détail. Cela imite le traitement à plusieurs échelles de temps du cortex humain, où les régions supérieures intègrent l'information plus longtemps et les inférieures réagissent sur le moment. Ce choix permet au modèle d'atteindre une vraie profondeur de calcul sans empiler des dizaines de couches Transformer.

Le modèle aboutit à une réponse en une seule passe, et rien ne supervise les étapes intermédiaires. Pas de texte de chaîne de raisonnement, pas d'invite étape par étape. L'article soutient que le langage est un outil de communication, pas le support de la pensée : le HRM raisonne donc dans un espace latent et n'émet que le résultat final. Cela réduit la latence et le coût en données qui ralentissent les modèles CoT.

Le modèle de 27 millions de paramètres s'entraîne sur environ 1 000 exemples, et il n'a pas besoin de traces de raisonnement annotées pour y parvenir. Aucun pré-entraînement ni donnée de chaîne de raisonnement n'est requis, donc un laboratoire peut l'entraîner de zéro. Selon Sapient Intelligence, ces chiffres donnent des scores quasi parfaits au sudoku extrême et à la recherche de chemin dans de grands labyrinthes, des tâches où les modèles à chaîne de raisonnement marquent zéro. Pour un montage de recherche, la petite taille est l'atout principal.

Le HRM décide combien réfléchir selon le problème. Le module de haut niveau se met à jour, laisse celui de bas niveau converger, puis recommence, et un signal d'arrêt appris indique quand s'arrêter. Les énigmes faciles consomment moins de cycles, les difficiles davantage : le calcul suit donc la difficulté au lieu de tourner un nombre fixe d'étapes. Cette montée en charge au moment de l'inférence est ce qui permet à un modèle minuscule d'aller loin sur un problème.

L'Abstraction and Reasoning Corpus (ARC-AGI) est un benchmark conçu pour mesurer le raisonnement général, pas les connaissances mémorisées. Selon les auteurs, le HRM a battu des modèles bien plus gros et dotés de fenêtres de contexte plus longues sur ARC-AGI-1, dont o3-mini-high et Claude 3.7, en partant de poids aléatoires et sans chaîne de raisonnement. L'équipe d'ARC Prize l'a ensuite retesté sur un ensemble caché et a reproduit un score autour de la trentaine de pourcents, encore élevé pour un modèle aussi petit, mais en dessous du chiffre initial.

Sapient Intelligence a publié le code et les poids sur GitHub, donc n'importe qui peut refaire les expériences. Le dépôt couvre l'entraînement, l'évaluation, un jeu de données d'énigmes et un notebook ARC, et il a réuni en quelques semaines des milliers d'étoiles et un fil de discussion très animé. La publication ouverte compte ici parce que les résultats étaient assez inhabituels pour que d'autres chercheurs veuillent les vérifier eux-mêmes.

La même architecture porte désormais HRM-Text, un modèle de génération de texte d'environ 1 milliard de paramètres que Sapient a entraîné de zéro sans post-entraînement ni RLHF. Les retours situent ses scores à 56,2 sur MATH, 84,5 sur GSM8K, 81,9 sur ARC-Challenge et 82,2 sur DROP, pour un entraînement de moins de deux jours sur 16 H100. C'est une sortie distincte du HRM d'origine, mais elle montre où va l'architecture.