ModèlesPopulaire

Inkling 2 Mini : 24 couches qui en valent 48 sur un portable

Thinking Machines Lab repasse trois fois par les mêmes couches pour faire raisonner un modèle de 27 milliards de paramètres. Le résultat tient sur un portable, à condition d'accepter ce qu'une boucle ne sait pas faire.

Julien MartinJulien Martin
Popularité : 1,710
Le contour d'un ordinateur portable avec trois feuilles de couches empilées qui traversent une flèche en boucle

Thinking Machines Lab repasse trois fois par les mêmes couches pour faire raisonner un modèle de 27 milliards de paramètres. Le résultat tient sur un portable, à condition d'accepter ce qu'une boucle ne sait pas faire.

La boucle d'Inkling 2 Mini, ou pourquoi 24 couches en valent 48

L'annonce du 20 novembre tient dans une décision d'architecture. Inkling 2 Mini compte 24 couches de décodeur, et les douze couches du milieu, de la sixième à la dix-septième, sont exécutées trois fois pour chaque jeton traité. Le modèle stocke donc 24 couches et en visite 48.

Le mécanisme consiste à relire les mêmes poids plutôt qu'à en empiler d'autres. Un transformeur classique gagne en profondeur en ajoutant des couches, donc de la mémoire. Un looped transformer garde la même empreinte disque et multiplie les opérations en série sur chaque jeton, si bien qu'il pense plus longtemps sans grossir.

Thinking Machines Lab en tire un argument double. La boucle donne au modèle du calcul supplémentaire sans l'obliger à écrire ce calcul dans son raisonnement visible, ce qui compte pour les agents de code et pour la surveillance. L'entreprise publie des travaux sur ce point avec les open weights.

Ce que pèsent les 26,4 milliards de paramètres d'Inkling 2 Mini

Le modèle est un mélange d'experts: chaque couche envoie le jeton vers 8 experts sur 128, ce qui explique l'écart entre la taille totale et le travail réel par jeton.

Caractéristique

Valeur annoncée

Paramètres totaux

26,4 milliards

Paramètres actifs par jeton

3,4 milliards

Activation des poids par jeton

5,4 milliards

Experts par couche

128, dont 8 sélectionnés

Fenêtre de contexte

1 million de jetons

Entrées acceptées

texte et images

Quantisation

20 couches en NVFP4, 4 dernières en MXFP8

Poids sur disque

environ 20 Go

La quantification explique les 20 Go. Vingt couches sont entraînées et déployées en NVFP4, les quatre dernières en MXFP8, si bien qu'aucune perte de conversion ne s'ajoute à l'entraînement.

La fenêtre d'un million de jetons a ses limites. Sur MRCR v2 avec huit aiguilles, entre 256 000 et 512 000 jetons, le modèle atteint 46,4 %. Vous pouvez lui confier un dépôt entier. Pas un détail enfoui, sans vérifier.

Les scores d'Inkling 2 Mini face aux modèles ouverts de moins de 100 milliards

Thinking Machines Lab et Hugging Face placent le modèle en tête de cette catégorie précise. Sur DeepSWE v1.1, un test de résolution de tickets logiciels, il atteint 48,2 %, et 46,5 % sur Vals Index v2.2. Aucun n'a été reproduit par un laboratoire indépendant.

Sur l'index d'intelligence v5 d'Artificial Analysis, il obtient 20,1, exactement le score de Qwen3.8-27B et au-dessus de Nemotron 3.5 Super VL, crédité de 13,6. Le match nul avec Qwen est la ligne la plus importante du tableau.

Hugging Face ajoute une comparaison plus large: face à Gemma 4 31B, Muse Glimmer, Qwen3.8-27B et Nemotron 3.5 Super VL, il l'emporte sur 32 des 48 tests. Sur Terminal Bench v2.1, qui mesure le travail en ligne de commande, il obtient 71,6 % contre 73,0 % pour Qwen3.8-27B.

Là où Inkling 2 Mini reste derrière Qwen3.8-27B

Deux scores comptent pour un usage de bureau. MultiChallenge, qui teste la tenue d'une conversation sur plusieurs tours, tombe à 50,0 %. ComplexConstraints v1.1, qui vérifie le respect de consignes nombreuses, s'arrête à 33,4 %. Qwen3.8-27B fait mieux sur les deux, et garde l'avantage sur HLE-Diamond.

Hugging Face parle de tests d'usage « au moins comparables à Qwen 3.8 27B » et reconnaît qu'il faudra plus de validation. Un assistant qui exécute des tâches longues avec des outils, oui. Un interlocuteur de chat qu'on corrige pendant vingt tours, moins.

Pourquoi boucler n'ajoute pas de connaissances à Inkling 2 Mini

La boucle ajoute du calcul, pas des faits. Thinking Machines Lab le dit sans détour: les scores AA-Omniscience restent dans la moyenne des modèles de même taille, et les gains des passages supplémentaires apparaissent sur le contexte long, pas sur les questions factuelles à livre fermé.

Une variante de recherche, TML-d24-varloop-research, accepte de un à cinq passages. À un passage, son horizon temporel sans chaîne de pensée atteint 16 secondes, contre 37 à trois passages. Le raisonnement écrit raccourcit à mesure que la boucle s'allonge, avec 1 661 jetons en moyenne à cinq passages contre 3 703 à un seul, sans que la longueur des phrases ni la part de mots rares bougent.

Le dernier point touche à la surveillance. L'équipe dit n'avoir observé aucune hausse des scores de sabotage agentique quand le nombre de passages augmente, et en conclut qu'à cette échelle la boucle accroît ce que le modèle peut faire sans raisonnement écrit. C'est une affirmation d'éditeur sur ses propres tests, pas un résultat audité.

Installer Inkling 2 Mini : Hugging Face, SGLang, llama.cpp, MLX

Les poids sont sur Hugging Face dès le premier jour, avec quatre chemins selon votre matériel. Avec transformers, le modèle se charge via AutoModelForMultimodalLM. Avec SGLang, le support est arrivé le jour de la sortie, la voie la plus simple pour servir plusieurs requêtes. llama.cpp fournit deux quantifications GGUF, IQ4_NL et Q8_0, accessibles dans Llama App. Sur Mac, MLX est pris en charge. Tinker propose une inférence hébergée, sans tarif public annoncé.

En pratique, 20 Go de poids laissent de la marge sur une machine à 32 Go de mémoire unifiée, à condition de ne pas ouvrir un contexte d'un million de jetons en même temps. C'est le compromis du local AI: vous gagnez la confidentialité, rien ne sort de la machine, et vous perdez la vitesse d'un cluster.

La démo de Thinking Machines Lab : un simulateur de vol hors ligne

La démonstration qui accompagne la sortie est un MacBook Pro M5 Pro de 48 Go en mode avion. Le modèle y construit un simulateur de vol jouable en quelques minutes, sans réseau, puis une simulation de ville à vingt personnages.

Le chiffre le plus intéressant vient de deux laboratoires de Stanford, Hazy Research et Scaling Intelligence. Sur un DGX Spark en MXFP8 avec un effort de raisonnement faible, le modèle atteint 0,703 point d'intelligence par joule, contre 0,430 pour Qwen3.6-35B-A3B et 0,159 pour Gemma-4-26B-A4B. Pour un développeur qui paie son électricité au tarif réglementé, cette mesure dit plus que les scores de codage.

Ce qu'il faut surveiller dans le looped transformer

La vraie question concerne la boucle elle-même: deviendra-t-elle une astuce standard des petits modèles locaux ? Si oui, la taille des poids cessera d'être le seul curseur, et les cartes graphiques de milieu de gamme redeviendront intéressantes.

L'autre question touche à la surveillance. Thinking Machines Lab mesure la contrôlabilité de son propre modèle. Rien ne garantit qu'un modèle à boucle entraîné ailleurs, avec moins de précautions, se comporte pareil.

Partager cet article

Sources

Actualités liées à l’IA

Une fenêtre de terminal avec une courbe de récompense ascendante et un badge 27B à côté
Modèles

RadixArk double le score Terminal-Bench 4.1 de Qwen3.8-27B

RadixArk publie DaisyRose-27B, un Qwen3.8-27B réentraîné par renforcement sur des tâches d'agents longues. Le gain est net, le score absolu reste bas, et l'argument réel porte sur le coût par point gagné.

Popularité : 1,330
Une longue forme d'onde audio bleu-vert avec une seule barre orange sur fond sombre
Modèles

Rumble-2-Flash : 500 millions de paramètres qui tiennent tête à un modèle géant

Reson8 publie un modèle de reconnaissance vocale de 500 millions de paramètres qui arrive à un dixième de point d'un modèle soixante fois plus gros sur de vrais appels téléphoniques. Reste à savoir ce que vous abandonnez en échange.

Popularité : 560
Trois anneaux néon en orbite autour d'un petit noyau lumineux sur fond bleu profond
Modèles

Gemini 4 Neon arrive dans l'application, et le sélecteur perd deux noms

Google remplace Gemini 4 Argon par un modèle qu'il présente comme proche de Gemini 4 Carbon, pour un coût par tâche plus bas. Voici ce que cela change dans l'application, et ce que les chiffres de Google couvrent vraiment.

Popularité : 1,500
Un grand cœur de modèle entouré de rayons de raisonnement, à côté d'un cœur rapide plus petit, avec des barres de prix en baisse à droite
Modèles

OpenAI baisse GPT-6.2 Astra de 20 %, sans reprendre la tête partout

OpenAI baisse le tarif de son modèle haut de gamme et laisse celui de Sol intact. Le vrai sujet n'est pas le pourcentage affiché, mais ce que coûte une tâche une fois la facture tombée.

Popularité : 1,900