Underdog a publié Woof, un modèle de synthèse vocale de 31,7 Mo qui tourne dans un onglet. De quoi livrer une voix sans serveur, à condition d'accepter le compromis sur la qualité.
Un Underdog 32MB speech model qui tient dans un fichier
L'annonce date du 5 novembre, et TechCrunch en a fait la démonstration le lendemain : le modèle s'appelle Woof, pèse 31,7 Mo et compte 31 millions de paramètres. Il est téléchargeable librement.
Ces trois nombres disent l'essentiel. Un modèle de cette taille tient dans un fichier statique, servi avec le reste d'un site. Il n'a pas besoin d'un serveur, ni d'un compte, ni d'un appel d'API facturé au caractère.
Underdog précise qu'il fonctionne dans un navigateur et sur la plupart des appareils, sans connexion internet, ce qui suppose un calcul entièrement local. La formulation compte : « la plupart », pas « tous ».
La démo Woof : une pièce rétro et une machine à écrire qui parle
La démonstration prend la forme d'un petit jeu dans le navigateur. Une pièce au décor rétro, avec une machine à écrire, un écran cathodique, une lampe de bureau qui cliquette et un accordeur de musique.
Vous tapez sur le clavier, et le modèle prononce le texte.
L'introduction du jeu prévient des fournisseurs cloud « intrusifs » installés en ville, une pique aux modèles hébergés. Les joueurs qui battent un personnage nommé Darkcloud reçoivent une invitation.
Le choix du support n'est pas anodin. Une page de jeu se charge vite, se partage par un lien, et se teste sans installer quoi que ce soit. C'est la démonstration la plus courte possible pour un modèle qui doit convaincre par sa légèreté.
Pourquoi un browser speech model change la facture
La synthèse vocale classique se facture à l'usage. Chaque phrase prononcée passe par un serveur, et la note suit le nombre de caractères.
Un browser speech model déplace ce coût. Le fichier est téléchargé une fois, puis le calcul se fait sur l'appareil. Pour un site qui affiche quelques phrases par visiteur, la différence n'est pas spectaculaire, mais pour un service qui lit des articles entiers à voix haute, la facture change de nature.
Combien de phrases un visiteur écoute-t-il vraiment ?
L'argument vaut aussi pour la confidentialité. En on-device TTS, le texte prononcé ne quitte pas la machine, ce qui règle d'un coup la question du journal serveur.
Le revers est connu. Le poids du fichier est payé par tous les visiteurs, y compris ceux qui coupent le son.
Bark, le 27B et l'appli en attente : la gamme Underdog
Woof n'arrive pas seul. Quelques semaines plus tôt, Underdog publiait Bark, un modèle de reconnaissance vocale de 167 Mo, pensé pour les appareils en bout de chaîne, avec la transcription et la dictée comme usages.
L'entreprise a aussi publié un modèle de 27 milliards de paramètres qu'elle dit capable de tourner sur un ordinateur portable. Rien à voir avec un téléphone, et la nuance a son importance.
S'ajoute une application en liste d'attente, présentée comme une alternative hébergée localement à Muse et à Instinct.
Cette accumulation dessine une stratégie claire. Underdog ne vend pas un service, elle publie des briques que d'autres assemblent.
Ce que le fondateur d'Underdog veut vraiment
Le fondateur Sigil Wen a expliqué à TechCrunch le point de départ : il voulait son propre système, avec des modèles qui tournent sur les appareils des utilisateurs et qui leur laissent la propriété de leurs données.
Il ajoute une prédiction. Selon lui, la plupart des modèles capables d'aujourd'hui tourneront sur les appareils que les gens possèdent déjà d'ici quelques mois. Underdog veut entraîner les meilleurs modèles ouverts et fabriqués aux États-Unis, pour que les gens disposent d'une IA privée qui ne passe par aucun serveur.
C'est un discours de fondateur, et il faut le prendre comme tel. Il n'en reste pas moins que publier un modèle de 31,7 Mo téléchargeable est une manière concrète de tester l'idée.
Les limites d'un small speech model
Aucun taux d'erreur, aucun score de naturel, aucun test d'écoute n'a été publié pour Woof. Aucune évaluation indépendante n'existe non plus.
TechCrunch note qu'un modèle aussi petit ne remplacera probablement pas les grands modèles vocaux. Il peut suffire pour un assistant local ou des podcasts personnalisés, ce qui est déjà un usage.
Un onglet de navigateur reste un onglet. Il consomme du processeur et du GPU, et il faut un appareil correct pour que la lecture tienne la cadence, ce qui exclut une partie du parc encore en service. Sur un téléphone d'entrée de gamme, l'expérience sera autre chose.
La licence n'est pas établie non plus. Le téléchargement est ouvert, ce qui ne dit rien des conditions d'usage commercial.
Ce qu'un développeur peut livrer ce mois-ci avec Woof
Un site vitrine pour une association à Nantes, avec une voix qui lit les actualités aux personnes malvoyantes. Ce cas ne demande pas de serveur, ni de budget mensuel.
Trois points restent à vérifier avant de promettre quoi que ce soit.
La langue.
Rien dans la couverture publiée ne précise quelles langues le modèle parle, et un site francophone ne peut pas se contenter d'un test en anglais réalisé sur un ordinateur de bureau.
L'appareil. Un test sur le parc réel vaut mieux qu'une démonstration sur un ordinateur récent.
Le cadre. Sans licence claire, mieux vaut ne pas bâtir un produit commercial dessus.
Woof montre qu'une voix de synthèse peut tenir dans un simple fichier, sans serveur et sans compte. La question n'est plus de savoir si c'est possible, mais si la qualité suffit pour votre usage.
