PocketPal AI

Le cœur de l'appli, c'est l'inférence locale. PocketPal AI fait tourner des modèles GGUF quantifiés via llama.cpp, donc Gemma, Qwen, Phi, Llama et des milliers d'autres discutent entièrement hors ligne. Rien d'une conversation n'est envoyé ni stocké sur des serveurs externes. L'appli garde aussi l'écran allumé pendant la génération, pour que les longues réponses ne soient pas coupées par le verrouillage automatique.

Les réponses n'ont pas à rester muettes. PocketPal inclut une synthèse vocale neuronale qui tourne sur le téléphone, avec des moteurs comme Kokoro via ONNX Runtime. Les voix sont générées en local, sans appel au cloud, ce qui préserve la même promesse de confidentialité que le chat. C'est utile pour le mains libres, l'accessibilité et tout ce qu'on écoute en déplacement.

Les Pals sont des assistants personnalisés que vous configurez avec leur modèle par défaut, leur prompt et leur personnalité. Les Pals de type Assistant visent une tâche, tandis que ceux de type Roleplay ajoutent un rôle, un lieu et d'autres éléments de contexte pour des conversations scénarisées. PalsHub est une place de marché dans l'appli où vous parcourez et installez des Pals de la communauté, y compris des premium achetés dans le programme. Un seul téléchargement couvre ainsi plusieurs usages distincts.

Le choix du modèle conditionne tout, alors l'appli se connecte directement à Hugging Face. Vous cherchez des modèles GGUF, filtrez par quantification et les téléchargez tout de suite ou les enregistrez pour plus tard. Les modèles restreints s'ouvrent quand vous ajoutez un jeton personnel dans Settings. L'appli permet aussi d'ajouter un fichier de modèle depuis le stockage local, ce qui arrange ceux qui gardent déjà des poids sur l'appareil.

La page de benchmark transforme les suppositions en chiffres. Elle mesure les tokens par seconde et l'usage mémoire des modèles que vous chargez, ce qui permet de comparer les candidats sur votre matériel réel avant de trancher. Les résultats se partagent dans l'AI Phone Leaderboard, où ils se comparent à d'autres appareils et aident l'acheteur suivant à choisir une taille que son téléphone supporte.

Les versions récentes laissent des Pals capables appeler des outils en pleine conversation. Un Talent est un petit moteur que le modèle peut invoquer, et l'appli enregistre des outils comme la calculatrice, la date et l'heure, et le rendu HTML enrichi. La boucle d'agent émet les tokens, détecte un appel, l'exécute et renvoie le résultat pour le tour suivant. C'est le premier pas du chat simple vers un assistant qui règle des choses sur l'appareil.