NexaSDK for Mobile
Nexa AI (acquired by Qualcomm) · Programmation · Autres
NexaSDK for Mobile est un kit de développement qui exécute des modèles d'IA directement sur le téléphone plutôt que sur un serveur dans le cloud. Il gère des modèles de texte, d'image et d'audio sur du matériel NPU, GPU et CPU sous Android et iOS, ce qui permet à une app de répondre à des prompts, de transcrire de la parole ou de lire des images sans aller-retour sur le réseau. Le SDK est gratuit et open source, ce qui en fait un point de départ pratique pour les équipes qui veulent de l'inférence d'IA sur l'appareil sans construire un moteur à partir de zéro.
À propos de NexaSDK for Mobile
Qu'est-ce que NexaSDK for Mobile
NexaSDK for Mobile est un SDK d'inférence d'IA sur l'appareil de Nexa AI, une entreprise que Qualcomm a rachetée en 2025. Il donne aux développeurs d'apps un seul moteur pour les modèles d'IA locaux, pour qu'ils n'aient pas à écrire du code d'accélération séparé pour chaque puce à l'intérieur d'un téléphone.
La promesse est simple. L'IA dans le cloud se construit vite mais répond lentement, exige une connexion et envoie les données de l'utilisateur sur le serveur d'un autre. Exécuter le modèle sur l'appareil règle les trois points, et le SDK s'occupe de la partie délicate : choisir le bon processeur et garder l'inférence efficace. Moins de code, moins de surprises.
Le principal bémol, c'est le matériel. Les plus gros gains de performance viennent de la NPU, et ces gains dépendent d'une puce Snapdragon récente avec un format de précision pris en charge. Sur les téléphones anciens ou de milieu de gamme, le SDK retombe sur le CPU ou le GPU. Les petits modèles y fonctionnent encore. Les grands modèles de langage peinent sur la vitesse et la batterie. C'est aussi un outil de développeur, donc les utilisateurs finaux n'y touchent jamais directement. Ils ressentent seulement si une app répond vite sans manger leur batterie.
Pour commencer
- Récupérez le SDK depuis le dépôt GitHub de Nexa AI ou installez-le via le gestionnaire de paquets de la plateforme pour votre app.
- Choisissez un format de modèle pris en charge par le moteur, comme GGUF, MLX ou le format .nexa de Nexa AI, et téléchargez un modèle qui tient dans la mémoire de votre téléphone.
- Choisissez un moteur de calcul pour l'inférence : la NPU pour la vitesse et l'efficacité, ou le CPU et le GPU pour couvrir plus d'appareils.
- Reliez le modèle à votre app via le serveur d'API compatible OpenAI fourni avec le SDK.
- Testez sur un vrai appareil et surveillez l'usage mémoire et batterie avant de publier, car les résultats sur ordinateur ne se transposent pas au téléphone.
Informations sur le produit
Aperçu des tarifs, des plateformes compatibles et des performances de NexaSDK for Mobile.
Idéal pour
Les utilisateurs, tâches et cas d'usage où cet outil convient le mieux.
Utilisateurs
- Développeurs Android et iOS
- Équipes avec des exigences de confidentialité ou de hors ligne
- Prototypeurs
Tâches
- Exécuter un petit modèle de langage hors ligne
- Transcription vocale
- Tâches d'image et de vision
- Appel de fonctions
Cas d'usage
- Une app de notes ou de chat qui garde les conversations sur l'appareil
- Travail de terrain avec un signal irrégulier
- Fonctionnalités sensibles à la batterie
Fonctionnalités clés
Un seul moteur pour NPU, GPU et CPU
Le SDK exécute les modèles sur le processeur disponible, et il s'appuie sur la NPU quand le téléphone en a une. Cela compte parce que la NPU est conçue pour le travail d'IA. Selon Nexa AI, un petit modèle Granite a atteint 92 tokens par seconde sur la NPU d'un téléphone Snapdragon 8 Elite, contre 40 tokens par seconde sur le CPU, avec une efficacité énergétique jusqu'à 9 fois meilleure sur la NPU. Une consommation plus basse sur la même tâche, c'est la différence entre une fonctionnalité que vous activez et une que vous laissez éteinte.
Plusieurs formats de modèle
NexaSDK for Mobile lit GGUF, MLX et le format .nexa de Nexa AI. Cette variété vous laisse de la marge pour choisir un modèle qui existe déjà dans un format que le moteur comprend, plutôt que de tout convertir vous-même. Les modèles quantifiés sont le choix pratique sur téléphone. La mémoire et le stockage sont comptés.
Couverture texte, image et audio
Le moteur gère plus que du texte. Il prend en charge les modèles de vision et d'audio, donc une app peut lire une photo, comparer deux images ou travailler avec de l'audio enregistré dans la même configuration. Pour les apps qui mélangent les modalités, c'est une intégration au lieu de plusieurs.
Serveur d'API compatible OpenAI
Le SDK fournit un serveur d'API qui reprend l'interface d'OpenAI, y compris l'appel de fonctions par schéma JSON et le streaming. Si votre code parle déjà à un modèle dans le cloud, le passer en local revient surtout à le pointer vers le serveur sur l'appareil. Pour les équipes qui pèsent IA dans le cloud contre IA sur l'appareil, cela baisse le coût du changement.
Accélération matérielle sur Snapdragon
L'intégration Qualcomm vise la NPU Hexagon, le GPU Adreno et le CPU Oryon sur les plateformes Snapdragon, avec la prise en charge de formats de basse précision comme INT4 et INT8. Les développeurs choisissent le moteur adapté à la tâche au lieu de régler chaque appareil à la main. C'est là que l'inférence NPU Snapdragon fait ses preuves sur les téléphones Android.
Prise en charge des modèles dès le premier jour
Les nouveaux modèles ouverts sont ajoutés au fur et à mesure de leur sortie, sur les différents backends matériels. Si vous attendez qu'un modèle récent tourne en local, ce délai compte, car un modèle qui ne tourne que dans le cloud n'aide pas une app hors ligne.
Avantages et inconvénients
Avantages
- Gratuit et open source, donc aucun coût de licence pour l'essayer.
- Un seul moteur couvre NPU, GPU et CPU, ce qui réduit le travail par appareil.
- De vrais gains d'efficacité sur la NPU, avec des chiffres publiés de vitesse et de consommation.
- Le serveur compatible OpenAI facilite le passage d'un code cloud existant à un modèle local.
- Gère les modèles de texte, d'image et d'audio dans une seule configuration.
Inconvénients
- La meilleure performance exige un téléphone Snapdragon récent, donc les résultats varient beaucoup selon l'appareil et les téléphones anciens retombent sur une inférence plus lente en CPU ou GPU.
- Les grands modèles sont limités par la mémoire du téléphone, et faire tourner un gros modèle sur le CPU vide la batterie et ralentit les réponses.
- C'est un SDK de développeur, donc aucune app prête à l'emploi pour qu'un utilisateur non technique l'ouvre et l'utilise.
Questions fréquentes
Il exécute des modèles d'IA en local dans les apps Android et iOS. Des fonctions comme le chat, la transcription et la lecture d'images marchent sans envoyer de données à un serveur dans le cloud. Utilisez-le quand vous voulez des réponses rapides, un fonctionnement hors ligne ou plus de contrôle sur les données de l'utilisateur.
Contenus associés
Découvrez des outils, des compétences et des articles liés à NexaSDK for Mobile.
Alternatives à NexaSDK for Mobile
Forefront
Forefront · ProgrammationForefront est une plateforme web pour construire avec de l'IA open source. Elle vous laisse affiner les principaux modèles de langage open source sur vos propres données, évaluer leurs performances et les exécuter via une API ou les exporter pour les héberger vous-même. Les développeurs qui veulent le confort d'une plateforme fermée mais tiennent à rester propriétaires de leurs modèles et de leurs données sont le public visé ici.
Startkit
StartKit.AI · ProgrammationStartkit est un boilerplate pour créer des produits SaaS d'IA et des wrappers d'IA. Voyez-le comme un boilerplate de startup IA avec les parties ennuyeuses déjà branchées : authentification, paiements Stripe et Lemon Squeezy, limites d'usage, e-mail transactionnel et un kit de démarrage d'API IA qui parle à OpenAI, Anthropic, Groq ou Llama. Vous clonez le dépôt, fixez votre prix et attaquez la partie du produit pour laquelle les gens paient vraiment. Il repose sur Next.js au-dessus de React et Tailwind, donc une bonne partie du code boilerplate vous semble déjà familière.
Testim
Tricentis · ProgrammationTestim est une plateforme d'automatisation des tests dopée à l'IA, qui sert à créer et exécuter des tests de bout en bout sur des applications web, mobiles et Salesforce. Elle s'appuie sur l'apprentissage automatique pour garder les tests stables quand une interface change, alors les équipes passent moins de temps à réparer des sélecteurs cassés. Pas mal pour un outil de tests automatisés que vous pouvez utiliser dès aujourd'hui. Vous créez des tests en enregistrant des actions dans un navigateur, puis vous ajoutez du JavaScript quand vous avez besoin de plus de contrôle. C'est un choix solide pour une équipe QA bien occupée.