Coinbase a récemment entraîné un modèle d’IA plus petit pour détecter les fraudes, pour moins de 100 $, et celui-ci a obtenu de meilleurs résultats que des modèles plus grands lors de ses propres tests.
Ce qui a retenu mon attention, c’est ce qu’Acurast a fait ensuite.
Acurast a testé le même modèle Qwen3.5-9B sur des téléphones Android dotés de 16 Go de mémoire vive. Le modèle a fourni sa première réponse environ cinq minutes après son déploiement.
L’équipe a également testé plus de 100 téléphones fonctionnant en parallèle, montrant ainsi comment les tâches d’IA peuvent être réparties entre plusieurs appareils au lieu de dépendre de serveurs cloud traditionnels.
Le coût moyen déclaré pendant les tests n’était que de 0,57 ACU par téléphone et par jour.
Je trouve cela intéressant, car toutes les tâches d’IA n’ont pas besoin de GPU coûteux. Des modèles plus petits fonctionnant sur des téléphones ordinaires pourraient gérer les vérifications antifraude, la détection d’arnaques et le traitement en arrière-plan.
La prochaine chose que je surveillerais, c’est la capacité d’Acurast à maintenir des performances fiables à mesure que la demande réelle augmente.
C’est là que cette expérience pourrait prendre une toute autre ampleur.
Source : https://acurast.com/blog/network-and-tech/self-hosted-llm-phone/
$ACU
Ce qui a retenu mon attention, c’est ce qu’Acurast a fait ensuite.
Acurast a testé le même modèle Qwen3.5-9B sur des téléphones Android dotés de 16 Go de mémoire vive. Le modèle a fourni sa première réponse environ cinq minutes après son déploiement.
L’équipe a également testé plus de 100 téléphones fonctionnant en parallèle, montrant ainsi comment les tâches d’IA peuvent être réparties entre plusieurs appareils au lieu de dépendre de serveurs cloud traditionnels.
Le coût moyen déclaré pendant les tests n’était que de 0,57 ACU par téléphone et par jour.
Je trouve cela intéressant, car toutes les tâches d’IA n’ont pas besoin de GPU coûteux. Des modèles plus petits fonctionnant sur des téléphones ordinaires pourraient gérer les vérifications antifraude, la détection d’arnaques et le traitement en arrière-plan.
La prochaine chose que je surveillerais, c’est la capacité d’Acurast à maintenir des performances fiables à mesure que la demande réelle augmente.
C’est là que cette expérience pourrait prendre une toute autre ampleur.
Source : https://acurast.com/blog/network-and-tech/self-hosted-llm-phone/
$ACU
