Coinbase n’a pas battu Claude Opus avec un modèle d’IA plus grand. Elle en a utilisé un plus petit.
Brian Armstrong a révélé que son équipe avait entraîné Qwen3.5-9B, un modèle ouvert gratuit, avec les propres données de Coinbase sur la fraude.
Il a surpassé leur évaluateur Opus 4.5 lors des quatre tests de détection de fraude. Il a aussi répondu en moins de la moitié du temps.
L’entraînement a coûté moins de 100 $ sur un seul GPU Nvidia.
Entraîner une IA performante devient donc peu coûteux. La question suivante est de savoir où la faire fonctionner.
Acurast a testé une réponse surprenante : un téléphone Android ordinaire.
Après compression, le modèle ne fait que 5,7 Go ; un téléphone doté de 16 Go de stockage peut donc l’accueillir. Il utilise le même type d’API qu’OpenAI, ce qui permet aux applications de s’y connecter facilement.
Voici les résultats des tests :
- Temps de configuration : environ 5 minutes
- Coût : environ 5 à 10 cents US par téléphone et par jour
- Vitesse : jusqu’à 9,3 jetons par seconde sur les téléphones les plus rapides
Ce système n’est pas conçu pour les conversations instantanées. Lire une très longue requête a pris plus de 3 minutes sur un téléphone.
En revanche, il fonctionne bien pour les tâches en arrière-plan. Chaque téléphone s’occupe de sa propre tâche ; 100 téléphones peuvent donc en traiter 100 simultanément. Par exemple, vérifier les comptes signalés ou repérer les escroqueries.
Vos données sont également traitées dans votre propre infrastructure, et non envoyées à une grande entreprise d’IA.
Je ne pense pas que les téléphones remplaceront bientôt les grands serveurs équipés de GPU. Mais associer de petites IA spécialisées à de nombreux téléphones qui travaillent ensemble offre une nouvelle façon, moins coûteuse, de faire fonctionner l’IA.
C’est pourquoi je garde un œil sur @Acurast
$ACU
Brian Armstrong a révélé que son équipe avait entraîné Qwen3.5-9B, un modèle ouvert gratuit, avec les propres données de Coinbase sur la fraude.
Il a surpassé leur évaluateur Opus 4.5 lors des quatre tests de détection de fraude. Il a aussi répondu en moins de la moitié du temps.
L’entraînement a coûté moins de 100 $ sur un seul GPU Nvidia.
Entraîner une IA performante devient donc peu coûteux. La question suivante est de savoir où la faire fonctionner.
Acurast a testé une réponse surprenante : un téléphone Android ordinaire.
Après compression, le modèle ne fait que 5,7 Go ; un téléphone doté de 16 Go de stockage peut donc l’accueillir. Il utilise le même type d’API qu’OpenAI, ce qui permet aux applications de s’y connecter facilement.
Voici les résultats des tests :
- Temps de configuration : environ 5 minutes
- Coût : environ 5 à 10 cents US par téléphone et par jour
- Vitesse : jusqu’à 9,3 jetons par seconde sur les téléphones les plus rapides
Ce système n’est pas conçu pour les conversations instantanées. Lire une très longue requête a pris plus de 3 minutes sur un téléphone.
En revanche, il fonctionne bien pour les tâches en arrière-plan. Chaque téléphone s’occupe de sa propre tâche ; 100 téléphones peuvent donc en traiter 100 simultanément. Par exemple, vérifier les comptes signalés ou repérer les escroqueries.
Vos données sont également traitées dans votre propre infrastructure, et non envoyées à une grande entreprise d’IA.
Je ne pense pas que les téléphones remplaceront bientôt les grands serveurs équipés de GPU. Mais associer de petites IA spécialisées à de nombreux téléphones qui travaillent ensemble offre une nouvelle façon, moins coûteuse, de faire fonctionner l’IA.
C’est pourquoi je garde un œil sur @Acurast
$ACU
