El futuro de la IA quizá no esté solo en los costosos clústeres de GPU; también podría estar en el teléfono que tienes en la mano.

Hace poco vi una demostración muy interesante: una IA juega al Tetris y, cada vez, elige el siguiente movimiento entre 5 opciones. Tarda entre 0,2 y 1 segundo en tomar una decisión, y todo el proceso se ejecuta en un teléfono Android real.

@Acurast se centra más en el valor práctico de los modelos pequeños. No todas las tareas necesitan el modelo más potente. Muchas veces, un coste lo bastante bajo, una respuesta rápida y la capacidad de funcionar de forma continua son más importantes que perseguir únicamente modelos cada vez más grandes. Generar imágenes chinas relacionadas.

Si los teléfonos también pueden asumir parte del procesamiento de IA, quizá cambien los costes de funcionamiento de los agentes de IA y su dependencia de la infraestructura.

La IA no solo avanza haciendo que los modelos sean cada vez más potentes; también es posible que cada vez más dispositivos cotidianos empiecen a participar. Merece la pena seguir observando esta tendencia, sobre todo para ver si más adelante se podrán ejecutar tareas más prácticas.