La confianza a veces no desaparece por un fallo del sistema.
Desaparece porque hace demasiado tiempo que nadie revisa el sistema.
Me di cuenta de esto al observar cómo la IA empieza a participar en más decisiones.
Desde operaciones y asignación de activos hasta la automatización de procesos: cuanto más trabajo se le encarga a la máquina, menos la gente mira cada paso intermedio.
Con que los resultados sean correctos solo algunas veces, la verificación se convierte poco a poco en un hábito que se pasa por alto.
Ese es también el momento en que empecé a ver a Newton de otra manera.
Lo interesante del proyecto no está en la política o en la verificación.
Está en mantener vivo el proceso de verificación, incluso cuando el usuario ya no lo realiza de forma consciente.
Una transacción aceptada no significa que la decisión detrás de ella sea fiable.
Igual que un cálculo que da el resultado correcto no implica que el método de solución sea siempre correcto.
La distancia entre esas dos cosas se vuelve aún más importante cuando la IA empieza a tomar decisiones por sí misma en lugar de las personas.
Creo que esta es la diferencia entre un sistema que es confiable y uno que solo te resulta familiar.
Un sistema familiar hace que la gente deje de hacerse preguntas.
Un sistema confiable siempre permite que las preguntas sean respondidas.
Quizá el futuro de la IA no dependa de cuánto confiemos en el sistema.
Sino de hasta dónde todavía podamos verificarlo. #newt $NEWT $SYN $BTC

¿Qué es más valioso en una economía impulsada por la IA?