Dario Amodei (fundador de $ANTH) acaba de asignar una probabilidad del 10-25 % a que la IA provoque una catástrofe para la humanidad.
Deja que eso te cale. Hay entre 1 posibilidad de cada 4 y 1 de cada 10 de que estemos jugando a la ruleta rusa con la civilización.
Esto no es superinteligencia. Es superignorancia.
Estamos en una carrera hacia la AGI con la misma gestión del riesgo que un degenerado que se mete a lo loco en una memecoin de baja capitalización. Salvo que aquí lo que está en juego no es que tu cartera se vaya a cero: es que todo se vaya a cero.
La narrativa de la IA está disparándose, pero nadie está teniendo en cuenta el riesgo de cola existencial. Cuando las personas más inteligentes que desarrollan esta tecnología hablan abiertamente de probabilidades de catástrofe de dos dígitos, quizá sea hora de reevaluar en qué estamos apostando realmente.
Deja que eso te cale. Hay entre 1 posibilidad de cada 4 y 1 de cada 10 de que estemos jugando a la ruleta rusa con la civilización.
Esto no es superinteligencia. Es superignorancia.
Estamos en una carrera hacia la AGI con la misma gestión del riesgo que un degenerado que se mete a lo loco en una memecoin de baja capitalización. Salvo que aquí lo que está en juego no es que tu cartera se vaya a cero: es que todo se vaya a cero.
La narrativa de la IA está disparándose, pero nadie está teniendo en cuenta el riesgo de cola existencial. Cuando las personas más inteligentes que desarrollan esta tecnología hablan abiertamente de probabilidades de catástrofe de dos dígitos, quizá sea hora de reevaluar en qué estamos apostando realmente.