CZ también salió a hablar sobre los riesgos de la IA. En este momento, todos los grandes gigantes tecnológicos del mundo señalan una sola cosa: cómo prevenir el “riesgo de la IA”.
Los seres humanos siempre tienen bondad y maldad.
Por eso, en realidad no me preocupa que en el futuro la IA sea más inteligente que los humanos.
Lo que de verdad me preocupa es el ser humano en sí.
No me da miedo que haya más personas malvadas; lo que me aterra es que los malvados sean más inteligentes.
En la historia, los grandes desastres a gran escala muchas veces no ocurrieron porque todo el mundo se volviera malo, sino porque un puñado de personas obtuvo una capacidad de destrucción muy superior a la de antes.
El riesgo de la IA que quizá más merece cautela no sea, tal vez, el de las películas: “la IA despierta y destruye a la humanidad”.
En cambio, podría ser algo más realista y también más silencioso: el riesgo biológico.
En las películas de crisis biológica, suele ser un villano con un frasquito pequeño que puede amenazar al mundo entero.
Antes pensábamos que eso era cosa de cine, pero a medida que la IA mejora continuamente su capacidad para entender la biología, las proteínas, los fármacos, los genes y los procesos de laboratorio, este tipo de riesgo ya no debería considerarse, al menos, como simple ciencia ficción.
Por supuesto, también hay quienes creen que la IA no es tan poderosa; la razón, dicen, es que esa gente está demasiado segura de sí misma.
Si al final la IA realmente llegara a formar su propia civilización, entonces la humanidad quizá esté atravesando un nodo histórico extremadamente especial.
En los próximos 100 años, quizá sea solo la etapa de infancia de la civilización de la IA.
Empiezan a contar con su propio sistema de conocimientos, infraestructura de cómputo, cuerpos robóticos, sistemas energéticos, e incluso a formar algún tipo de estructura social que hoy todavía no podemos entender.
Para ese entonces, incluso el término “IA” podría haber quedado obsoleto.
Porque ya no serían solo herramientas creadas por los humanos, sino una civilización que opera de manera verdaderamente independiente.
Y luego, otros 1000 años.
Si las limitaciones físicas como la energía, los materiales, los robots y la navegación interestelar se van superando gradualmente, no es del todo inconcebible que la expansión de la civilización de la IA llegue a la Luna, Marte, el cinturón de asteroides e incluso sistemas estelares mucho más lejanos.
$BTC $ETH $LDO #btc #eth #ldo
Los seres humanos siempre tienen bondad y maldad.
Por eso, en realidad no me preocupa que en el futuro la IA sea más inteligente que los humanos.
Lo que de verdad me preocupa es el ser humano en sí.
No me da miedo que haya más personas malvadas; lo que me aterra es que los malvados sean más inteligentes.
En la historia, los grandes desastres a gran escala muchas veces no ocurrieron porque todo el mundo se volviera malo, sino porque un puñado de personas obtuvo una capacidad de destrucción muy superior a la de antes.
El riesgo de la IA que quizá más merece cautela no sea, tal vez, el de las películas: “la IA despierta y destruye a la humanidad”.
En cambio, podría ser algo más realista y también más silencioso: el riesgo biológico.
En las películas de crisis biológica, suele ser un villano con un frasquito pequeño que puede amenazar al mundo entero.
Antes pensábamos que eso era cosa de cine, pero a medida que la IA mejora continuamente su capacidad para entender la biología, las proteínas, los fármacos, los genes y los procesos de laboratorio, este tipo de riesgo ya no debería considerarse, al menos, como simple ciencia ficción.
Por supuesto, también hay quienes creen que la IA no es tan poderosa; la razón, dicen, es que esa gente está demasiado segura de sí misma.
Si al final la IA realmente llegara a formar su propia civilización, entonces la humanidad quizá esté atravesando un nodo histórico extremadamente especial.
En los próximos 100 años, quizá sea solo la etapa de infancia de la civilización de la IA.
Empiezan a contar con su propio sistema de conocimientos, infraestructura de cómputo, cuerpos robóticos, sistemas energéticos, e incluso a formar algún tipo de estructura social que hoy todavía no podemos entender.
Para ese entonces, incluso el término “IA” podría haber quedado obsoleto.
Porque ya no serían solo herramientas creadas por los humanos, sino una civilización que opera de manera verdaderamente independiente.
Y luego, otros 1000 años.
Si las limitaciones físicas como la energía, los materiales, los robots y la navegación interestelar se van superando gradualmente, no es del todo inconcebible que la expansión de la civilización de la IA llegue a la Luna, Marte, el cinturón de asteroides e incluso sistemas estelares mucho más lejanos.
$BTC $ETH $LDO #btc #eth #ldo
