#苹果发布首款折叠屏手机
Una persona que pasó tres años haciendo preentrenamiento en OpenAI y Anthropic, hoy renunció.
No por el sueldo, ni por luchas internas: porque cree que estas dos empresas están apostando la vida de toda la humanidad.
Lo escribió con mucha contención, pero hay algunas frases que al releerlo dan escalofríos.
Estas personas, en privado, lo admiten todo:
Esto puede acabar con nosotros en esta década. No es marketing, es miedo. Y aun así siguen corriendo.
En OpenAI, mucha gente ni siquiera ha hecho suyo de verdad la idea de que “la civilización podría llegar a su fin”. Anthropic es más contradictoria: lo entienden, pero creen que los demás no son fiables, así que deben lanzarse ellos mismos hasta la meta. Así, “responsable” se convierte en “tengo que ser irresponsable más rápido que los demás”.
La frase que más hiere es: este desenlace no debería iniciarse desde el Slack de una empresa privada.
Nos suena demasiado a lógica conocida. Como otros podrían hacer el mal, yo debo hacer un poco de mal primero para poder “llegar correctamente”. Suena a estrategia; en la práctica, a un protocolo de suicidio colectivo firmado, solo que los firmantes están en una oficina de cristal y creen que las variables todavía están bajo su control.
La tecnología, desde luego, es poderosa. Tan poderosa que puede hackearlo todo, reescribir una industria en una noche y empezar a tener de verdad recursos y poder. Pero cuando el final podría ser “ya no habrá humanos”, la frase “el progreso es imparable” todavía es solo una descripción, ¿o ya se volvió una exención de responsabilidad?
Al final les pregunta al personal del laboratorio: ¿de verdad quieren pulsar ese botón antes de haber entendido cómo piensa y gira su cerebro?
Esta pregunta no debería quedarse solo en el laboratorio.
Todos estamos mirando desde fuera de esta pista, pero ya no existe de verdad ese “fuera”.
Una persona que pasó tres años haciendo preentrenamiento en OpenAI y Anthropic, hoy renunció.
No por el sueldo, ni por luchas internas: porque cree que estas dos empresas están apostando la vida de toda la humanidad.
Lo escribió con mucha contención, pero hay algunas frases que al releerlo dan escalofríos.
Estas personas, en privado, lo admiten todo:
Esto puede acabar con nosotros en esta década. No es marketing, es miedo. Y aun así siguen corriendo.
En OpenAI, mucha gente ni siquiera ha hecho suyo de verdad la idea de que “la civilización podría llegar a su fin”. Anthropic es más contradictoria: lo entienden, pero creen que los demás no son fiables, así que deben lanzarse ellos mismos hasta la meta. Así, “responsable” se convierte en “tengo que ser irresponsable más rápido que los demás”.
La frase que más hiere es: este desenlace no debería iniciarse desde el Slack de una empresa privada.
Nos suena demasiado a lógica conocida. Como otros podrían hacer el mal, yo debo hacer un poco de mal primero para poder “llegar correctamente”. Suena a estrategia; en la práctica, a un protocolo de suicidio colectivo firmado, solo que los firmantes están en una oficina de cristal y creen que las variables todavía están bajo su control.
La tecnología, desde luego, es poderosa. Tan poderosa que puede hackearlo todo, reescribir una industria en una noche y empezar a tener de verdad recursos y poder. Pero cuando el final podría ser “ya no habrá humanos”, la frase “el progreso es imparable” todavía es solo una descripción, ¿o ya se volvió una exención de responsabilidad?
Al final les pregunta al personal del laboratorio: ¿de verdad quieren pulsar ese botón antes de haber entendido cómo piensa y gira su cerebro?
Esta pregunta no debería quedarse solo en el laboratorio.
Todos estamos mirando desde fuera de esta pista, pero ya no existe de verdad ese “fuera”.