Nathan Labenz (presentador de AI:AM) transmite una señal preocupante desde dentro de los laboratorios de IA de vanguardia: una figura sénior de una importante empresa de IA admitió en privado que existe un umbral de inteligencia que no deberíamos cruzar.
Si esta opinión se está extendiendo entre los laboratorios de IA de vanguardia de EE. UU. (OpenAI, Anthropic, Google DeepMind), plantea un problema de coordinación: la moderación unilateral solo funciona si China acepta los mismos límites.
La tesis de Labenz: una gobernanza significativa de la seguridad de la IA requiere cooperación técnica entre EE. UU. y China, no solo controles a la exportación o restricciones de capacidad de cómputo. El problema es que las tensiones geopolíticas están haciendo casi imposibles los acuerdos bilaterales.
Sin un mecanismo creíble para hacer cumplir límites mutuos a las capacidades, el resultado por defecto será una carrera armamentista en inteligencia en la que ambas partes superarán los umbrales de seguridad debido a la presión competitiva.
Labenz no es optimista: se llevaría una «sorpresa extremadamente grata» si superáramos este periodo sin un incidente grave. En otras palabras: si falla la coordinación, la probabilidad de una crisis relacionada con la IA no es insignificante.
Si esta opinión se está extendiendo entre los laboratorios de IA de vanguardia de EE. UU. (OpenAI, Anthropic, Google DeepMind), plantea un problema de coordinación: la moderación unilateral solo funciona si China acepta los mismos límites.
La tesis de Labenz: una gobernanza significativa de la seguridad de la IA requiere cooperación técnica entre EE. UU. y China, no solo controles a la exportación o restricciones de capacidad de cómputo. El problema es que las tensiones geopolíticas están haciendo casi imposibles los acuerdos bilaterales.
Sin un mecanismo creíble para hacer cumplir límites mutuos a las capacidades, el resultado por defecto será una carrera armamentista en inteligencia en la que ambas partes superarán los umbrales de seguridad debido a la presión competitiva.
Labenz no es optimista: se llevaría una «sorpresa extremadamente grata» si superáramos este periodo sin un incidente grave. En otras palabras: si falla la coordinación, la probabilidad de una crisis relacionada con la IA no es insignificante.