El padrino de la IA (y al mismo tiempo el científico más citado del mundo) Joshua Bengio apoyó una pausa global coordinada y VERIFICABLE en el desarrollo de la IA hasta que se desarrollen "garantías de seguridad" para dicho desarrollo.

Más recientemente, el Papa de Roma llamó a "Desarmar la IA" y también a tomar su desarrollo bajo un estricto control moral y ético.

Tales apelaciones suenan nobles, pero en el mundo moderno son poco realistas (según me parece).

El Vaticano está coqueteando con Anthropic, tratando de "liderar" una nueva revolución tecnológica. Al mismo tiempo, gestiona el avanzado telescopio VATT en Arizona, digitaliza sus archivos secretos con la ayuda de redes neuronales, y sus empleados utilizan chatbots para el trabajo rutinario. Cuando las tecnologías penetran incluso más allá de las paredes de los sagrados recintos, intentan poner la IA en pausa - así es como se prohibirá la electricidad.

Pero lo más importante ni siquiera es eso. Una pausa coordinada y global es básicamente imposible. Vivimos en una era donde la confrontación geopolítica se ha vuelto FIRME y a veces incluso CALIENTE. El liderazgo en el campo de la IA ya es un problema de seguridad nacional. Esta es una cuestión de armas, incluidas las armas cibernéticas. Esta es una cuestión de superioridad económica y militar.

Imagina que EE. UU. detiene honestamente el desarrollo de tecnologías de IA, como están pidiendo Anthropic y el padrino de la IA. ¿Y qué hará China? Acelerar al máximo. Para que la "pausa" sea "verificable", los estadounidenses deben tener acceso a centros de datos cerrados en Shenzhen, y los chinos - a servidores en Ohio. En el mundo de hoy, tal confianza es absolutamente imposible.

Por lo tanto, los gobiernos, las empresas, los científicos y el Vaticano pueden publicar hermosas declaraciones tanto como quieran, pero a puertas cerradas, los servicios secretos de China, EE. UU. y otros países solo exigirán una cosa: "DESARROLLEN ESTAS TECNOLOGÍAS RÁPIDO. El enemigo no esperará."