Dos semanas después del lanzamiento de GPT-4, se publicó en línea una carta abierta firmada por Elon Musk y miles de personas de la industria tecnológica. La carta abierta pide a todos los laboratorios de inteligencia artificial que suspendan inmediatamente el entrenamiento de sistemas de inteligencia artificial más potentes que GPT-4 durante al menos 6 meses.

El cofundador de Apple, Steve Wozniak, el ganador del premio Turing, Yoshua Bengio, y el coautor del libro de texto sobre inteligencia artificial "Inteligencia artificial: un enfoque moderno", Stuart Russell Stuart Russell y otras figuras tecnológicas reconocidas firmaron esta carta abierta.

La carta abierta afirma que "la IA avanzada puede significar cambios profundos en la historia de la vida en la Tierra, y deberíamos invertir atención y recursos proporcionales en su planificación y gestión, pero ahora la inteligencia artificial ha caído en una carrera fuera de control". y los desarrolladores no pueden entenderlo. Predecirlo y controlarlo de manera confiable.

La carta abierta también menciona que los sistemas de inteligencia artificial contemporáneos se están volviendo competitivos con los humanos en tareas generales. "Sólo deberían desarrollarse sistemas de inteligencia artificial potentes cuando estemos seguros de que sus efectos son positivos y sus riesgos controlables".

Según la idea de la carta abierta, el entrenamiento de sistemas de inteligencia artificial más potentes que GPT-4 debería suspenderse durante 6 meses. Durante esta pausa, los laboratorios de IA y los expertos independientes deben trabajar juntos para desarrollar e implementar un conjunto compartido de protocolos de seguridad para el diseño y desarrollo avanzado de IA, sujeto a rigurosas auditorías y supervisión por parte de expertos externos independientes.

Estos protocolos deben garantizar que sus sistemas sean seguros y estén más allá de toda duda razonable. Esto no significa una moratoria sobre el desarrollo de la IA en general, sino sólo un paso atrás en la peligrosa carrera hacia modelos de caja negra más grandes e impredecibles.

La carta fue publicada en el sitio web del Future of Life Institute, que está financiado principalmente por la Fundación Musk, Founders Pledge y la Silicon Valley Community Foundation, y su misión es guiar a las tecnologías transformadoras a alejarse de las extremas a gran escala. riesgos y hacia una vida de bendición.

Ya en 2017, el Future of Life Institute convocó a más de 100 líderes de opinión e investigadores en los campos de la economía, el derecho, la ética y la filosofía para reunirse en California para discutir y formular principios para una inteligencia artificial beneficiosa. Al final, formularon 23 Principios de Inteligencia Artificial de Asilomar, que se consideran principios importantes para la gobernanza de la inteligencia artificial. El primero de ellos es "El objetivo de la investigación sobre inteligencia artificial debe ser establecer inteligencia beneficiosa, no inteligencia desordenada".

Para los trabajadores de tecnología que firmaron esta carta abierta, la mayoría de la gente está preocupada de que la IA se esté desarrollando demasiado rápido, que la supervisión y las leyes pertinentes no se hayan mantenido al día, e incluso los inventores carezcan de métodos de control eficaces. En tales condiciones, es probable que el uso irrestricto de la IA genere riesgos sistémicos si surgen problemas.

Según la revista Time, Simón Campos, firmante de la carta abierta y director ejecutivo de la startup de seguridad de inteligencia artificial SaferAI, dijo que los inventores de los sistemas de IA no saben exactamente cómo funcionan ni qué son, por lo que no gestionan los riesgos del sistema. El inventor tiene la capacidad de hacerlo, pero no sabe cómo limitar el comportamiento de la IA.

"¿Qué estamos haciendo ahora?", Dijo Campos. "Estamos trabajando a toda velocidad para expandir estos sistemas a niveles de capacidad sin precedentes y tener un impacto transformador en la sociedad. Debemos frenar el desarrollo de estos sistemas y permitir que la sociedad se adapte".

La preocupación de Musk: IA que no se puede apagar

Musk ha desconfiado de la IA durante mucho tiempo. Ya en 2014, Musk declaró públicamente en una entrevista que deberíamos tener mucho cuidado con la inteligencia artificial. Si tuviéramos que adivinar cuál es la mayor amenaza para la existencia humana, podría ser artificial. inteligencia. . "Con la inteligencia artificial, los humanos estamos convocando al diablo", afirmó Musk.

También dijo: "Me inclino cada vez más a pensar que debería haber alguna supervisión regulatoria, tal vez a nivel nacional e internacional, sólo para asegurarnos de que no hagamos algo realmente estúpido".

Musk no sólo habla de cuestiones de seguridad de la IA. A principios de 2015, Musk donó 7 millones de dólares al Future of Life Institute para realizar investigaciones destinadas a hacer que la IA beneficie a la humanidad. La mayoría de los beneficiarios participan en investigaciones sobre la ética, la gobernanza y la seguridad de la IA. Muchos beneficiarios, como Stuart Russell, participaron en la firma de esta carta abierta.

Como uno de los primeros inversores en DeepMind, Musk parece algo ambivalente acerca de la IA. Pero afirmó que su inversión no se hizo desde la perspectiva del retorno de la inversión, sino que simplemente quería prestar atención al desarrollo de la inteligencia artificial, porque esto puede conducir a resultados peligrosos. Hay algunas consecuencias nefastas, dijo, y debemos trabajar para asegurarnos de que las consecuencias sean buenas, no malas. "

El mal resultado no es que los robots se rebelen y acaben con los humanos, como se muestra en la película. En cambio, los expertos no se preocupan por la conciencia de los robots, sino por sus capacidades. La IA tiene una poderosa capacidad para lograr sus objetivos, pero si se sale de control o se desvía del escenario de uso planificado, puede causar daños irreversibles.

Una persona importante que firmó la carta abierta, el ganador del Premio Turing Joshua Bengio, conocido como el "padrino de la IA", siempre ha estado preocupado por el abuso de la inteligencia artificial. En 2018, Bengio fue uno de los miles de investigadores de inteligencia artificial que firmaron un compromiso para oponerse al desarrollo de armas de inteligencia artificial. Pidió a los gobiernos que regulen la investigación en inteligencia artificial y detengan el desarrollo de robots mortales.

Las armas de IA son un ejemplo extremo de abuso de robots. Las armas de IA son más eficientes que las armas tradicionales cuando se usan en el campo de batalla. Sin embargo, una vez fuera de control, los problemas causados ​​por las armas de inteligencia artificial serán más graves. En el campo de batalla, para no funcionar mal ante una simple interferencia, las armas de IA actuales suelen estar diseñadas para que sea difícil desactivarlas directamente. Imagínese las trágicas consecuencias si armas de IA altamente efectivas programadas para atacar a humanos cayeran accidentalmente en áreas civiles.

De hecho, cómo apagar la IA es un problema que preocupa a muchos expertos en firmas.

Pero si la aplicación de la IA se desarrolla demasiado rápido, desactivarla puede requerir enormes costos y resultar difícil. Musk ha imaginado que si un algoritmo se sale de control en un sistema, los administradores pueden encontrarlo. Pero si este sistema es administrado por una IA grande, es posible que no podamos encontrar el punto donde está fuera de control, o que no tengamos la autoridad para detener el funcionamiento de toda la IA grande. El simple mantenimiento puede convertirse en un problema.

Por eso la IA necesita más regulación y la tecnología debe ser más democrática en lugar de concentrarse en manos de grandes empresas.

Para evitar que el poder de la IA se concentre en manos de grandes empresas, especialmente Google DeepMind, Musk y Sam Altman cofundaron OpenAI con el propósito de democratizar el poder de la inteligencia artificial y reducir la posibilidad de la IA. siendo monopolizado.

Esto es algo irónico, GPT-4, creado por OpenAI, es exactamente a lo que Musk se opone actualmente. Hace apenas unos días, Musk estaba teniendo una disputa verbal con el director ejecutivo de OpenAI, Sam Altman.

Detente, "Alineémonos".

Además de las preocupaciones de estos grandes, entre el público en general existe un miedo de larga data a la IA.

Entre ellos, está el miedo al ordenador superinteligente HAL 9000, que tomó conciencia en la película de ciencia ficción "2001: Odisea en el espacio", y también hay un miedo más práctico al caos y las malas situaciones que pueden provocar IA controlando el mundo.

En esa carta abierta, uno de los materiales citados muchas veces fue el libro más vendido "Alignment Problem", que fue elogiado por muchos grandes nombres en el campo de la inteligencia artificial, incluidos los ejecutivos de Microsoft. Un cofundador del Future of Life Institute (FLI), que publicó la carta abierta, elogió públicamente el libro: "Está lleno de descubrimientos asombrosos, obstáculos inesperados, soluciones ingeniosas y cada vez más preguntas difíciles sobre la naturaleza de la vida". nuestra especie”. Y el mayor problema que se analiza en ese libro es: la ética de la inteligencia artificial.

Una de las cuestiones éticas más simples de la inteligencia artificial es el problema de los clips. Si a un robot se le ordena que fabrique tantos clips como sea posible, agotará todos los recursos de la Tierra y fabricará incansablemente clips durante el mayor tiempo posible, porque completar esta tarea está relacionado. a su No hay conflicto con el código moral, entonces todo lo que puede hacer es realizar tareas. En la larga historia de la humanidad, una gran cantidad de normas morales, nuestro asombro y miedo se han solidificado en nuestra cultura y profundamente arraigados en la mente de todos. A veces nosotros mismos no somos conscientes de ello y una máquina no ha experimentado una historia tan larga. La evolución de los niños, como un niño que nace con superpoderes, se convierte en un riesgo en sí mismo.

Por lo tanto, Brian Christian, autor del libro "The Alignment Problem" y autor de un éxito de ventas que ahora es académico visitante en la Universidad de California, Berkeley, cree que es necesario hacer que la IA sea cuidadosa, integral y en tiempo real. Alineación ética y ética humana. En este sentido, esta carta abierta es como un departamento de una gran fábrica pidiendo a los empleados que dejen lo que están haciendo y vayan a la sala de conferencias: "Alineémonos".

Por supuesto, además de discutir estas cuestiones aparentemente distantes, "Cuestiones de alineación" también analiza cuestiones que están sucediendo actualmente.

Un estado de Estados Unidos utiliza un programa informático para calificar la probabilidad de reincidencia de los delincuentes, luego decide sobre la libertad bajo fianza y la libertad condicional, y asigna los montos de las fianzas. Sin embargo, algo extraño sucedió en el sistema. Borden, que era negro, fue calificado como de alto riesgo, y Platt, que era blanco, fue calificado como de bajo riesgo. Una investigación de seguimiento de dos años de duración encontró que Borden nunca experimentó. cualquier delito en los dos años, mientras que Platt fue sentenciado a ocho años de prisión por robo y hurto. Obviamente, bajo el big data, la discriminación racial en humanos también se ha trasplantado a la IA, pero el problema clave es que todos piensan que son bebés recién nacidos y que es justo. En "Cuestiones de alineación", el autor también mencionó la discriminación de género en la contratación. Nadie tiene ninguna configuración para la IA, pero la discriminación se produce de forma natural.

La inteligencia artificial basada en big data puede fortalecer los problemas ampliamente ignorados de discriminación y desigualdad en nuestro grupo étnico. Una vez que estos problemas ingresan al sistema sin ser notados o considerados triviales, se solidificarán.

Por lo tanto, en los comentarios de los lectores sobre el libro "Problemas de alineación", muchas personas mencionaron a personas: la IA está amplificando los problemas existentes de la humanidad y, lo más importante, ¿de qué tipo de personas se pondrá la IA en manos?

Casi no hay duda de que la IA generará enormes aumentos en la productividad, pero al igual que con la revolución de la información anterior, esta poderosa herramienta laboral conducirá aún más a la concentración de la riqueza: desde 1980 hasta hoy, el 1% de los que más ganan. de la población ha aumentado del 10% a casi el 20%, mientras que la proporción de ingresos del 50% inferior ha caído del 20% en 1980 al 12%. ¿Nadie puede imaginar cómo serán estos datos 40 años después del lanzamiento de GPT? Es más, ésta es una herramienta de productividad más favorable al capital.

Ya en febrero de este año, el profesor del MIT Daron Acemoglu, que durante mucho tiempo ha estado preocupado por los problemas de inteligencia artificial, publicó un artículo en el que menciona el siguiente escenario: las empresas despidieron el servicio al cliente humano, una gran cantidad de personas perdieron sus trabajos y los consumidores solo pueden aceptar un empleado elocuente. Pero el servicio de atención al cliente del robot no puede resolver ningún problema. Este enfoque "desempoderará y debilitará a los empleados y degradará la experiencia del consumidor, decepcionando en última instancia a la mayoría de los inversores".

Esta carta abierta no es la primera vez que la gente expresa preocupación por el futuro de la inteligencia artificial. En su carta abierta, Gates también mencionó la necesidad de prestar atención a la cuestión de la igualdad en la era de la inteligencia artificial: las fuerzas del mercado no lo harán de forma natural. producir productos que ayuden a las personas más pobres. Con productos y servicios de inteligencia artificial, la posibilidad opuesta será mayor.

Ya el 16 de marzo, Altman también mencionó con preocupación que "el software que puede pensar y aprender hará cada vez más trabajo que la gente hace ahora. Se transferirá más poder del trabajo al capital. Si el público sin los ajustes de política correspondientes, "La mayoría de la gente terminará en peor situación que ahora".

Por lo tanto, Altman mencionó que es necesario introducir un nuevo sistema para gravar el capital en lugar del trabajo para que más personas puedan compartir los frutos de esta revolución de la inteligencia artificial.

En la actualidad, la IA tardará algún tiempo en convertirse en la infraestructura de la vida humana, pero es posible que este tiempo se esté agotando. Después de la aparición de GPT-4, las capacidades de la IA a gran escala se han disparado en la "carrera armamentista". Las aplicaciones de la IA pueden popularizarse pronto en todos los aspectos de la vida, pero no hay tiempo para ayudar a la IA a probar la seguridad y comprender las necesidades humanas. y establecer estándares regulatorios. Es por eso que los expertos detrás de esta carta abierta piden una moratoria sobre la investigación de IA a gran escala.

Tal vez, como dijo el científico jefe de Microsoft, Eric Horvitz: Hoy en día, en la inteligencia artificial en el horizonte, algunas cosas se saben, otras se desconocen, y el medio es la puerta que nos queda para observar el mundo.