Fuente de la reimpresión del artículo: AI DreamWorks
Fuente original: Xinzhiyuan
Fuente de la imagen: Generada por IA ilimitada
En una entrevista con "60 Minutes" el 9 de octubre, Hinton expresó una vez más su preocupación de que la inteligencia artificial pueda apoderarse de la humanidad.
Pero ya en mayo de este año, el "padrino de la inteligencia artificial", Geoffrey Hinton, anunció su dimisión de Google para poder hablar libremente sobre los riesgos de la inteligencia artificial.
Desde entonces, Hinton ha expresado en varias apariciones públicas su preocupación por los riesgos de la inteligencia artificial.
En una entrevista, Hinton incluso dijo: "Lamento profundamente el trabajo de mi vida".
En este año en el que la inteligencia artificial está en auge, es difícil que la gente deje de seguir adelante.
Aunque a finales de marzo de este año, miles de líderes tecnológicos firmaron una carta conjunta pidiendo una moratoria al desarrollo de inteligencia artificial más potente que GPT-4.
Pero en la sesión de intercambio de ex alumnos de YC el 24 de septiembre, Altman reveló noticias sobre los modelos grandes de próxima generación de OpenAI, GPT-5 y GPT-6.
Al mismo tiempo, Meta, como líder en la comunidad de código abierto, también está desarrollando constantemente nuevos modelos de gran tamaño. En julio se lanzó Llama 2, que ha mejorado el rendimiento en todos los aspectos y se acerca a ChatGPT.
A medida que el rendimiento de los modelos de gran tamaño continúa mejorando, la sombra de los riesgos y amenazas a la seguridad siempre se cierne sobre la humanidad como una espada de Damocles.
Algunos creen que es demasiado pronto para preocuparse por los riesgos de la inteligencia artificial. Por ejemplo, Yann LeCun, científico jefe de Meta y discípulo de Hinton, quien también recibió el Premio Turing, ha afirmado repetidamente que se exageran los riesgos de la inteligencia artificial.
Pero algunas personas insisten en que "no importa cuán graves sean los riesgos relacionados con la supervivencia, no pueden tomarse demasiado en serio".
Hinton es uno de ellos.
Hinton: La posibilidad de que la IA domine a los humanos
En una conversación con un periodista de (Wired), Hinton expresó sus preocupaciones sobre los riesgos de la inteligencia artificial desde los siguientes aspectos.
Lo primero es la creciente inteligencia de la inteligencia artificial.
Hinton cree que estamos entrando en una era en la que la inteligencia artificial se está volviendo más inteligente que los humanos y es capaz de tomar decisiones basadas en su propia experiencia y comprensión.
Aunque el ganador del premio Turing, Bengio, y otros utilizaron 88 páginas para demostrar que la inteligencia artificial actualmente no tiene conciencia, tanto Bengio como Hinton creen que la inteligencia artificial puede desarrollar autoconciencia en el futuro.
En el futuro, la inteligencia artificial reemplazará a los humanos y se convertirá en el ser más inteligente de la Tierra.
Lo que determina la inteligencia de un modelo es su capacidad de aprendizaje. Hinton explica el proceso de aprendizaje de la inteligencia artificial.
La inteligencia artificial es capaz de aprender porque los humanos diseñan los algoritmos correspondientes, pero las redes neuronales que producen los modelos son complejas y no se comprenden del todo.
Hinton comparó este proceso con los principios de la evolución del diseño. Reconoció que a medida que la inteligencia artificial maneje tareas más complejas, su funcionamiento interno se volverá cada vez más misterioso e incognoscible para los humanos.
Además, Hinton también expresó su preocupación de que los sistemas de inteligencia artificial escriban su propio código para modificarse, lo que puede causar que los humanos pierdan el control de la inteligencia artificial.
Además de los riesgos de que la IA se salga de control, Hinton también analizó los riesgos de que la IA manipule a los humanos, señalando posibles consecuencias en áreas como los robots autónomos en el campo de batalla, las noticias falsas y el sesgo laboral.
Pero peor que todo eso, Hinton destacó la incertidumbre que rodea a la IA y los desafíos de navegar en territorio desconocido.
Estamos entrando en un período muy incierto y nos enfrentamos a cosas nunca antes vistas. Normalmente, cuando uno se enfrenta a algo completamente nuevo por primera vez, es inevitable cometer errores. Pero en estos casos no podemos equivocarnos.
Pero Hinton también afirmó la contribución de la inteligencia artificial.
Con las diversas aplicaciones prácticas de la inteligencia artificial en el mundo real, se ha mejorado enormemente la eficiencia humana en la oficina, el descubrimiento científico, la atención médica y otros aspectos.
Hinton destacó especialmente las enormes ventajas de la inteligencia artificial en el ámbito sanitario, especialmente en el reconocimiento de imágenes médicas y el diseño de fármacos. Alpha Fold, lanzado por Google DeepMind, es un excelente ejemplo.
Hinton expresó optimismo sobre el impacto positivo de la IA en este campo.
Respecto al futuro de la inteligencia artificial, aunque Hinton no predijo que la inteligencia artificial definitivamente reemplazará a los humanos, admitió que ese será nuestro posible futuro.
Por lo tanto, Hinton ha estado instando a los humanos a tomar las medidas de protección necesarias para su propia seguridad ante el potencial desarrollo de la inteligencia artificial.
Otras preocupaciones sobre los riesgos de la IA
Anteriormente, el profesor Marcus de la Universidad de Nueva York expresó la misma preocupación.
"¿Es más importante que los humanos estén desapareciendo o que podamos codificar más rápido y comunicarnos con los robots?"
Marcus cree que, aunque la IA aún está muy lejos, la LLM ya es muy peligrosa. Lo más peligroso es que la IA ahora facilita diversas actividades delictivas.
En esta era, debemos preguntarnos a diario qué tipo de IA queremos. A veces es mejor ir más despacio, porque cada pequeño paso que demos tendrá un profundo impacto en el futuro.
Sam Altman, el padre de ChatGPT y CEO de OpenAI, también ha declarado públicamente que los riesgos de la IA superinteligente pueden superar con creces nuestras expectativas.
En un podcast con el investigador tecnológico Lex Fridman, Altman hizo sonar la alarma sobre los peligros potenciales de la inteligencia artificial avanzada.
Dijo que lo que más le preocupa es el problema de la información falsa causada por la IA, el impacto económico y otros problemas que aún no se han manifestado. Estos daños podrían superar con creces la capacidad humana para afrontarlos.
Planteó la posibilidad de que los grandes modelos lingüísticos pudieran influir, o incluso dominar, las experiencias e interacciones de los usuarios de las redes sociales.
“Por ejemplo, ¿cómo sabemos que los grandes modelos lingüísticos no están dirigiendo el flujo de pensamiento en Twitter?”
"Creo que, como OpenAI, tenemos la responsabilidad de ser responsables de las herramientas que ponemos a disposición del mundo", afirmó Altman.
“Las herramientas de IA aportarán enormes beneficios a la humanidad, pero, como saben, las herramientas tienen tanto ventajas como desventajas”, añadió. Minimizaremos el daño y maximizaremos el bien.
Si bien el modelo GPT-4 es sorprendente, también es importante reconocer las limitaciones de la IA y evitar antropomorfizarla.
De manera similar, Bill Gates ha estado preocupado por la cuestión de que "la IA está destruyendo a la humanidad" durante muchos años.
Durante años, Gates ha dicho que la tecnología de inteligencia artificial se ha vuelto demasiado poderosa y podría incluso iniciar guerras o utilizarse para crear armas.
Afirmó que no sólo los "villanos 007" de la vida real podrían usarlo para manipular los poderes mundiales, sino que la propia inteligencia artificial también podría salirse de control y representar una gran amenaza para la humanidad.
En su opinión, cuando se desarrolle la superinteligencia, su velocidad de pensamiento superará con creces la de los humanos.
Puede hacer todo lo que el cerebro humano puede hacer, y lo más aterrador es que el tamaño de su memoria y su velocidad de operación no están limitados en absoluto.
Estas entidades, llamadas IA “super”, pueden establecer sus propios objetivos y se desconoce qué podrían hacer.
Y el público está empezando a hacer oír su voz.
Ante la gran "carrera armamentista" de modelos entre grandes empresas, Meta se encontró con protestas ciudadanas por abrir al público las pesas modelo Llama 2.
Al público le preocupa que la estrategia de Meta de publicar los pesos de los modelos permita a cualquiera modificar el modelo según sus propios intereses.
Al mismo tiempo, debido a que los pesos están abiertos, significa que otros no pueden recordar estos modelos. Esto proporciona un terreno fértil casi ilimitado para el uso de modelos de gran tamaño para cometer delitos cibernéticos.
Hoy en día, para toda la humanidad, parece que “ser o no ser” se ha convertido en un problema inminente que debe afrontarse.
Referencias:
https://www.arabtimesonline.com/news/godfather-of-ai-fears-technology-could-one-day-take-over-humanity/