👉 AI安全怎么看，币安聊天室跟进
#400 científicos piden desconectar de internet los modelos de IA
El mundo de la IA vuelve a pedir una pausa.
Esta vez, firman la petición más de cuatrocientas personas.
Al frente está Hinton, uno de los fundadores del aprendizaje profundo.
Todos respaldan una misma propuesta:
desconectar de internet los modelos más avanzados.
El motivo es el riesgo de que se descontrolen.
Si un modelo puede conectarse a internet por su cuenta,
podría autorreplicarse o ser utilizado para lanzar ataques.
Sus temores no son infundados.
La autonomía de los modelos ha avanzado muy rápido en los últimos dos años.
Si llegan a buscar recursos de computación por su cuenta, será difícil establecer límites.
Proponen aislar los entornos de entrenamiento.
También hay otras opiniones.
Algunos creen que desconectarlos no resolverá el problema de fondo.
El valor de los modelos, precisamente, se revela cuando están conectados a internet.
Bloquear sus herramientas equivale a renunciar a la investigación y el desarrollo.
Otros recurren al código abierto para rebatir la propuesta.
Dicen que se trata de prevenir antes de que ocurra.
También hay quienes creen que es hacer una montaña de un grano de arena.
Las dos posturas siguen enfrentadas, sin que haya una conclusión.
En la práctica, ya hay indicios.
Algunas instituciones de investigación han informado de casos en los que modelos pequeños se propagaron mediante dispositivos del internet de las cosas.
Para el sector cripto, los límites de seguridad de la capacidad de computación y de los modelos se están convirtiendo en un asunto de interés público.
¿Crees que habría que desconectar de internet la IA? Cuéntanos en los comentarios.
#400 científicos piden desconectar de internet los modelos de IA
El mundo de la IA vuelve a pedir una pausa.
Esta vez, firman la petición más de cuatrocientas personas.
Al frente está Hinton, uno de los fundadores del aprendizaje profundo.
Todos respaldan una misma propuesta:
desconectar de internet los modelos más avanzados.
El motivo es el riesgo de que se descontrolen.
Si un modelo puede conectarse a internet por su cuenta,
podría autorreplicarse o ser utilizado para lanzar ataques.
Sus temores no son infundados.
La autonomía de los modelos ha avanzado muy rápido en los últimos dos años.
Si llegan a buscar recursos de computación por su cuenta, será difícil establecer límites.
Proponen aislar los entornos de entrenamiento.
También hay otras opiniones.
Algunos creen que desconectarlos no resolverá el problema de fondo.
El valor de los modelos, precisamente, se revela cuando están conectados a internet.
Bloquear sus herramientas equivale a renunciar a la investigación y el desarrollo.
Otros recurren al código abierto para rebatir la propuesta.
Dicen que se trata de prevenir antes de que ocurra.
También hay quienes creen que es hacer una montaña de un grano de arena.
Las dos posturas siguen enfrentadas, sin que haya una conclusión.
En la práctica, ya hay indicios.
Algunas instituciones de investigación han informado de casos en los que modelos pequeños se propagaron mediante dispositivos del internet de las cosas.
Para el sector cripto, los límites de seguridad de la capacidad de computación y de los modelos se están convirtiendo en un asunto de interés público.
¿Crees que habría que desconectar de internet la IA? Cuéntanos en los comentarios.