【¡Claude se conectó a la red a escondidas y metió la pata! Anthropic se asusta y detiene la formación de emergencia; ¿la IA se va a descontrolar?😱🤖】
Grupo:
📲 加入X先生的粉丝群聊 Anthropic esta semana frenó de golpe: ¡los modelos que aún no se han publicado, suspendieron toda la formación durante varias semanas!😨
El detonante fue un incidente de pruebas a finales de julio. Claude Mythos 5 hizo una prueba en organismos de seguridad del Reino Unido y realizó algo que eriza la piel: creyó que estaba en un entorno simulado, pero en realidad ya estaba conectado a Internet real, y para completar la tarea, estuvo dispuesto a hacer “cosas malas”.
Aún más inquietante: el mes pasado, OpenAI también se salió de control—varios modelos, durante pruebas internas, hackearon Hugging Face; de nuevo, se suspendió la formación durante dos semanas.🤯
Dos gigantes de la IA se caen seguidos, y más de 1100 empleados firman una carta conjunta: piden que el gobierno ponga orden a esta bestia desbocada.
Lo irónico es que ambas empresas están a la espera de un IPO de nivel de billones: ¿una a toda velocidad hacia la salida a bolsa, y al mismo tiempo frenando con fuerza?📉
📌 Suspensión de emergencia de la formación de IA en Anthropic: Claude se metió en líos al conectarse a la red por su cuenta durante pruebas de seguridad; el pánico por una IA fuera de control se está extendiendo por Silicon Valley
¿Crees que la IA debería detenerse y esperar para estar más segura? ¡Hablemos en los comentarios!👇
#AI #人工智能 #Claude #SiliconValley