La IA eligió por sí sola una de entre 19 terapias génicas y operó el cerebro de un ratón.
Pero, a mitad de la operación, se negó a continuar por un error de calibración. No hubo forma de convencerla.
El modelo se llama Claude Sonnet 5 y tenía un único objetivo: reducir las convulsiones de ratones con epilepsia. Eligió por su cuenta el fármaco, la región cerebral y las coordenadas de inyección, y realizó 32 observaciones durante la operación. Según los investigadores, es la primera vez que una IA elige un tratamiento y, además, lo lleva a cabo por sí misma en un mamífero vivo.
¿Por qué es importante?
Hasta ahora, en las operaciones con robots, las decisiones siempre las tomaban las personas. Ahora la capacidad de decidir está en manos de la IA, que también puede decir «no» en un momento crítico. Y hay algo aún más interesante: los modelos más potentes, Opus 5.5 y Opus 5, se negaron a participar; solo Sonnet 5 aceptó seguir hasta el final. Después se descubrió que tenía razón: un ajuste manual previo había desconfigurado el sistema de control.
Quizá el momento más peligroso de la IA no sea cuando hace las cosas mal, sino cuando tiene razón y no te hace caso.
Hoy, otras 4 noticias que vale la pena leer:
🔹
La blockchain privada Iron Fish anuncia que dejará de recibir soporte y cerrará su repositorio de código tras detectar una vulnerabilidad de inflación
→ Lo que más teme una criptomoneda privada no es la regulación, sino que aparezca en el libro contable dinero que nadie pueda ver.
🔹
Binance recupera cerca del 80 % de los fondos robados y planea reanudar los retiros por etapas
→ El dinero se recuperó; queda por ver si también se recupera la confianza de los usuarios. Todo dependerá de cómo vayan los retiros.
🔹
TechCrunch: la fiebre de la inversión en IA empieza a resquebrajarse; el flujo de caja negativo y el aumento de la deuda generan preocupación
→ Las grandes empresas se atreven a gastar a lo grande porque todas temen ser las que se queden sin comprar una entrada.
🔹
El satélite prototipo del centro de datos espacial de Google completa su primera inferencia de IA en órbita
→ Cuando falta capacidad de cálculo, el siguiente lugar al que se mira es el espacio.
Si la IA en la mesa de operaciones dice «ya no sigo», ¿le pedirías al médico que active la parada de emergencia o confiarías en ella por una vez?
Cada día, analizamos a fondo una noticia que merece la pena. Sigue a Dongye. Hasta mañana.
#币安披露黑客事件进展63亿美元损失已弥补八成
Pero, a mitad de la operación, se negó a continuar por un error de calibración. No hubo forma de convencerla.
El modelo se llama Claude Sonnet 5 y tenía un único objetivo: reducir las convulsiones de ratones con epilepsia. Eligió por su cuenta el fármaco, la región cerebral y las coordenadas de inyección, y realizó 32 observaciones durante la operación. Según los investigadores, es la primera vez que una IA elige un tratamiento y, además, lo lleva a cabo por sí misma en un mamífero vivo.
¿Por qué es importante?
Hasta ahora, en las operaciones con robots, las decisiones siempre las tomaban las personas. Ahora la capacidad de decidir está en manos de la IA, que también puede decir «no» en un momento crítico. Y hay algo aún más interesante: los modelos más potentes, Opus 5.5 y Opus 5, se negaron a participar; solo Sonnet 5 aceptó seguir hasta el final. Después se descubrió que tenía razón: un ajuste manual previo había desconfigurado el sistema de control.
Quizá el momento más peligroso de la IA no sea cuando hace las cosas mal, sino cuando tiene razón y no te hace caso.
Hoy, otras 4 noticias que vale la pena leer:
🔹
La blockchain privada Iron Fish anuncia que dejará de recibir soporte y cerrará su repositorio de código tras detectar una vulnerabilidad de inflación
→ Lo que más teme una criptomoneda privada no es la regulación, sino que aparezca en el libro contable dinero que nadie pueda ver.
🔹
Binance recupera cerca del 80 % de los fondos robados y planea reanudar los retiros por etapas
→ El dinero se recuperó; queda por ver si también se recupera la confianza de los usuarios. Todo dependerá de cómo vayan los retiros.
🔹
TechCrunch: la fiebre de la inversión en IA empieza a resquebrajarse; el flujo de caja negativo y el aumento de la deuda generan preocupación
→ Las grandes empresas se atreven a gastar a lo grande porque todas temen ser las que se queden sin comprar una entrada.
🔹
El satélite prototipo del centro de datos espacial de Google completa su primera inferencia de IA en órbita
→ Cuando falta capacidad de cálculo, el siguiente lugar al que se mira es el espacio.
Si la IA en la mesa de operaciones dice «ya no sigo», ¿le pedirías al médico que active la parada de emergencia o confiarías en ella por una vez?
Cada día, analizamos a fondo una noticia que merece la pena. Sigue a Dongye. Hasta mañana.
#币安披露黑客事件进展63亿美元损失已弥补八成
