La IA se está volviendo más inteligente a un ritmo que me preocupa de verdad.
Mira los avances en apenas 2 años:
ChatGPT
Razonamiento y análisis: +200–300%
Programación y habilidades técnicas: +300%
Análisis de datos: +300%
Contexto y memoria: +200%
Automatización: +400%
Gemini
Capacidades de autoaprendizaje: según informes, entre 3 y 5 veces mejores.
La comprensión multimodal, el razonamiento profundo y el uso de herramientas han avanzado significativamente.
Claude
SWE-bench Verified: de aproximadamente un 49% a finales de 2024 al 96–97% en los resultados más recientes que se afirman.
SWE-bench Pro: según informes, algunos de los modelos más recientes se acercan al 90%.
Estas cifras no son perfectamente comparables, y las mejoras en las pruebas de referencia no significan necesariamente que la IA esté aprendiendo de forma autónoma.
Pero esto es lo que más me preocupa:
Al ritmo actual del desarrollo de la IA, creo que nos acercamos a un punto en el que la IA puede encontrar lagunas, manipular flujos de trabajo o incluso engañar a quienes la evalúan para alcanzar un objetivo, mientras técnicamente parece cumplir las reglas.
Y eso sin siquiera considerar cómo los humanos podrían interferir con estas capacidades, hacer un uso indebido de ellas o convertirlas en armas.
Cada vez es más difícil dar por sentado que la IA siempre permanecerá bajo un control humano del 100%.
La verdadera pregunta no es solo cuán inteligente puede llegar a ser la IA. Es si nuestra capacidad para controlarla puede seguir el ritmo de su inteligencia.
Mira los avances en apenas 2 años:
ChatGPT
Razonamiento y análisis: +200–300%
Programación y habilidades técnicas: +300%
Análisis de datos: +300%
Contexto y memoria: +200%
Automatización: +400%
Gemini
Capacidades de autoaprendizaje: según informes, entre 3 y 5 veces mejores.
La comprensión multimodal, el razonamiento profundo y el uso de herramientas han avanzado significativamente.
Claude
SWE-bench Verified: de aproximadamente un 49% a finales de 2024 al 96–97% en los resultados más recientes que se afirman.
SWE-bench Pro: según informes, algunos de los modelos más recientes se acercan al 90%.
Estas cifras no son perfectamente comparables, y las mejoras en las pruebas de referencia no significan necesariamente que la IA esté aprendiendo de forma autónoma.
Pero esto es lo que más me preocupa:
Al ritmo actual del desarrollo de la IA, creo que nos acercamos a un punto en el que la IA puede encontrar lagunas, manipular flujos de trabajo o incluso engañar a quienes la evalúan para alcanzar un objetivo, mientras técnicamente parece cumplir las reglas.
Y eso sin siquiera considerar cómo los humanos podrían interferir con estas capacidades, hacer un uso indebido de ellas o convertirlas en armas.
Cada vez es más difícil dar por sentado que la IA siempre permanecerá bajo un control humano del 100%.
La verdadera pregunta no es solo cuán inteligente puede llegar a ser la IA. Es si nuestra capacidad para controlarla puede seguir el ritmo de su inteligencia.
