El desarrollo de la IA quizá realmente deba pisar un freno. El CEO de Anthropic, Dario Amodei, publicó un mensaje en el que afirma que la IA ya está participando en la construcción del próximo modelo y que le preocupa que, en los próximos 6 a 12 meses, sistemas más potentes puedan generar riesgos graves de ciberseguridad. Por ello, sostiene que se deben introducir evaluaciones de seguridad continuas por parte de terceros, impulsar que las empresas líderes de IA adopten estándares unificados y, al mismo tiempo, limitar la exportación a China de chips y equipos avanzados. Considera que una suspensión total a corto plazo no es realista, pero sí se necesita dar más tiempo al alineamiento con la seguridad.
En mi opinión, ir un poco más despacio para realizar validaciones de seguridad no es algo malo, ya que cuanto más capaces sean los sistemas, también podría ser mayor el coste de los problemas que surjan. Sin embargo, el equilibrio entre la competencia tecnológica y la seguridad, en realidad, es difícil de determinar.
¿Crees que la IA de vanguardia debería reducir activamente la velocidad ahora, o que es más realista seguir compitiendo por velocidad?
En mi opinión, ir un poco más despacio para realizar validaciones de seguridad no es algo malo, ya que cuanto más capaces sean los sistemas, también podría ser mayor el coste de los problemas que surjan. Sin embargo, el equilibrio entre la competencia tecnológica y la seguridad, en realidad, es difícil de determinar.
¿Crees que la IA de vanguardia debería reducir activamente la velocidad ahora, o que es más realista seguir compitiendo por velocidad?
