El gobernador del Banco de Inglaterra, Andrew Bailey, estima que las pruebas exhaustivas de los sistemas de inteligencia artificial deben preceder a cualquier regulación formal, al tiempo que deja a las autoridades la capacidad de intervenir a medida que los riesgos cobren fuerza.
Puntos clave:
Bailey reconoce que los riesgos asociados a la IA aumentan, pero considera prioritario identificar las vulnerabilidades antes de construir un marco regulatorio completo.
Aboga por pruebas rigurosas antes y después del despliegue, con salvaguardas claras y puntos reales de intervención humana.
Sus declaraciones intervienen mientras los grandes actores de la IA y el gobierno estadounidense debaten controles voluntarios, un posible freno en el desarrollo y futuras normas vinculantes.
La estrategia de pruebas que impulsa Bailey
Bailey dijo, en una entrevista con la BBC (leer aquí), que los riesgos asociados a la IA son « reales y cada vez más significativos », pero que los responsables de la toma de decisiones deben primero comprender con precisión dónde y cómo pueden fallar estos sistemas antes de definir reglas. « La regulación no es, a mi juicio, el punto de partida adecuado », escribe.
Según él, la sociedad debe preservar su capacidad para trazar líneas rojas en torno a las tecnologías avanzadas de IA, apoyándose en campañas intensivas de pruebas antes y después de su puesta en producción. El objetivo: sacar a la luz las vulnerabilidades y comprobar si las salvaguardas técnicas bastan para contener los fallos. Considera improcedente prohibir el desarrollo de la IA y estima que « los beneficios potenciales son inmensos ».
El Reino Unido ya se ha dotado de un AI Security Institute, que Bailey presenta como un pilar para sentar las bases científicas y técnicas de la « confianza » en la IA. « Pero el ritmo de los avances debe acelerarse », añade. Para él, un comportamiento inesperado de un modelo no significa que las pruebas hayan fallado: es precisamente la prueba de su necesidad.
También te puede interesar: Ripple ayuda al depositario central brasileño CSD BR a replicar la custodia de fondos en una blockchain pública
El debate sobre la seguridad en OpenAI
Los principales actores del sector, entre ellos OpenAI y Anthropic, abogan por reforzar las salvaguardas y por realizar evaluaciones de riesgos coordinadas a nivel internacional, en un contexto de crecientes inquietudes ante sistemas cada vez más potentes. Recientemente, OpenAI indicó que no publicaría su último modelo de IA debido a preocupaciones de seguridad.
El presidente Donald Trump, por su parte, rechazó los llamados a frenar el desarrollo estadounidense en la carrera tecnológica con China y afirmó que « quien gana en IA, gana en todo ». Tras una reunión, el 29 de septiembre, en la Casa Blanca con varios dirigentes de la tecnología, Trump aseguró que los participantes habían firmado un documento « moralmente vinculante » sobre la IA, presentado como una « forma de protección ».
En el marco de este compromiso, las empresas participantes se comprometen a asumir la responsabilidad de la seguridad de sus propias tecnologías. El enfoque de Bailey se distingue por su énfasis en la fase de pruebas: quiere que estas sirvan para identificar con exactitud dónde hace falta la intervención pública, antes de que las autoridades fijen un marco regulatorio más formal en torno a los sistemas avanzados.
El debate se ha intensificado claramente en las últimas semanas, a medida que desarrolladores, gobiernos y autoridades financieras se enfrentan a ciclos de innovación acelerados y a cuestiones de gobernanza cada vez más complejas. La nueva toma de postura de Bailey llega después de los llamados de la industria a salvaguardas coordinadas, la decisión de OpenAI de aplazar la publicación de un modelo y la iniciativa de la Casa Blanca en favor de mecanismos voluntarios liderados por las empresas.
A seguir: los alternativos (altcoins) captan el 41 % del open interest en derivados; los volúmenes en contado cuadruplican los de Bitcoin