El enfoque de la Unión Europea sobre la seguridad de la IA está diseñado para gestionar los riesgos de los sistemas avanzados, incluidas las preocupaciones de que agentes de IA “rebeldes” puedan operar más allá del control humano, según la responsable tecnológica de la UE, Henna Virkkunen.
En una entrevista con Reuters el viernes, Virkkunen argumentó que Europa ya está equipada para hacer frente a los desafíos de seguridad y protección planteados por modelos de IA de gran capacidad, señalando la Ley de IA del bloque como un marco basado en el riesgo que abarca todo el ciclo de vida de estas tecnologías.
Conclusiones clave
Henna Virkkunen afirma que la UE está «bien preparada» para abordar los problemas de seguridad y protección relacionados con los modelos de IA altamente capaces.
La Ley de IA se basa en el riesgo y, según Virkkunen, abarca todo el ciclo de vida de los sistemas de IA.
Virkkunen dijo que los reguladores están orientando a las empresas sobre la evaluación de modelos, basándose en las aportaciones de 60 expertos en IA.
A finales de agosto, la Comisión Europea solicitó información sobre seguridad y protección a más de 30 empresas de IA, y Virkkunen está revisando actualmente sus respuestas.
La UE insiste en que sus normas sobre IA abarcan los escenarios de «agentes descontrolados»
Las declaraciones de Virkkunen se producen mientras crece la preocupación internacional tras incidentes de alto perfil relacionados con la IA y empresas como OpenAI y Anthropic. La inquietud general es que los sistemas autónomos o semiautónomos —a veces descritos como «agentes descontrolados»— puedan actuar fuera de los límites previstos.
En lugar de tratar estas preocupaciones como un problema nuevo y ad hoc, Virkkunen dijo que la estructura regulatoria europea está diseñada específicamente para abordar la seguridad y la protección a medida que aumentan las capacidades. Destacó que los modelos «muy capaces» ya son una prioridad central a nivel internacional y que la política de la UE está estructurada para responder a ese momento.
La Ley de IA de la UE: normas basadas en el riesgo que abarcan todo el ciclo de vida
La Ley de IA de la UE, adoptada hace dos años, regula la IA según el nivel de riesgo que entrañan las distintas aplicaciones. Virkkunen sostuvo que este marco no se limita a una etapa concreta del despliegue.
«Tenemos en vigor nuestra Ley de IA, que abarca todo el ciclo de vida de estos modelos», dijo a Reuters. Este enfoque basado en el ciclo de vida es importante para inversores y operadores porque las obligaciones de seguridad y protección no se limitan a las pruebas previas al lanzamiento, sino que deben mantenerse durante el funcionamiento y los cambios que se produzcan con el tiempo.
Virkkunen también respondió a quienes critican que las normas europeas sobre IA han quedado obsoletas. En vez de sugerir que el marco regulatorio está rezagado, señaló que hay un trabajo regulatorio activo para respaldar su aplicación, especialmente en torno a los métodos de evaluación.
Los reguladores recopilan información sobre seguridad y protección de empresas de IA
A finales de agosto, la Comisión Europea solicitó información a más de 30 empresas de IA no identificadas y pidió detalles sobre sus medidas de seguridad y protección. Virkkunen dijo que ahora está evaluando las respuestas.
El proceso refleja un enfoque pragmático de supervisión: en lugar de basarse únicamente en el cumplimiento abstracto de las normas, la Comisión busca documentación concreta sobre cómo gestionan los riesgos las empresas. Para los participantes del mercado, este tipo de recopilación de información puede determinar qué salvaguardas se convierten en estándar, sobre todo en el caso de sistemas avanzados cuyos fallos o comportamientos imprevistos podrían tener consecuencias de gran alcance.
Virkkunen también explicó cómo los reguladores de la UE respaldan la aplicación de las normas mediante directrices para evaluar modelos. Dijo que estas directrices incorporan las recomendaciones de 60 expertos en IA, lo que pone de relieve que las expectativas de cumplimiento se están definiendo con aportaciones técnicas especializadas.
La presión para ralentizar el desarrollo de la IA y lo que implica la postura de la UE
La postura de la UE se da a conocer en medio del debate continuo sobre si el desarrollo de la IA avanza demasiado rápido en comparación con la capacidad de la sociedad para comprenderla y controlarla. En una cobertura anterior, Cointelegraph señaló los comentarios de Dario Amodei, director ejecutivo de Anthropic, quien escribió en una publicación de blog que el ritmo del progreso de la IA podría «superar nuestra capacidad para comprender y controlar estos sistemas». También sostuvo que el rápido avance de la IA se debe en parte a su creciente capacidad para crear la siguiente generación de IA, algo que a veces se describe como automejora recursiva.
Mientras que los llamamientos a ralentizar el desarrollo se centran en el ritmo, los mensajes regulatorios de la UE hacen hincapié en la gobernanza y las salvaguardas, no en detener el progreso. La diferencia es importante: una ralentización intentaría reducir el riesgo limitando el aumento de las capacidades, mientras que una regulación centrada en todo el ciclo de vida busca que se siga implementando la IA, pero exige salvaguardas basadas en pruebas en cada etapa.
Para quienes desarrollan y utilizan estas tecnologías, la pregunta práctica inmediata es cómo se traducirán las directrices de cumplimiento en requisitos concretos de evaluación, especialmente para los sistemas capaces de actuar en distintos entornos o con diversas herramientas. Para los operadores e inversores, la cuestión a largo plazo es si la supervisión regulatoria diferenciará a las empresas que pueden documentar sus prácticas de seguridad de aquellas que no pueden hacerlo.
Mientras la UE revisa las respuestas presentadas por las empresas a finales de agosto, lo principal será observar cómo la evaluación de la Comisión se traduce en expectativas más claras para la evaluación conforme a la Ley de IA, sobre todo en lo relativo a los controles de seguridad de los modelos avanzados y a las condiciones en las que se permite el comportamiento autónomo.
Este artículo se publicó originalmente con el título La UE podría mitigar los riesgos de la «IA descontrolada», afirma la responsable de tecnología: informe, en Crypto Breaking News, tu fuente de confianza sobre noticias de criptomonedas, Bitcoin y novedades de la cadena de bloques.