Las normas de la Unión Europea sobre el uso de la IA son más que capaces de hacer frente a agentes descontrolados, dijo la jefa de tecnología de la UE, Henna Virkkunen.
Hay preocupaciones globales tras los incidentes en OpenAI y Anthropic, y han surgido temores de que agentes de IA descontrolados puedan ir más allá del control humano.
“Vemos que la seguridad y protección de los modelos muy capaces es un tema muy candente a nivel internacional y en Europa estamos bien preparados para ello”, dijo Virkkunen en una entrevista con Reuters el viernes.
La Ley de IA de la UE, que regula en función del nivel de riesgo, se encuentra entre las normativas sobre IA más estrictas del mundo. Fue adoptada hace dos años.
Virkkunen rechazó las críticas de quienes afirman que las normas de IA del bloque están desactualizadas.
Relacionado: El director de Anthropic pide ralentizar el desarrollo de la IA para avanzar a un ritmo más seguro
«Tenemos en vigor nuestra Ley de IA, que abarca todo el ciclo de vida de estos modelos», dijo, y añadió que los reguladores están orientando a las empresas sobre cómo evaluar sus modelos, teniendo en cuenta las recomendaciones de 60 expertos en IA.
A finales de agosto, la Comisión Europea solicitó información a más de 30 empresas de IA no identificadas y les pidió detalles sobre sus medidas de seguridad y protección.
Virkkunen dijo que ahora está evaluando las respuestas.
Cointelegraph informó el 13 de septiembre que el director ejecutivo de Anthropic, Dario Amodei, dijo en una publicación de blog que el desarrollo de la IA avanza demasiado rápido y que, si no se controla, podría «superar nuestra capacidad para comprender y controlar estos sistemas».
Dijo que el vertiginoso avance de la IA estaba impulsado por su creciente capacidad para construir la siguiente generación de IA, o por la mejora recursiva de sí misma.
Revista: Demasiado grande para hacer una pausa: ¿Podría una desaceleración de la IA hundir la economía?