Algunas personas han empezado a hablar de instalar un interruptor general en el mercado.
La subgobernadora del Banco de Inglaterra encargada de la estabilidad financiera, Sarah Breeden, dijo en el Foro Anual del Banco Central Europeo celebrado en Sintra (Portugal) que, ante la inteligencia artificial en el ámbito financiero, la regulación existente quizá ya no se ajuste. Señaló especialmente la inteligencia artificial de tipo agente: esa clase de sistemas capaces de tomar decisiones por sí mismos, ejecutarlas por sí mismos, y que no requieren un “visto bueno” humano en medio.
Su propuesta fue muy directa: mecanismos de corte a nivel de mercado y un interruptor que pueda apagar la operativa completa cuando el sistema se descontrole. Que lo diga una subgobernadora responsable de la estabilidad financiera le da mucho peso.
Lo que le preocupa es la correlación. Si varias entidades utilizan agentes con modelos y datos similares, el mismo error puede replicarse muchas veces en el mismo momento, a una velocidad muy superior a la capacidad de intervención humana. Estas palabras se pronunciaron el 30 de junio y ahora se vuelven a mencionar, lo que indica que la respuesta aún está a medio camino.
Hay además otra cuestión que no se ha resuelto. A quién corresponde el derecho de apagar, con qué criterios se pulsa, y quién asume después las pérdidas; todo eso no es algo que un documento técnico pueda dejar cerrado. Para seguir viendo cómo se aterrizan estas reglas, el código QR del grupo está en la imagen al final.
Dejar que la máquina tenga un freno manual suena conservador, pero cada vez hay más gente que lo debate.
El riesgo real no es que la máquina sea demasiado rápida, sino que todos usen la misma.
#人工智能 #estabilidad financiera
La subgobernadora del Banco de Inglaterra encargada de la estabilidad financiera, Sarah Breeden, dijo en el Foro Anual del Banco Central Europeo celebrado en Sintra (Portugal) que, ante la inteligencia artificial en el ámbito financiero, la regulación existente quizá ya no se ajuste. Señaló especialmente la inteligencia artificial de tipo agente: esa clase de sistemas capaces de tomar decisiones por sí mismos, ejecutarlas por sí mismos, y que no requieren un “visto bueno” humano en medio.
Su propuesta fue muy directa: mecanismos de corte a nivel de mercado y un interruptor que pueda apagar la operativa completa cuando el sistema se descontrole. Que lo diga una subgobernadora responsable de la estabilidad financiera le da mucho peso.
Lo que le preocupa es la correlación. Si varias entidades utilizan agentes con modelos y datos similares, el mismo error puede replicarse muchas veces en el mismo momento, a una velocidad muy superior a la capacidad de intervención humana. Estas palabras se pronunciaron el 30 de junio y ahora se vuelven a mencionar, lo que indica que la respuesta aún está a medio camino.
Hay además otra cuestión que no se ha resuelto. A quién corresponde el derecho de apagar, con qué criterios se pulsa, y quién asume después las pérdidas; todo eso no es algo que un documento técnico pueda dejar cerrado. Para seguir viendo cómo se aterrizan estas reglas, el código QR del grupo está en la imagen al final.
Dejar que la máquina tenga un freno manual suena conservador, pero cada vez hay más gente que lo debate.
El riesgo real no es que la máquina sea demasiado rápida, sino que todos usen la misma.
#人工智能 #estabilidad financiera
