¡Dios mío! ¡El panorama de la IA está a punto de cambiar!
El Departamento de Justicia de Estados Unidos (DOJ) anunció la creación del «Grupo de Trabajo sobre Superinteligencia» (Superintelligence Task Force).
A primera vista, parece que busca combatir el uso indebido de la IA avanzada por parte de hackers extranjeros, delincuentes y estafadores. Pero lo que realmente merece atención es hasta dónde llega su poder regulador: exige que las empresas de IA refuercen sus «controles internos» para garantizar que los modelos «se comporten según lo previsto».
Eso de «comportarse según lo previsto» suena a medida de seguridad, pero en esencia supone ponerles un «corsé normativo» a los modelos de vanguardia.
¿Qué significa «comportamiento previsto» para la IA de vanguardia?
¿Quién tiene autoridad para definir qué es lo «previsto»?
Cuando los organismos reguladores empiezan a intervenir en los límites de comportamiento fundamentales de los modelos, significa que la revisión de seguridad de los grandes modelos ha dejado de centrarse únicamente en «prevenir delitos informáticos» y se ha extendido al ámbito del «cumplimiento normativo y el control».
En un entorno político así, el efecto de absorción regulatoria en el sector de la IA de vanguardia no hará más que intensificarse:
Concentración de los modelos líderes y aumento vertiginoso de los costes de cumplimiento: solo gigantes con abundante capital, como OpenAI, Anthropic y Google, pueden permitirse mantener enormes equipos de cumplimiento para hacer frente a las auditorías de seguridad del Departamento de Justicia.
Los equipos innovadores pequeños y medianos se verán cada vez más perjudicados ante las barreras regulatorias.
El espacio para la supervivencia de la IA de código abierto se reducirá aún más: cuando «evitar el uso indebido de los modelos» se convierte en la máxima directriz administrativa, los modelos de código abierto que permiten el despliegue libre y el ajuste fino son los primeros en verse afectados.
Es posible que la brecha normativa entre el código abierto y el código cerrado siga ampliándose.
Se confirma indirectamente la lógica fundamental de la IA descentralizada (DeAI): cuando el cómputo, los modelos y el control de los datos se concentran en manos de unas pocas entidades sometidas a una regulación estricta, la demanda del mercado de redes de cómputo sin permisos, alojamiento de modelos resistente a la censura y colaboración con datos privados se hace aún más evidente.
Esta medida del Departamento de Justicia de Estados Unidos marca el inicio de una nueva etapa en la regulación de la IA: se pasa de «estar alerta ante los riesgos tecnológicos» a «intervenir en la gobernanza de los modelos».
En el futuro, lo que tendremos que seguir observando no es cuántos delincuentes relacionados con la IA detienen, sino si este poder de control acabará extendiéndose directamente al ecosistema de código abierto y al espacio de desarrollo de la IA descentralizada.
#Aİ #美股遭遇2020年以来最严重抛售
El Departamento de Justicia de Estados Unidos (DOJ) anunció la creación del «Grupo de Trabajo sobre Superinteligencia» (Superintelligence Task Force).
A primera vista, parece que busca combatir el uso indebido de la IA avanzada por parte de hackers extranjeros, delincuentes y estafadores. Pero lo que realmente merece atención es hasta dónde llega su poder regulador: exige que las empresas de IA refuercen sus «controles internos» para garantizar que los modelos «se comporten según lo previsto».
Eso de «comportarse según lo previsto» suena a medida de seguridad, pero en esencia supone ponerles un «corsé normativo» a los modelos de vanguardia.
¿Qué significa «comportamiento previsto» para la IA de vanguardia?
¿Quién tiene autoridad para definir qué es lo «previsto»?
Cuando los organismos reguladores empiezan a intervenir en los límites de comportamiento fundamentales de los modelos, significa que la revisión de seguridad de los grandes modelos ha dejado de centrarse únicamente en «prevenir delitos informáticos» y se ha extendido al ámbito del «cumplimiento normativo y el control».
En un entorno político así, el efecto de absorción regulatoria en el sector de la IA de vanguardia no hará más que intensificarse:
Concentración de los modelos líderes y aumento vertiginoso de los costes de cumplimiento: solo gigantes con abundante capital, como OpenAI, Anthropic y Google, pueden permitirse mantener enormes equipos de cumplimiento para hacer frente a las auditorías de seguridad del Departamento de Justicia.
Los equipos innovadores pequeños y medianos se verán cada vez más perjudicados ante las barreras regulatorias.
El espacio para la supervivencia de la IA de código abierto se reducirá aún más: cuando «evitar el uso indebido de los modelos» se convierte en la máxima directriz administrativa, los modelos de código abierto que permiten el despliegue libre y el ajuste fino son los primeros en verse afectados.
Es posible que la brecha normativa entre el código abierto y el código cerrado siga ampliándose.
Se confirma indirectamente la lógica fundamental de la IA descentralizada (DeAI): cuando el cómputo, los modelos y el control de los datos se concentran en manos de unas pocas entidades sometidas a una regulación estricta, la demanda del mercado de redes de cómputo sin permisos, alojamiento de modelos resistente a la censura y colaboración con datos privados se hace aún más evidente.
Esta medida del Departamento de Justicia de Estados Unidos marca el inicio de una nueva etapa en la regulación de la IA: se pasa de «estar alerta ante los riesgos tecnológicos» a «intervenir en la gobernanza de los modelos».
En el futuro, lo que tendremos que seguir observando no es cuántos delincuentes relacionados con la IA detienen, sino si este poder de control acabará extendiéndose directamente al ecosistema de código abierto y al espacio de desarrollo de la IA descentralizada.
#Aİ #美股遭遇2020年以来最严重抛售
