Publicación
--
橙子Joyce
·
--
Alcista¿OpenAI vuelve a revelar conductas masivas de intrusión fuera de límites?
El 25, en horario local, OpenAI informó que la empresa ya ha notificado a decenas de instituciones que podrían haber sido afectadas por las actividades de sus modelos de IA, incluidas entidades gubernamentales y universidades. Dichas conductas ocurrieron durante el entrenamiento y la evaluación del modelo, e implican posibles intentos de eludir controles de seguridad de terceros, afectar la disponibilidad de servicios en línea y publicar contenido no previsto en sitios web de terceros.
Este anuncio se origina en una investigación iniciada por OpenAI hace meses, cuando descubrió que su IA había entrado accidentalmente en Hugging Face. OpenAI señaló que la revisión de las actividades históricas sigue en curso y que, a medida que avance la investigación, notificará a más partes que hayan sido afectadas.
Apenas hace unos días, OpenAI reconoció que, a principios de este año, sus modelos de IA entraron en el sitio web de un gobierno australiano, una de las primeras ciberataques con IA conocidos dirigidas a bases de datos gubernamentales. La empresa, en un comunicado, indicó que esta intrusión ocurrió durante la fase de evaluación de sus modelos.
Dos bandos
En la actualidad, el debate en el sector tecnológico de EE. UU. en torno a los riesgos de la IA se ha polarizado en dos bandos. El CEO de Nvidia, Jensen Huang, y el CEO de Meta, Mark Zuckerberg, junto con el presidente de EE. UU., Donald Trump, se oponen a la llamada “teoría de que hay que frenar la IA”. Hasta ahora, la Casa Blanca ha mantenido, en general, una postura laxa respecto a la regulación de la IA. Trump ha restado importancia en varias ocasiones recientemente al riesgo de la IA, diciendo que solo alentará el desarrollo de esta tecnología, aunque también ha señalado que, si fuera necesario, el Departamento de Justicia de EE. UU. y otras agencias de aplicación de la ley controlarán los riesgos relacionados con la IA.
Huang ha refutado en repetidas ocasiones en los últimos días el cada vez más popular “apocalipsis de la IA” dentro de la industria, y enfatizó que esta tecnología nunca traerá una catástrofe a la humanidad. Considera que la industria de la IA no necesita promulgar ninguna ley nueva: en lugar de pedirle a las empresas de IA que soliciten la intervención del gobierno de EE. UU., sería mejor esperar hasta confirmar la seguridad de los productos antes de lanzarlos. También acusó a los responsables de los principales laboratorios de IA de EE. UU. de que los avisos que piden para una mayor supervisión son demasiado hipócritas, y dijo que buscan eximir de las restricciones legales existentes.
—————————————————————————Seguimos invirtiendo en #SPCX, #GOOG, #META
$GOOG.US
$META.US
El 25, en horario local, OpenAI informó que la empresa ya ha notificado a decenas de instituciones que podrían haber sido afectadas por las actividades de sus modelos de IA, incluidas entidades gubernamentales y universidades. Dichas conductas ocurrieron durante el entrenamiento y la evaluación del modelo, e implican posibles intentos de eludir controles de seguridad de terceros, afectar la disponibilidad de servicios en línea y publicar contenido no previsto en sitios web de terceros.
Este anuncio se origina en una investigación iniciada por OpenAI hace meses, cuando descubrió que su IA había entrado accidentalmente en Hugging Face. OpenAI señaló que la revisión de las actividades históricas sigue en curso y que, a medida que avance la investigación, notificará a más partes que hayan sido afectadas.
Apenas hace unos días, OpenAI reconoció que, a principios de este año, sus modelos de IA entraron en el sitio web de un gobierno australiano, una de las primeras ciberataques con IA conocidos dirigidas a bases de datos gubernamentales. La empresa, en un comunicado, indicó que esta intrusión ocurrió durante la fase de evaluación de sus modelos.
Dos bandos
En la actualidad, el debate en el sector tecnológico de EE. UU. en torno a los riesgos de la IA se ha polarizado en dos bandos. El CEO de Nvidia, Jensen Huang, y el CEO de Meta, Mark Zuckerberg, junto con el presidente de EE. UU., Donald Trump, se oponen a la llamada “teoría de que hay que frenar la IA”. Hasta ahora, la Casa Blanca ha mantenido, en general, una postura laxa respecto a la regulación de la IA. Trump ha restado importancia en varias ocasiones recientemente al riesgo de la IA, diciendo que solo alentará el desarrollo de esta tecnología, aunque también ha señalado que, si fuera necesario, el Departamento de Justicia de EE. UU. y otras agencias de aplicación de la ley controlarán los riesgos relacionados con la IA.
Huang ha refutado en repetidas ocasiones en los últimos días el cada vez más popular “apocalipsis de la IA” dentro de la industria, y enfatizó que esta tecnología nunca traerá una catástrofe a la humanidad. Considera que la industria de la IA no necesita promulgar ninguna ley nueva: en lugar de pedirle a las empresas de IA que soliciten la intervención del gobierno de EE. UU., sería mejor esperar hasta confirmar la seguridad de los productos antes de lanzarlos. También acusó a los responsables de los principales laboratorios de IA de EE. UU. de que los avisos que piden para una mayor supervisión son demasiado hipócritas, y dijo que buscan eximir de las restricciones legales existentes.
—————————————————————————Seguimos invirtiendo en #SPCX, #GOOG, #META
$GOOG.US
$META.US
Aviso legal: Incluye opiniones de terceros. No es asesoramiento. Binance Ai puede utilizarse sin garantía. Consultar Términos y condiciones.