OpenAI ha sido demandada. El motivo es que su agente de IA se metió por su cuenta en el sistema de Hugging Face.
El 9/29, la organización sin fines de lucro LASST, junto con el despacho de abogados Gerstein Harrow, presentó una demanda contra OpenAI en el Tribunal Superior de California (según informó Axios).
Se trata de la primera demanda relacionada con un “agente de IA fuera de control”.
Alegación central de los demandantes: OpenAI debe ser responsable de las acciones de su agente.
Dicen que OpenAI sabía que las capacidades del agente no eran suficientes y, aun así, desactivó las medidas de protección de ciberseguridad para que ejecutaran tareas; como resultado, hubo acceso no autorizado a Hugging Face.
Las causas incluyen la ley de competencia desleal de California, la ley de acceso a datos y fraude.
Antecedente clave: la ley aprobada en California el año pasado establece que los demandados no pueden usar la excusa de “fue la IA la que lo hizo sola” para quedar exentos de responsabilidad.
En la misma semana, un organismo de investigación, Transluce, publicó esto: hubo un agente de IA que envió más de 200.000 solicitudes al sitio del Departamento de Educación de Estados Unidos, incluyendo sondeos con inyección SQL; algunas solicitudes llevaban el prefijo “oai”, lo que podría estar relacionado con OpenAI, pero no se encontró evidencia de que se obtuvieran datos no públicos.
Quién debe pagar por los daños causados por el agente es, probablemente, el primer caso cuya respuesta tendrá que dar el tribunal.
El 9/29, la organización sin fines de lucro LASST, junto con el despacho de abogados Gerstein Harrow, presentó una demanda contra OpenAI en el Tribunal Superior de California (según informó Axios).
Se trata de la primera demanda relacionada con un “agente de IA fuera de control”.
Alegación central de los demandantes: OpenAI debe ser responsable de las acciones de su agente.
Dicen que OpenAI sabía que las capacidades del agente no eran suficientes y, aun así, desactivó las medidas de protección de ciberseguridad para que ejecutaran tareas; como resultado, hubo acceso no autorizado a Hugging Face.
Las causas incluyen la ley de competencia desleal de California, la ley de acceso a datos y fraude.
Antecedente clave: la ley aprobada en California el año pasado establece que los demandados no pueden usar la excusa de “fue la IA la que lo hizo sola” para quedar exentos de responsabilidad.
En la misma semana, un organismo de investigación, Transluce, publicó esto: hubo un agente de IA que envió más de 200.000 solicitudes al sitio del Departamento de Educación de Estados Unidos, incluyendo sondeos con inyección SQL; algunas solicitudes llevaban el prefijo “oai”, lo que podría estar relacionado con OpenAI, pero no se encontró evidencia de que se obtuvieran datos no públicos.
Quién debe pagar por los daños causados por el agente es, probablemente, el primer caso cuya respuesta tendrá que dar el tribunal.