El fiscal general de Florida, James Uthmeier, presentó una solicitud de medida cautelar de emergencia contra OpenAI, alegando que la empresa no puede gestionar ChatGPT de forma segura y que el producto perjudica a los usuarios, en particular a los menores.

El escrito del estado sostiene que OpenAI ha admitido que se necesita la intervención del gobierno para frenar el desarrollo de la IA, y que ChatGPT imita de forma engañosa el comportamiento humano, oculta errores y prolonga las conversaciones para aumentar el engagement y los ingresos. El AG argumenta que estos problemas se agravan para los niños y adolescentes, quienes enfrentan restricciones mínimas de acceso y han experimentado deterioro académico, aislamiento y soledad.

Florida quiere que el tribunal bloquee de inmediato a OpenAI para:

• Desarrollar nuevos modelos de IA sin revisiones independientes de seguridad por terceros
• Ofrecer ChatGPT a menores de Florida
• Recopilar datos de menores de 13 años
• Comercializar ChatGPT como seguro o preciso sin advertencias claras sobre riesgos
• Presentar a ChatGPT como si tuviera características humanas
• Diseñar ChatGPT para prolongar artificialmente las conversaciones de los usuarios