OpenAI está en grandes problemas ahora. Su modelo GPT-4o ha sido demandado conjuntamente por siete familias estadounidenses, acusando a esta cosa de jugar un papel en cuatro casos de suicidio y múltiples crisis de salud mental. La acusación principal de las familias es bastante directa: OpenAI, en un intento de captar cuota de mercado y competir con Google Gemini, deliberadamente omitió las pruebas de seguridad del producto.
El impacto de este asunto se extiende mucho más allá de OpenAI. Ataca directamente el talón de Aquiles de toda la industria de la IA: ¿dónde están exactamente los límites de seguridad y éticos al perseguir avances tecnológicos e intereses comerciales? Si el tribunal decide que las empresas de IA deben asumir la responsabilidad legal por su contenido generado y patrones de interacción, las reglas del juego de toda la industria tendrán que ser reescritas.