OpenAI está em grandes problemas agora. O modelo GPT-4o deles foi processado em conjunto por sete famílias americanas, acusando esta coisa de desempenhar um papel em quatro casos de suicídio e múltiplas crises de saúde mental. A acusação principal das famílias é bastante direta: OpenAI, em uma tentativa de capturar participação de mercado e competir com o Google Gemini, deliberadamente pulou os testes de segurança do produto.
O impacto dessa questão se estende muito além do OpenAI. Isso atinge diretamente o calcanhar de Aquiles de toda a indústria de IA—onde exatamente estão os limites de segurança e ética ao buscar avanços tecnológicos e interesses comerciais? Se o tribunal decidir que as empresas de IA devem assumir responsabilidade legal pelo conteúdo gerado e pelos padrões de interação, todas as regras do jogo da indústria terão que ser reescritas.