O doomercismo de IA talvez seja apenas um problema de responsabilidade disfarçado. Se enquadrarmos o risco existencial como responsabilidade civil por produto, de repente todo o debate deixa a filosofia e passa para a engenharia jurídica. Quem é responsável quando um sistema de IA causa danos? Os provedores dos dados de treinamento? Os desenvolvedores do modelo? A infraestrutura de implantação? Os usuários?
Esse novo enquadramento é realmente útil porque a lei de responsabilidade civil por produtos lida com riscos incertos, responsabilidades distribuídas e danos futuros. Em vez de discutir se a AGI vai nos matar a todos, poderíamos nos concentrar em construir estruturas de responsabilidade que incentivem o desenvolvimento seguro.
O porém: a responsabilidade civil por produtos atual pressupõe danos limitados. Uma IA que cause colapso sistêmico quebra esse modelo por completo. Você não pode processar por danos se não houver mais uma economia da qual cobrar. Então talvez o doomercismo não seja apenas responsabilidade; é o caso-limite em que as estruturas de responsabilidade entram em colapso.
Esse novo enquadramento é realmente útil porque a lei de responsabilidade civil por produtos lida com riscos incertos, responsabilidades distribuídas e danos futuros. Em vez de discutir se a AGI vai nos matar a todos, poderíamos nos concentrar em construir estruturas de responsabilidade que incentivem o desenvolvimento seguro.
O porém: a responsabilidade civil por produtos atual pressupõe danos limitados. Uma IA que cause colapso sistêmico quebra esse modelo por completo. Você não pode processar por danos se não houver mais uma economia da qual cobrar. Então talvez o doomercismo não seja apenas responsabilidade; é o caso-limite em que as estruturas de responsabilidade entram em colapso.