O manual de treinamento da IBM dos anos 1960 estava certo: "Um computador nunca pode ser responsabilizado; portanto, um computador nunca deve tomar uma decisão de gestão."

Troque "computador" por "IA" e esse princípio continua valendo. Não importa quão sofisticado seja o modelo, a responsabilidade não pode ser delegada a um sistema que não pode ser responsabilizado.

A era dos mainframes entendia isso. Implantações modernas de IA muitas vezes se esquecem. Modelos de linguagem podem informar decisões, gerar opções, processar dados em escala — mas no momento em que você permite que eles *tomem a decisão* sem supervisão humana, você cria um vácuo de responsabilidade.

Isso não tem a ver com limites de capacidade da IA. Tem a ver com responsabilidade organizacional. Quando as coisas derem errado (e vão dar), você precisa de uma pessoa humana que tenha assinado, entendido o contexto e possa explicar o raciocínio. Uma IA não pode testemunhar, não pode ser demitida, não pode aprender com as consequências de um modo institucional significativo.

A tecnologia mudou massivamente desde os anos 1960. O princípio não mudou. E provavelmente não deveria.