Eu costumava pensar que os problemas de confiança da IA eram sobre taxas de precisão.
Mira faz com que pareça mais um problema de responsabilidade.
Quando um sistema de IA comete um erro, o dano não é estatístico, é contratual. Alguém agiu com base nesse resultado. Alguém o aprovou. Alguém é responsável pelas consequências.
O interessante sobre a direção de Mira é que não apenas pergunta se uma resposta é provavelmente correta. Pergunta se o processo de aceitar essa resposta é defensável.
Essa é uma mudança sutil, mas importante.
A precisão melhora os modelos.
A defensabilidade melhora os sistemas.
À medida que a IA avança em direção a finanças, conformidade e fluxos de trabalho com alta automação, "provavelmente correta" não será suficiente. O que importa é se a saída passou por uma estrutura que distribui o risco em vez de concentrá-lo.
O futuro da adoção da IA não dependerá de textos mais inteligentes.
Dependerá de quem puder dizer, com confiança,
"Isto foi verificado sob regras nas quais todos concordamos."
@Mira - Trust Layer of AI - Trust Layer of AI#mira $MIRA