Je pensais autrefois que les problèmes de confiance de l'IA concernaient les taux de précision.
Mira fait que cela ressemble davantage à un problème de responsabilité.
Quand un système d'IA fait une erreur, le dommage n'est pas statistique, il est contractuel. Quelqu'un a agi sur ce résultat. Quelqu'un l'a approuvé. Quelqu'un est responsable des conséquences.
Ce qui est intéressant dans la direction de Mira, c'est qu'elle ne demande pas seulement si une réponse est probablement correcte. Elle demande si le processus d'acceptation de cette réponse est défendable.
C'est un changement subtil mais important.
La précision améliore les modèles.
La défendabilité améliore les systèmes.
À mesure que l'IA progresse vers les finances, la conformité et des flux de travail hautement automatisés, "probablement correct" ne sera pas suffisant. Ce qui compte, c'est si la sortie a passé par une structure qui répartit le risque plutôt que de le concentrer.
L'avenir de l'adoption de l'IA ne dépendra pas de textes plus intelligents.
Il dépendra de qui peut dire, avec confiance,
"Cela a été vérifié selon des règles sur lesquelles nous étions tous d'accord."
@Mira - Trust Layer of AI - Trust Layer of AI#mira $MIRA