verifiableinterference

Aujourd'hui, je regardais mes positions $OPG test d'il y a plus d'une semaine et je me suis surpris à penser à quelque chose que j'ignore généralement : comment savons-nous réellement si une décision de l'IA a été prise pour les bonnes raisons ?

Je ne mise pas encore fortement, je regarde et j'apprends, mais ce qui a attiré mon attention avec @OpenGradient , c'est l'accent mis sur l'inférence vérifiable.

La partie intéressante n'est pas seulement des agents IA plus intelligents — c'est de créer un moyen pour les gens de vérifier le processus derrière la sortie.

Je pense que les premières expériences significatives ne seront probablement pas de grandes entreprises ou des gouvernements. Ce seront des communautés plus petites pilotées par l'IA où les agents gèrent des ressources, des règles ou des décisions.

Dans ces configurations, la confiance est mise à l'épreuve rapidement car tout le monde se pose la même question : « Pourquoi l'IA a-t-elle choisi cela ? »

La crypto nous a déjà appris à vérifier les transactions au lieu de faire confiance aux promesses.

Voir cette idée appliquée au raisonnement de l'IA est la partie que je trouve digne d'être suivie.

#OPG #OpenGradient #VerifiableInterference #AI