Quelque chose dans le lien entre les agents d’IA et les données blockchain m’a poussé à y regarder de plus près @SpaceandTime
Un agent d’IA peut recevoir un résultat de base de données qui semble parfaitement valide et agir en conséquence sans savoir si ces informations ont jamais été exactes. Je prête davantage attention à cet écart.
La preuve SQL est un aspect intéressant de l’approche de Space and Time. Au lieu de demander à une application d’accepter un résultat de requête sans preuve, elle fournit une preuve à divulgation nulle de connaissance (ZK) qui permet de vérifier le résultat et l’exécution de la requête.
Je reviens souvent à la question de l’IA. Si un agent prend des décisions automatiquement, une mauvaise entrée ne conduit pas nécessairement à une seule réponse incorrecte. Elle peut entraîner une action inappropriée.
Donner aux IA accès à davantage de données est un défi. Rendre ces données vérifiables en est un autre, probablement moins visible.
Je me demande souvent si les données vérifiables deviendront indispensables à mesure que les agents d’IA prendront davantage de décisions sans supervision humaine.
Les agents d’IA pourront-ils un jour être vraiment fiables sans données vérifiables ?
#sxt $SXT
Un agent d’IA peut recevoir un résultat de base de données qui semble parfaitement valide et agir en conséquence sans savoir si ces informations ont jamais été exactes. Je prête davantage attention à cet écart.
La preuve SQL est un aspect intéressant de l’approche de Space and Time. Au lieu de demander à une application d’accepter un résultat de requête sans preuve, elle fournit une preuve à divulgation nulle de connaissance (ZK) qui permet de vérifier le résultat et l’exécution de la requête.
Je reviens souvent à la question de l’IA. Si un agent prend des décisions automatiquement, une mauvaise entrée ne conduit pas nécessairement à une seule réponse incorrecte. Elle peut entraîner une action inappropriée.
Donner aux IA accès à davantage de données est un défi. Rendre ces données vérifiables en est un autre, probablement moins visible.
Je me demande souvent si les données vérifiables deviendront indispensables à mesure que les agents d’IA prendront davantage de décisions sans supervision humaine.
Les agents d’IA pourront-ils un jour être vraiment fiables sans données vérifiables ?
#sxt $SXT
