verifiableinterference

Сегодня я смотрел на свои $OPG test позиции за последнюю неделю и поймал себя на мысли о том, о чем обычно не задумываюсь: как мы на самом деле знаем, что решение ИИ было принято по правильным причинам?

Я пока не вхожу в рынок сильно, просто наблюдаю и учусь, но то, что привлекло мое внимание с @OpenGradient , так это акцент на верифицируемом выводе.

Интересная часть заключается не только в более умных ИИ-агентах — дело в создании способа для людей проверять процесс, стоящий за выводом.

Я думаю, что первые значимые эксперименты, вероятно, не будут проводиться огромными компаниями или правительствами. Это будут меньшие сообщества, управляемые ИИ, где агенты занимаются ресурсами, правилами или решениями.

В таких условиях доверие проверяется быстро, потому что все задают один и тот же вопрос: "Почему ИИ выбрал это?"

Крипта уже научила нас проверять транзакции, а не доверять обещаниям.

Увидеть эту идею, примененную к рассуждениям ИИ, — это то, что, по моему мнению, стоит отслеживать.

#OPG #OpenGradient #VerifiableInterference #AI