Я всё время думаю о том, насколько легко мы используем слово «доверие», когда говорим об ИИ-агентах.
В протоколе Newton Protocol наиболее заметной для меня является авторизация на основе политики: идея о том, что агент не просто «действует от моего имени», а работает в явных, проверяемых границах.
С точки зрения систем это кажется важным. В программном обеспечении доверие обычно деградирует, когда слишком много оставляют неявным. Агент с широкими разрешениями становится трудно прогнозируемым и объяснимым, даже если интерфейс кажется простым.
Но когда разрешения, ограничения и отзыв прав рассматриваются как базовая инфраструктура, меняется сама модель доверия. Она становится меньше про то, чтобы верить, что агент будет вести себя хорошо, и больше про то, чтобы определить, что технически ему разрешено делать.
На первый взгляд это различие кажется небольшим, но, возможно, оно имеет огромное значение.
#Newt @NewtonProtocol $NEWT
В протоколе Newton Protocol наиболее заметной для меня является авторизация на основе политики: идея о том, что агент не просто «действует от моего имени», а работает в явных, проверяемых границах.
С точки зрения систем это кажется важным. В программном обеспечении доверие обычно деградирует, когда слишком много оставляют неявным. Агент с широкими разрешениями становится трудно прогнозируемым и объяснимым, даже если интерфейс кажется простым.
Но когда разрешения, ограничения и отзыв прав рассматриваются как базовая инфраструктура, меняется сама модель доверия. Она становится меньше про то, чтобы верить, что агент будет вести себя хорошо, и больше про то, чтобы определить, что технически ему разрешено делать.
На первый взгляд это различие кажется небольшим, но, возможно, оно имеет огромное значение.
#Newt @NewtonProtocol $NEWT