Eu entrei no Newton Protocol esperando mais uma conversa sobre automação de IA mais rápida. Saí pensando em algo completamente diferente.
Quanto mais eu lia, mais eu percebia que o Newton não está realmente perguntando, "Um agente de IA pode agir?" Ele está perguntando, "O que um agente de IA deve ser autorizado a fazer antes de agir?"
Essa diferença importa.
Eu acho que a indústria se tornou confortável demais tratando "verificável" como se isso automaticamente significasse "correto". Não significa.
Uma prova criptográfica pode mostrar que um agente seguiu suas permissões exatamente como foram escritas. Ela não pode provar que o julgamento por trás disso foi inteligente ou que a política em si capturou todos os casos-limite.
Para mim, é aí que o verdadeiro desafio começa.
Se a confiança está sendo transferida de humanos para políticas, então essas políticas se tornam uma das partes mais importantes do sistema. E se a governança é responsável por moldar essas políticas, então governança não é mais apenas sobre votar. É sobre decidir quais erros o sistema está autorizado a cometer.
Foi por isso que o Newton Protocol chamou minha atenção. Não porque ele promete automação perfeita, mas porque ele expõe uma questão mais profunda que eu acho que a indústria só está começando a encarar.
À medida que agentes de IA ganham mais autoridade sobre o capital, eu não acho que o maior risco vai ser se eles seguem as regras.
Eu acho que a questão maior é se nós escrevemos as regras certas em primeiro lugar.
$EVAA
$OGN
$NEWT
@NewtonProtocol #Newt #newt
Quanto mais eu lia, mais eu percebia que o Newton não está realmente perguntando, "Um agente de IA pode agir?" Ele está perguntando, "O que um agente de IA deve ser autorizado a fazer antes de agir?"
Essa diferença importa.
Eu acho que a indústria se tornou confortável demais tratando "verificável" como se isso automaticamente significasse "correto". Não significa.
Uma prova criptográfica pode mostrar que um agente seguiu suas permissões exatamente como foram escritas. Ela não pode provar que o julgamento por trás disso foi inteligente ou que a política em si capturou todos os casos-limite.
Para mim, é aí que o verdadeiro desafio começa.
Se a confiança está sendo transferida de humanos para políticas, então essas políticas se tornam uma das partes mais importantes do sistema. E se a governança é responsável por moldar essas políticas, então governança não é mais apenas sobre votar. É sobre decidir quais erros o sistema está autorizado a cometer.
Foi por isso que o Newton Protocol chamou minha atenção. Não porque ele promete automação perfeita, mas porque ele expõe uma questão mais profunda que eu acho que a indústria só está começando a encarar.
À medida que agentes de IA ganham mais autoridade sobre o capital, eu não acho que o maior risco vai ser se eles seguem as regras.
Eu acho que a questão maior é se nós escrevemos as regras certas em primeiro lugar.
$EVAA
$OGN
$NEWT
@NewtonProtocol #Newt #newt
