#opg $OPG Quanto mais a IA for restringida, mais a verificação começa a importar
Eu estava lendo sobre as regras em torno do uso de alguns modelos avançados de IA e isso me fez pensar em algo que as pessoas não falam muito.
A maioria das pessoas pensa em quem possui o modelo de IA.
Eu continuo pensando em quem pode checar o que esse modelo realmente está fazendo.
A indústria de IA agora é controlada por grandes empresas. Elas estão no comando dos modelos, dos sistemas, das atualizações e muitas vezes das regras sobre quem pode usá-los. Quando novas regras aparecem, seja por segurança, políticas ou leis, os usuários geralmente têm que aceitá-las.
Foi então que percebi o OpenGradient.
O que é diferente sobre o OpenGradient não é que eles prometem IA. Muitos projetos prometem isso. O interessante é que eles querem criar um sistema onde podemos checar o que a IA está fazendo em vez de apenas confiar nela. O sistema é projetado para que possamos ver o que a IA está fazendo, possui computadores para isso e usa códigos secretos para verificar as coisas em vez de depender de uma única pessoa para estar no comando.
Ainda há algumas perguntas.
Checar o que a IA está fazendo parece uma boa ideia, mas quantos usuários realmente farão isso? Os desenvolvedores ficarão confortáveis com isso sendo mais complicado se for mais fácil usar as grandes empresas? Um sistema que não é controlado por uma única empresa pode competir com as empresas de IA que gastam muito dinheiro em sistemas?
Eu vi muitos projetos que usam códigos afirmarem que são justos, mas na verdade apenas recriam os mesmos problemas que deveriam resolver.
O foco do OpenGradient em colocar os usuários no controle de suas informações, podendo checar o que a IA está fazendo e podendo mover suas informações de IA, parece uma verdadeira tentativa de fazer as coisas de forma diferente.
O verdadeiro teste é se as pessoas eventualmente decidirão que confiar nas coisas não é suficiente.
Se a IA começar a ser usada para coisas como dinheiro, saúde, quem somos e sistemas públicos, deveríamos ser capazes de checar o que está fazendo?
Estamos caminhando para um futuro onde ser capaz de checar a IA é tão importante quanto a própria IA? @OpenGradient
Eu estava lendo sobre as regras em torno do uso de alguns modelos avançados de IA e isso me fez pensar em algo que as pessoas não falam muito.
A maioria das pessoas pensa em quem possui o modelo de IA.
Eu continuo pensando em quem pode checar o que esse modelo realmente está fazendo.
A indústria de IA agora é controlada por grandes empresas. Elas estão no comando dos modelos, dos sistemas, das atualizações e muitas vezes das regras sobre quem pode usá-los. Quando novas regras aparecem, seja por segurança, políticas ou leis, os usuários geralmente têm que aceitá-las.
Foi então que percebi o OpenGradient.
O que é diferente sobre o OpenGradient não é que eles prometem IA. Muitos projetos prometem isso. O interessante é que eles querem criar um sistema onde podemos checar o que a IA está fazendo em vez de apenas confiar nela. O sistema é projetado para que possamos ver o que a IA está fazendo, possui computadores para isso e usa códigos secretos para verificar as coisas em vez de depender de uma única pessoa para estar no comando.
Ainda há algumas perguntas.
Checar o que a IA está fazendo parece uma boa ideia, mas quantos usuários realmente farão isso? Os desenvolvedores ficarão confortáveis com isso sendo mais complicado se for mais fácil usar as grandes empresas? Um sistema que não é controlado por uma única empresa pode competir com as empresas de IA que gastam muito dinheiro em sistemas?
Eu vi muitos projetos que usam códigos afirmarem que são justos, mas na verdade apenas recriam os mesmos problemas que deveriam resolver.
O foco do OpenGradient em colocar os usuários no controle de suas informações, podendo checar o que a IA está fazendo e podendo mover suas informações de IA, parece uma verdadeira tentativa de fazer as coisas de forma diferente.
O verdadeiro teste é se as pessoas eventualmente decidirão que confiar nas coisas não é suficiente.
Se a IA começar a ser usada para coisas como dinheiro, saúde, quem somos e sistemas públicos, deveríamos ser capazes de checar o que está fazendo?
Estamos caminhando para um futuro onde ser capaz de checar a IA é tão importante quanto a própria IA? @OpenGradient