Uma organização autónoma descentralizada poderia ajudar a resolver preocupações sobre o preconceito político do ChatGPT e o seu potencial de abuso.
ChatGPT é um modelo de linguagem em grande escala que pode conversar com os usuários e é um dos modelos inovadores da OpenAI. Embora esta tecnologia tenha muitas vantagens, alguns estão preocupados com a necessidade de ser regulamentada de uma forma que garanta a privacidade, a neutralidade e o conhecimento descentralizado. Organizações Autônomas Descentralizadas (DAOs) podem resolver esses problemas.
Primeiro, a privacidade é uma grande preocupação ao usar o ChatGPT. Para melhorar a sua capacidade de resposta, o modelo recolhe dados dos utilizadores – mas estes dados podem conter informações sensíveis que os indivíduos podem não querer divulgar a uma autoridade central. Por exemplo, se um usuário divulgar seu histórico financeiro ou médico ao ChatGPT, essas informações poderão ser armazenadas e usadas de maneiras não pretendidas ou autorizadas. Se as informações forem obtidas por terceiros não autorizados, podem resultar em violações de privacidade ou até mesmo roubo de identidade.
Além disso, o ChatGPT pode ser usado para atividades ilegais, como golpes de phishing ou ataques de engenharia social. Ao imitar discussões humanas, o ChatGPT pode induzir os usuários a revelar informações privadas ou a realizar ações que normalmente não realizariam. É fundamental que a OpenAI estabeleça políticas e procedimentos claros para gerir e armazenar dados dos utilizadores para resolver estas questões de privacidade. O DAO garante que os dados coletados pelo ChatGPT sejam armazenados de forma descentralizada, os usuários tenham maior controle sobre seus dados e só possam ser acessados por entidades autorizadas.
Em segundo lugar, existem preocupações crescentes sobre o preconceito político nos modelos de IA, e o ChatGPT não é exceção. Alguns temem que, à medida que estes modelos forem desenvolvidos, possam inadvertidamente reforçar preconceitos sociais existentes ou introduzir novos preconceitos. Os chatbots de IA também podem ser usados para espalhar propaganda ou desinformação. Isto pode levar a resultados injustos ou injustos que impactam negativamente tanto os indivíduos como as comunidades. Os modelos podem produzir respostas tendenciosas que refletem a tendência do desenvolvedor ou dos dados de treinamento.
O DAO pode garantir que o ChatGPT seja treinado em dados objetivos e que as respostas que ele gera sejam revisadas por uma ampla gama de pessoas, como representantes de diversas empresas, instituições acadêmicas e organizações sociais, que podem detectar e corrigir quaisquer preconceitos. Isso minimizará o potencial de preconceito, garantindo que as decisões do ChatGPT sejam tomadas com base em informações de diversas perspectivas.
Os DAOs também podem estabelecer um sistema de freios e contrapesos para garantir que o ChatGPT não reforce preconceitos que já existem na sociedade ou introduza quaisquer novos. Por exemplo, o DAO pode desenvolver um processo para revisar as respostas do ChatGPT para garantir que sejam justas e imparciais. Isso pode envolver a revisão profissional imparcial dos comentários do ChatGPT e apontar quaisquer exemplos de preconceito.
Finalmente, outro problema do ChatGPT é a centralização do conhecimento. O modelo tem acesso a uma grande quantidade de informações, o que é vantajoso em vários aspectos. Isto pode levar a monopólios do conhecimento, uma vez que o conhecimento está concentrado nas mãos de algumas pessoas ou organizações. Da mesma forma, a partilha de conhecimento puro homem-máquina pode tornar-se a norma, deixando os indivíduos completamente dependentes das máquinas para o conhecimento colectivo.
Por exemplo, um programador que enfrenta um problema de codificação pode recorrer ao Stack Overflow mais cedo para obter ajuda, postando sua pergunta e recebendo respostas de outros programadores humanos que podem ter encontrado problemas semelhantes e encontrado soluções. No entanto, à medida que modelos de linguagem de IA como o ChatGPT proliferam, está se tornando cada vez mais comum que os programadores façam perguntas e recebam respostas sem precisar se comunicar com mais ninguém. Isso poderia levar os usuários a interagir menos e a compartilhar conhecimento on-line – por exemplo, em sites como o Stack Overflow – e à integração do conhecimento em modelos de linguagem de IA. Isto poderia minar seriamente a agência humana e o controlo sobre a produção e distribuição de conhecimento – tornando mais difícil o nosso acesso ao mesmo no futuro.
Não existem respostas simples para a complexa questão da centralização do conhecimento. No entanto, realça a necessidade de uma estratégia mais descentralizada de produção e transferência de conhecimento. Um DAO que forneça uma estrutura para um compartilhamento de informações mais democrático e aberto poderia ser útil nesta situação. Ao utilizar a tecnologia blockchain e contratos inteligentes, os DAOs podem permitir que pessoas e organizações trabalhem em conjunto e contribuam para um corpo partilhado de conhecimento, ao mesmo tempo que proporcionam maior controlo sobre a forma como esse conhecimento é acedido.
Em última análise, o DAO pode fornecer uma estrutura para supervisionar e gerenciar as operações do ChatGPT, garantindo o armazenamento descentralizado de dados do usuário, respostas avaliadas quanto a preconceitos e uma troca de informações mais democrática e aberta. O uso de um DAO pode ser uma solução viável para esses problemas, permitindo maior responsabilização, transparência e controle sobre o uso do ChatGPT e de outros modelos de linguagem de IA. À medida que a tecnologia da IA continua a avançar, devemos dar prioridade às considerações éticas e tomar medidas proativas para resolver potenciais problemas antes que se tornem problemas.