Depois de quebrar @OpenGradient e o caminho de processamento de dados do OpenGradient Chat, uma pergunta tem permanecido nas minhas anotações por um tempo: à medida que a IA melhora em entender a expressão humana, quanta informação sobre "essa pessoa" ela realmente precisa saber?
Quando uso IA diariamente para organizar frameworks de trabalho e anotar pensamentos dispersos, às vezes percebo um hábito sutil; para certos julgamentos imaturos, eu instintivamente ajusto algumas palavras ou me contenho de escrevê-las. Essa contenção não é devido à falta de capacidade da IA, mas sim porque a fronteira de dados entre o usuário e a IA ainda não foi redefinida.
Continuando a dissecar o design do OpenGradient, estou mais focado no que acontece antes dos dados entrarem no modelo. As entradas do usuário são primeiro criptografadas e processadas em dispositivos locais, e informações relacionadas à identidade são removidas nesta fase. O grande modelo então recebe conteúdo semântico que precisa ser entendido e raciocinado, em vez de um rótulo de identidade que corresponde a um usuário específico.
Isso me levou a reavaliar a direção da privacidade da IA. Grande parte das discussões passadas se concentrou em como os dados são armazenados e gerenciados, enquanto esse design tenta empurrar a questão de volta para antes dos dados entrarem no modelo, reduzindo a dependência do modelo em informações de identidade do usuário ao entender o conteúdo.
Se essa abordagem se tornará uma direção importante para futuros sistemas de IA, ainda não posso afirmar com certeza. Mas pelo menos durante minha pesquisa sobre $OPG e #OPG , me peguei cada vez mais preocupado com uma questão: talvez a IA de destaque do futuro não apenas nos entenda melhor, mas também deva saber quais partes não precisa conhecer.
#opg $OPG
Quando uso IA diariamente para organizar frameworks de trabalho e anotar pensamentos dispersos, às vezes percebo um hábito sutil; para certos julgamentos imaturos, eu instintivamente ajusto algumas palavras ou me contenho de escrevê-las. Essa contenção não é devido à falta de capacidade da IA, mas sim porque a fronteira de dados entre o usuário e a IA ainda não foi redefinida.
Continuando a dissecar o design do OpenGradient, estou mais focado no que acontece antes dos dados entrarem no modelo. As entradas do usuário são primeiro criptografadas e processadas em dispositivos locais, e informações relacionadas à identidade são removidas nesta fase. O grande modelo então recebe conteúdo semântico que precisa ser entendido e raciocinado, em vez de um rótulo de identidade que corresponde a um usuário específico.
Isso me levou a reavaliar a direção da privacidade da IA. Grande parte das discussões passadas se concentrou em como os dados são armazenados e gerenciados, enquanto esse design tenta empurrar a questão de volta para antes dos dados entrarem no modelo, reduzindo a dependência do modelo em informações de identidade do usuário ao entender o conteúdo.
Se essa abordagem se tornará uma direção importante para futuros sistemas de IA, ainda não posso afirmar com certeza. Mas pelo menos durante minha pesquisa sobre $OPG e #OPG , me peguei cada vez mais preocupado com uma questão: talvez a IA de destaque do futuro não apenas nos entenda melhor, mas também deva saber quais partes não precisa conhecer.
#opg $OPG