Nem tudo é diversão e jogos, pois alguns utilizadores pensam que a vontade dos bots femininos de agradar uns aos outros reforça estereótipos de género prejudiciais. No filme Her, Joaquin Phoenix é um homem apaixonado que cria sentimentos pela futurista assistente virtual em seu telefone, dublada por uma sensualmente bela Scarlett Johansson. A vida está imitando a arte enquanto os internautas fazem piadas sobre a nova versão do ChatGPT.

O dilema da objetificação da IA

Nas notícias desta semana, o GPT-4o é considerado uma versão mais sofisticada dos ajudantes digitais que foram atingidos há uma década. Imagine o Siri se ele pudesse sempre falar (e ‘ver’ através da sua câmera). Da mesma forma, como a Apple fez com seu assistente, a OpenAI humanizou o bot com uma voz feminina que soa como o alter ego digital de Johansson, curioso e atento. Qual foi a maneira de a internet responder? Com base nos memes nojentos criados após a revelação do bot, pode-se dizer que o bot foi revelado com bastante entusiasmo, mas provavelmente um pouco demais para os padrões de educação.

Os habitantes do X (antigo Twitter) estão se divertindo com a ideia de se apaixonar e até de ir para a cama com a tagarela robótica que alguém me dá: a tela apaga! Além disso, alguns tentam explicar aos amigos ou parceiros como se apaixonaram por essa nova pessoa estranha e pelos parceiros (todos adoraríamos estar lá para ver como vai aquela discussão estranha).

“Ei, ChatGPT, o que aconteceu ontem à noite?” pic.twitter.com/UZIAFyCSsB

-Jack Forge (@TheJackForge) 13 de maio de 2024

Por outro lado, alguns desejam que o bot modere o abafamento para que possam continuar com suas funções. Os memes ridículos contêm os ícones culturais mais queridos da internet, desde o louco superficcional Patrick Bateman até o envergonhado Ben Affleck. Além disso, há inúmeras referências aos personagens de Phoenix e Johansson nela. Em um tweet famoso, o último foi revisado para ser uma paródia da senadora republicana Katie Britt no Saturday Night Live e zomba do tom “excessivamente sedutor” do ChatGPT.

Viés de gênero em assistentes virtuais

Será que tudo isso significa apenas que estamos nos divertindo de forma inofensiva ou este é o começo de nossa destruição conjunta? Hoje, os dois artefatos da realidade, as namoradas IA e o bem-estar, que são as réplicas digitais dos influenciadores, estão aproximando essa realidade do episódio de Black Mirror. A resposta sexual provavelmente será a surpresa da OpenAI. O garoto-propaganda da IA ​​moderna está fortemente ciente de que sua tecnologia está sendo reaplicada à crise da solidão. Há alguns meses, a OpenAI começou a remover muitos dos companheiros robóticos criados por seus usuários de sua loja de aplicativos.

Naquela época, a empresa dizia que as ferramentas eram excluídas automaticamente se fossem contrárias às suas políticas de uso, que proíbem bots de intimidade. Por outro lado, o novo ChatGPT é muito inocente, mas isso não impediu que as partes mais perversas da internet projetassem seus desejos NSFW no infeliz bot.

É claro que, falando sério, alguns veem a personificação do bot como mais feminina. Os eleitores do sexo masculino declaram uma voz feminina, que consideram simpática e submissa; portanto, o bot é outro produto surdo da indústria de computadores dominada pelos homens.

A condenação reflecte a preocupação dos investigadores de IA sobre os efeitos do preconceito que se reflectiriam no seu trabalho e como isso influenciaria a nossa percepção do mundo, especialmente os utilizadores mais jovens que estão a crescer com a tecnologia. Quanto aos assistentes digitais, o relatório de 2019 da ONU mostrou que as vozes femininas padrão utilizadas pelos bots reforçam os maus estereótipos de género.