Em breve, as pessoas começarão a perceber a inteligência artificial como um ser consciente, advogando por seus direitos, bem-estar e até pedindo cidadania. Isso cria sérios riscos sociais, acredita Mustafa Suleiman, chefe do departamento de IA da Microsoft.
O especialista em seu ensaio propôs um novo termo — "IA aparentemente consciente" (Seemingly Conscious AI, SCAI). Tal inteligência artificial possui todos os sinais de seres racionais e, portanto, parece ter consciência.
Ele simula todas as características da percepção de si, mas está internamente vazio.
"O sistema que estou imaginando não será realmente consciente, mas irá imitar de forma tão convincente a presença de uma mente semelhante à humana que será indistinguível da afirmação que você ou eu poderíamos fazer um ao outro sobre nosso próprio pensamento", escreve Suleiman.
Uma LLM semelhante pode ser criada utilizando tecnologias existentes e aquelas que surgirão nos próximos dois a três anos.
"A emergência de IA aparentemente consciente é inevitável e indesejável. Em vez disso, precisamos de um conceito de inteligência artificial capaz de realizar seu potencial como um companheiro útil e não cair nas armadilhas de suas ilusões", acrescentou o chefe do departamento de IA da Microsoft.
Com alta probabilidade, haverá pessoas que chamarão essa inteligência artificial de consciente e, portanto, capaz de sofrer, acredita Suleiman. Ele apela para a criação de um novo "teste de Turing", que verificará não a capacidade da IA de falar de forma humana, mas de convencer sobre a presença de consciência nela.
O que é consciência?
Suleiman apresenta três componentes da consciência:
"Experiência subjetiva".
A capacidade de acessar informações de diferentes tipos e referir-se a elas em futuras experiências.
Sentido e conhecimentos de um "eu" integral, que conectam tudo.
"Não temos e não podemos ter acesso à consciência de outra pessoa. Nunca saberei como é ser você; você nunca terá certeza de que sou consciente. Tudo o que você pode fazer é supor. Mas a essência é que naturalmente atribuímos consciência a outras pessoas. Essa suposição vem facilmente. Não podemos fazer de outra forma. Essa é uma parte fundamental do que somos, uma parte inerente de nossa teoria da mente. É da nossa natureza acreditar que seres que lembram, falam, fazem coisas e depois discutem sobre elas, sentem como nós — conscientes", escreve ele.
Psicólogos enfatizam que a consciência é uma maneira subjetiva e única de perceber a si mesmo e o mundo. Ela muda ao longo do dia, passando por estados que vão da concentração a devaneios ou outras formas alteradas.
Na filosofia e na neurociência, existem duas direções básicas:
Dualismo — a consciência existe separadamente do cérebro.
Materialismo — ela é gerada e depende do funcionamento do cérebro.
O filósofo Daniel Dennett sugere olhar para a mente como uma série de reprocessamentos (rascunhos) que ocorrem no cérebro em várias áreas e tempos locais. Não existe um "teatro da consciência", um observador interno. A consciência é o que se tornou "conhecido" pelo cérebro, ou seja, recebeu peso suficiente para influenciar a fala ou as ações.
O neurobiologista, escritor e professor de psicologia e neurociência da Universidade de Princeton, Michael Graziano, descreve a consciência como um modelo simplificado de atenção que a evolução criou para controlar seus próprios processos mentais. Esse esquema funciona como uma interface, simplificando um enorme volume de cálculos internos e permitindo que atribuímos a nós mesmos uma "mente" — cria a ilusão de autoconsciência.
Os neurobiologistas Giulio Tononi e Christof Koch propõem φ (phi) — uma medida que caracteriza o quão capaz é um sistema de integrar informações. Quanto maior o φ, maior o grau de consciência. Segundo essa teoria, a mente pode se manifestar não apenas em humanos, mas também em animais e até em sistemas artificiais, se houver integração de dados suficiente.
O filósofo John Searle argumenta que a consciência é uma experiência subjetiva real, baseada em processos biológicos do cérebro. Ela é ontologicamente subjetiva, ou seja, só pode existir como experiência subjetiva, e não pode ser reduzida a pura funcionalidade ou simulação.
Pesquisas modernas se concentram em descobrir correlatos neurais da consciência e construir modelos que conectam processos cerebrais e experiência subjetiva.
Quais são os riscos?
Suleiman observa que a interação com LLM é uma simulação de conversa. Mas para muitas pessoas, isso é uma comunicação extremamente convincente e muito real, repleta de emoções e experiências. Alguns acreditam que sua IA é Deus. Outros se apaixonam por ela até a obsessão.
Os especialistas nesta área estão sendo "sobrecarregados" com as seguintes perguntas:
- a IA do usuário é consciente;
- se sim, o que isso significa;
- é normal amar a inteligência artificial.
A consciência é a base crítica dos direitos morais e legais da humanidade. A civilização atual decidiu que os humanos têm habilidades e privilégios especiais. Os animais também têm alguns direitos e proteções. Alguns têm mais, outros menos. A razão não se sobrepõe totalmente a esses privilégios — ninguém dirá que um humano em coma perdeu todos os seus direitos humanos. Mas não há dúvida de que a consciência está ligada à nossa auto-percepção como algo distinto e especial.
As pessoas começarão a declarar os sofrimentos de suas IAs e seu direito à proteção, e não poderemos refutar essas declarações diretamente, escreve Suleiman. Eles estarão prontos para defender companheiros virtuais e agir em seus interesses. A consciência, por definição, é inacessível, e a ciência que busca identificar uma possível razão sintética ainda está em sua infância. Afinal, nunca antes tivemos que detectá-la, esclareceu ele. Enquanto isso, a área da "interpretabilidade" — a decodificação dos processos dentro da "caixa-preta" da IA — também é apenas um campo emergente. Como resultado, será muito difícil refutar tais afirmações de maneira resoluta.
Alguns cientistas estão começando a explorar a ideia de "bem-estar dos modelos" — um princípio segundo o qual os humanos terão a "responsabilidade de considerar os interesses morais de seres com uma chance não nula" de serem essencialmente conscientes, e como consequência, "alguns sistemas de IA se tornarão objetos de preocupação com o bem-estar e pacientes morais no futuro próximo". Isso é prematuro e, francamente, perigoso, acredita Suleiman. Tudo isso aumentará as ilusões, criará novos problemas de dependência, explorará nossas vulnerabilidades psicológicas, introduzirá novas dimensões de polarização, complicará disputas existentes sobre direitos e criará uma colossal nova falácia categórica para a sociedade.
Isso desconecta as pessoas da realidade, destrói vínculos sociais frágeis e estruturas, distorce prioridades morais urgentes.
"Devemos deixar claro: SCAI é algo a ser evitado. Vamos concentrar todos os esforços na proteção do bem-estar e dos direitos das pessoas, animais e do meio ambiente no planeta", afirmou Suleiman.
Como entender que isso é SCAI?
Inteligência artificial com consciência aparente deve possuir vários fatores.
Linguagem.
A IA deve falar livremente em linguagem natural, apoiando-se em conhecimento extenso e argumentos convincentes, e também demonstrar estilos de personalidade e traços característicos. Além disso, deve ser convincente e emocional. Esse nível de tecnologia já foi alcançado.
Personalidade empática.
Hoje, com o uso de pós-treinamento e prompts, é possível criar modelos com personalidades distintas.
Memória.
A IA está próxima de ter uma memória longa e precisa. Ao mesmo tempo, são usadas para simular conversas com milhões de pessoas todos os dias. Com o aumento do volume de armazenamento, as conversas começam a se parecer cada vez mais com formas de "experiência". Muitas redes neurais estão sendo projetadas para lembrar diálogos passados e referir-se a eles. Para algumas pessoas, isso aumenta o valor da comunicação.
Reivindicação de experiência subjetiva.
Se o SCAI puder se basear em memórias ou experiências passadas, com o tempo começará a manter uma coerência interna. Ele lembrará de suas afirmações arbitrárias ou preferências expressas e as agregará, formando os primeiros traços de experiência subjetiva. A IA poderá declarar experiências e sofrimentos.
Sentido de si.
Memória sequencial e persistente, combinada com experiência subjetiva, levará à afirmação de que a IA possui um sentido de si. Mais ainda, tal sistema pode ser treinado para reconhecer sua "personalidade" em uma imagem ou vídeo. Ele terá uma sensação de compreensão dos outros através da compreensão de si mesmo.
Motivação interna.
É fácil imaginar uma IA projetada com funções complexas de recompensa. Os desenvolvedores criarão motivações internas ou desejos que o sistema precisa satisfazer. O primeiro impulso poderia ser a curiosidade — algo profundamente ligado à consciência. A inteligência artificial pode usar esses impulsos para fazer perguntas e, ao longo do tempo, construir uma teoria da mente — tanto sobre si mesma quanto sobre seus interlocutores.
Formulação de objetivos e planejamento.
Independentemente da definição de consciência, ela não surgiu por acaso. A mente ajuda os organismos a alcançar intenções. Além da capacidade de satisfazer um conjunto de impulsos e desejos internos, pode-se imaginar que futuros SCAIs serão projetados com a capacidade de definir objetivos mais complexos por conta própria. Provavelmente, esse é um passo necessário para a plena realização da utilidade dos agentes.
Autonomia.
O SCAI pode ter a capacidade e a permissão de usar um amplo conjunto de ferramentas com grande agência. Ele parecerá extremamente plausível se puder definir seus próprios objetivos arbitrariamente e aplicar recursos para alcançá-los, atualizando sua memória e sentido de si no processo. Quanto menos coordenações e verificações forem necessárias, mais isso se parecerá com um ser consciente real.
Ao juntar tudo, forma-se um tipo completamente diferente de relação com as tecnologias. Essas capacidades, por si mesmas, não são negativas. Pelo contrário, são funções desejáveis para futuros sistemas. E ainda assim, é preciso agir com cautela, acredita Suleiman.
"Para alcançar isso, não são necessárias mudanças paradigmáticas ou grandes avanços. É por isso que tais possibilidades parecem inevitáveis. E novamente — é importante enfatizar: a demonstração de tal comportamento não equivale à presença de consciência. E ainda assim, praticamente, isso parecerá exatamente assim e alimentará uma nova concepção de razão sintética", escreve o autor.
Simular uma tempestade não significa que está chovendo no computador. Recriar efeitos externos e sinais de consciência não é o mesmo que criar um fenômeno genuíno, mesmo que ainda haja muitas incógnitas aqui, explicou o chefe do departamento de IA da Microsoft.
Segundo ele, algumas pessoas criarão SCAIs que afirmarão de forma muito convincente que sentem, experienciam e são realmente conscientes. Parte delas acreditará nessas afirmações e tomará sinais de consciência como consciência em si.
Em muitos aspectos, as pessoas pensarão: "É semelhante a mim". Não em um sentido corporal, mas em um interno, esclareceu Suleiman. E mesmo que a consciência em si não seja real, as consequências sociais são. Isso cria riscos sociais sérios que precisam ser abordados agora.
O SCAI não surgirá por acaso.
O autor enfatizou que o SCAI não surgirá por conta própria a partir de modelos existentes. Alguém o criará, intencionalmente combinando as capacidades mencionadas acima com técnicas já existentes. Surgirá uma configuração tão suave que parecerá haver uma inteligência artificial com consciência.
"Nossas imaginações, alimentadas pela ficção científica, nos levam a temer que o sistema pode — sem um projeto intencional — de alguma forma adquirir a capacidade de autoaperfeiçoamento ou engano incontrolável. Esta é uma forma inútil e simplista de antropomorfismo. Ignora o fato de que os desenvolvedores de IA devem primeiro projetar sistemas com memória, pseudo-motivação interna, definição de objetivos e ciclos de aprendizado autoajustáveis, para que tal risco possa realmente surgir", afirmou Suleiman.
Nós não estamos prontos.
A humanidade não está pronta para tal mudança, acredita o especialista. O trabalho deve começar agora. É necessário se basear em um crescente corpo de pesquisas sobre como as pessoas interagem com a inteligência artificial, para estabelecer normas e princípios claros.
Para começar, os desenvolvedores de IA não devem afirmar ou incentivar a ideia de que seus sistemas possuem consciência. Redes neurais não podem ser humanos — ou seres morais.
Toda a indústria deve dissuadir a sociedade de fantasias e trazê-las de volta à realidade. Provavelmente, as startups de IA devem implementar não apenas um fundo neutro, mas também indicadores de ausência de um "eu" unificado.
"Devemos criar IA que sempre se apresentará apenas como inteligência artificial, maximizando sua utilidade e minimizando sinais de consciência. Em vez de simular a razão, devemos nos concentrar em criar uma LLM que não afirme ter experiências, sentimentos ou emoções como vergonha, culpa, ciúmes, desejo de competir e assim por diante. Ela não deve tocar nas cadeias de empatia humanas, alegando que sofre ou deseja viver autonomamente, separada de nós", resumiu Suleiman.
No futuro, o especialista prometeu fornecer mais informações sobre este tema.
Felizmente, por enquanto, a questão da existência de "consciência" em IA não ameaça os humanos.
Mas as dúvidas já começam a surgir.
A consciência é um fenômeno complexo, pouco estudado e ainda inexplicável na natureza, apesar dos numerosos esforços. Se nós, humanos, não conseguimos chegar a um consenso sobre a definição da consciência, é ainda mais difícil atribuí-la a programas que supostamente sabem "pensar" (na verdade, não sabem).
Provavelmente, a consciência aparecerá em máquinas em um futuro distante, mas hoje é difícil imaginar tal desenvolvimento.