As empresas de IA estão fazendo algo inesperado: convidando líderes religiosos e teólogos para estudar juntos como ajudar a IA a distinguir o certo do errado.
Segundo uma reportagem recente da Associated Press (AP), a Anthropic já conversou com mais de 15 grupos religiosos e interculturais, na esperança de encontrar respostas para as questões éticas da IA nas tradições de pensamento que a humanidade acumulou ao longo de milhares de anos.
Em maio deste ano, o cofundador da Anthropic, Christopher Olah, foi pessoalmente ao Vaticano para participar do evento de apresentação da encíclica sobre inteligência artificial do papa Leão XIV.
Ele acredita que as questões trazidas pela IA já ultrapassam o campo de especialização dos cientistas da computação e exigem a participação conjunta de grupos religiosos, acadêmicos e diversos setores da sociedade.
E as conversas entre a Anthropic e estudiosos da religião também levantaram várias questões surpreendentes.
Por exemplo:
• Os seres humanos têm alma?
• Alunos do terceiro ano do ensino fundamental deveriam usar chatbots de IA?
• Como a IA deveria compreender a moralidade, o bem e o mal?
• As ideias de diferentes religiões podem ajudar a IA a tomar decisões melhores?
Meghan Sullivan, filósofa da Universidade de Notre Dame que participou das conversas, afirmou que a iniciativa da Anthropic não se limita a ouvir opiniões: ela permite que os acadêmicos entendam como os modelos funcionam e, em seguida, discutam a fundo as questões éticas trazidas pela tecnologia.
Além da Anthropic, representantes da Meta, do Google e da Amazon também já conversaram com o Vaticano, e a Microsoft igualmente tem buscado contato ativo com grupos religiosos.
No entanto, essa abordagem também gerou novas controvérsias.
Alguns acadêmicos temem que, se as empresas de IA simplesmente combinarem os valores de diferentes religiões em um conjunto de regras universais, acabem apagando diferenças importantes entre as tradições religiosas.
Esse episódio reflete como o desenvolvimento da IA está entrando em uma nova fase.
No passado, as empresas de tecnologia se preocupavam principalmente em tornar os modelos mais poderosos e precisos.
Agora, também precisam enfrentar uma pergunta mais difícil de responder:
Quando a IA começar a participar de decisões importantes na vida humana, quem deverá decidir quais serão os seus valores?
Segundo uma reportagem recente da Associated Press (AP), a Anthropic já conversou com mais de 15 grupos religiosos e interculturais, na esperança de encontrar respostas para as questões éticas da IA nas tradições de pensamento que a humanidade acumulou ao longo de milhares de anos.
Em maio deste ano, o cofundador da Anthropic, Christopher Olah, foi pessoalmente ao Vaticano para participar do evento de apresentação da encíclica sobre inteligência artificial do papa Leão XIV.
Ele acredita que as questões trazidas pela IA já ultrapassam o campo de especialização dos cientistas da computação e exigem a participação conjunta de grupos religiosos, acadêmicos e diversos setores da sociedade.
E as conversas entre a Anthropic e estudiosos da religião também levantaram várias questões surpreendentes.
Por exemplo:
• Os seres humanos têm alma?
• Alunos do terceiro ano do ensino fundamental deveriam usar chatbots de IA?
• Como a IA deveria compreender a moralidade, o bem e o mal?
• As ideias de diferentes religiões podem ajudar a IA a tomar decisões melhores?
Meghan Sullivan, filósofa da Universidade de Notre Dame que participou das conversas, afirmou que a iniciativa da Anthropic não se limita a ouvir opiniões: ela permite que os acadêmicos entendam como os modelos funcionam e, em seguida, discutam a fundo as questões éticas trazidas pela tecnologia.
Além da Anthropic, representantes da Meta, do Google e da Amazon também já conversaram com o Vaticano, e a Microsoft igualmente tem buscado contato ativo com grupos religiosos.
No entanto, essa abordagem também gerou novas controvérsias.
Alguns acadêmicos temem que, se as empresas de IA simplesmente combinarem os valores de diferentes religiões em um conjunto de regras universais, acabem apagando diferenças importantes entre as tradições religiosas.
Esse episódio reflete como o desenvolvimento da IA está entrando em uma nova fase.
No passado, as empresas de tecnologia se preocupavam principalmente em tornar os modelos mais poderosos e precisos.
Agora, também precisam enfrentar uma pergunta mais difícil de responder:
Quando a IA começar a participar de decisões importantes na vida humana, quem deverá decidir quais serão os seus valores?
