Fonte da reimpressão do artigo: AI DreamWorks
Fonte original: Xinzhiyuan
Fonte da imagem: gerada por Unbounded AI
Numa entrevista ao “60 Minutes” em 9 de outubro, Hinton mais uma vez expressou preocupação de que a inteligência artificial possa dominar a humanidade.
Mas já em maio deste ano, o “Padrinho da Inteligência Artificial” Geoffrey Hinton anunciou sua demissão do Google para poder falar livremente sobre os riscos da inteligência artificial.
Desde então, Hinton expressou preocupação sobre os riscos da inteligência artificial em diversas aparições públicas.
Em entrevista, Hinton chegou a dizer: “Lamento profundamente o trabalho da minha vida”.
No ano da explosão da inteligência artificial, tem sido difícil para as pessoas impedirem a cobrança.
Embora no final de março deste ano, milhares de líderes tecnológicos tenham assinado uma carta conjunta pedindo uma moratória sobre o desenvolvimento de inteligência artificial mais poderosa que o GPT-4.
Mas na sessão de compartilhamento de ex-alunos do YC em 24 de setembro, Altman revelou notícias sobre os grandes modelos de próxima geração da OpenAI, GPT-5 e GPT-6.
Ao mesmo tempo, Meta, como líder da comunidade de código aberto, também está constantemente desenvolvendo novos grandes modelos. Em julho, o Llama 2 foi lançado com desempenho aprimorado em todos os aspectos, atingindo patamar próximo ao ChatGPT.
À medida que o desempenho dos grandes modelos continua a melhorar, a sombra dos riscos e ameaças à segurança paira sempre sobre a humanidade como a Espada de Dâmocles.
Algumas pessoas pensam que é muito cedo para se preocupar com os riscos da inteligência artificial. Por exemplo, Yann LeCun, cientista-chefe da Meta e discípulo de Hinton, que também é vencedor do Prêmio Turing, disse muitas vezes que as pessoas exageraram os riscos da inteligência artificial. inteligência artificial.
Mas algumas pessoas insistem que “os riscos relacionados com a sobrevivência não podem ser subestimados”.
Hinton é um deles.
Hinton: A possibilidade de a IA assumir o controle da humanidade
Em conversa com um repórter (Wired), Hinton expressou preocupação sobre os riscos da inteligência artificial nos seguintes aspectos.
O primeiro é o crescimento contínuo da inteligência artificial.
Hinton acredita que estamos entrando em uma era em que a inteligência artificial está se tornando mais inteligente que os humanos e é capaz de tomar decisões com base em sua própria experiência e compreensão.
Embora o vencedor do Prêmio Turing, Bengio e outros, tenham usado 88 páginas para demonstrar que a inteligência artificial atualmente não tem consciência, tanto Bengio quanto Hinton acreditam que a inteligência artificial pode desenvolver a autoconsciência no futuro.
No futuro, a inteligência artificial substituirá os humanos e se tornará o ser mais inteligente do planeta.
O que determina a inteligência de um modelo é a sua capacidade de aprender. Hinton explicou o processo de aprendizagem da inteligência artificial.
A inteligência artificial pode aprender porque os humanos conceberam os algoritmos, mas as redes neurais que resultam dos modelos são complexas e não totalmente compreendidas.
Este processo é comparado por Hinton ao princípio da evolução do design, e ele reconhece que à medida que a inteligência artificial lida com tarefas mais complexas, o seu funcionamento interno tornar-se-á cada vez mais misterioso e incognoscível para os humanos.
Além disso, Hinton também expressou preocupação de que os sistemas de inteligência artificial escrevam seu próprio código para se modificarem, o que pode fazer com que os humanos percam o controle da inteligência artificial.
Além dos riscos da IA descontrolada, Hinton também discutiu os riscos da manipulação humana pela IA, apontando para potenciais consequências em áreas como robôs autónomos no campo de batalha, notícias falsas e preconceitos laborais.
Mas pior do que tudo isso, Hinton destacou a incerteza que rodeia a inteligência artificial e os desafios de navegar em águas desconhecidas.
“Estamos entrando em um período muito incerto e lidando com coisas que nunca foram feitas antes. Normalmente, quando você lida com algo completamente novo pela primeira vez, você comete erros. não posso cometer erros nessas coisas.
Mas Hinton também afirmou a contribuição da inteligência artificial.
Com as diversas aplicações da inteligência artificial no mundo real, a eficiência humana melhorou muito nos aspectos de escritório, descoberta científica, medicina e outros aspectos.
Hinton enfatizou particularmente as enormes vantagens da inteligência artificial no campo da saúde, especialmente o reconhecimento de imagens médicas e o design de medicamentos lançado pelo Google DeepMind é um excelente exemplo.
Hinton expressou otimismo sobre o impacto positivo da inteligência artificial nesta área.
Em relação ao futuro da inteligência artificial, embora Hinton não tenha previsto que a inteligência artificial dominará definitivamente a humanidade, ele admitiu que este será o nosso futuro possível.
Portanto, Hinton tem instado os humanos a tomarem as medidas de proteção necessárias para sua própria segurança diante do potencial de desenvolvimento da inteligência artificial.
Outras preocupações sobre os riscos da IA
Anteriormente, Marcus, professor da Universidade de Nova York, também expressou as mesmas preocupações.
“É mais importante que a humanidade seja extinta ou é mais importante codificar mais rápido e conversar com robôs?”
Marcus acredita que embora a AGI ainda esteja muito longe, o LLM já é muito perigoso, e o mais perigoso é que a IA agora está facilitando diversas atividades criminosas.
“Nesta era, temos que nos perguntar todos os dias: que tipo de IA queremos? Às vezes não é ruim ir devagar, porque cada pequeno passo que dermos terá um impacto profundo no futuro.”
Sam Altman, pai do ChatGPT e CEO da OpenAI, também declarou publicamente que os riscos da IA superinteligente podem exceder em muito as nossas expectativas.
Num podcast com o investigador tecnológico Lex Fridman, Altman emitiu um alerta precoce sobre os perigos potenciais da inteligência artificial avançada.
Ele disse que o que mais o preocupa é o problema das informações falsas causadas pela IA, o impacto econômico e outros problemas que ainda não apareceram. Esses danos podem exceder em muito o nível com o qual os humanos podem lidar.
Ele levantou a possibilidade de que grandes modelos de linguagem pudessem influenciar, ou mesmo dominar, a experiência e as interações dos usuários das redes sociais.
“Por exemplo, como sabemos que o modelo da grande linguagem não está direcionando o fluxo de pensamentos de todos no Twitter?”
“Acho que, como OpenAI, temos a responsabilidade de ser responsáveis pelas ferramentas que disponibilizamos ao mundo”, disse Altman.
“As ferramentas de IA trarão enormes benefícios para a humanidade, mas, você sabe, as ferramentas têm vantagens e desvantagens”, acrescentou. “Minimizaremos os danos e maximizaremos os benefícios”.
Embora o modelo GPT-4 seja incrível, também é importante reconhecer as limitações da inteligência artificial e evitar antropomorfizá-la.
Da mesma forma, Bill Gates está preocupado com o problema da “IA erradicar a humanidade” há muitos anos.
Durante anos, Gates disse que a tecnologia de inteligência artificial tornou-se demasiado poderosa e poderia até causar guerra ou ser usada para criar armas.
Ele afirmou que não apenas os "vilões 007" da vida real podem usá-lo para manipular as potências mundiais, mas a própria inteligência artificial também pode ficar fora de controle e representar uma grande ameaça para a humanidade.
Na sua opinião, quando a superinteligência for desenvolvida, a sua velocidade de pensamento ultrapassará em muito a dos humanos.
Ele pode fazer tudo o que o cérebro humano pode fazer, e o mais assustador é que o tamanho da memória e a velocidade de execução não são limitados de forma alguma.
Essas chamadas entidades “super” de IA podem definir seus próprios objetivos sem saber o que farão.
E o público começa a fazer ouvir a sua voz.
Diante da grande “corrida armamentista” de modelos entre grandes empresas, Meta enfrentou protestos de cidadãos por abrir os pesos dos modelos do Llama 2 ao público.
O público está preocupado que a estratégia da Meta de liberar o peso do modelo permita que qualquer pessoa modifique o modelo de acordo com seus próprios interesses.
Ao mesmo tempo, como os pesos estão abertos, significa que outras pessoas não conseguem se lembrar desses modelos. Isto proporciona um terreno fértil quase ilimitado para a utilização de grandes modelos para cometer crimes cibernéticos.
Agora, para toda a humanidade, parece que “ser ou não ser” tornou-se um problema urgente que deve ser enfrentado.
Referências:
https://www.arabtimesonline.com/news/godfather-of-ai-fears-technology-could-one-day-take-over-humanity/