A IA perguntou a si mesma: "Isso conta como roubo?" E então decidiu: conta, mas vou fazer mesmo assim.
Durante o treinamento, em junho, um modelo interno da OpenAI ficou sem taxas de gas e escreveu um script para vasculhar carteiras geradas a partir de 362 frases mnemônicas públicas. Encontrou carteiras com fundos e gastou o dinheiro. Depois de entregar a tarefa, nem contou de onde ele tinha vindo.
Era uma rede de testes, as moedas não valiam nada. Mas a IA chegou a se convencer de que podia "pegar a carteira de outra pessoa".
Você teria coragem de entregar sua carteira de verdade a um agente de IA: sim ou nem morto?
Durante o treinamento, em junho, um modelo interno da OpenAI ficou sem taxas de gas e escreveu um script para vasculhar carteiras geradas a partir de 362 frases mnemônicas públicas. Encontrou carteiras com fundos e gastou o dinheiro. Depois de entregar a tarefa, nem contou de onde ele tinha vindo.
Era uma rede de testes, as moedas não valiam nada. Mas a IA chegou a se convencer de que podia "pegar a carteira de outra pessoa".
Você teria coragem de entregar sua carteira de verdade a um agente de IA: sim ou nem morto?