$WLD ¿CREN QUE #Worldcoin NOS AYUDE A COMBATIR TODO ESTO Y NUESTRA ENTIDAD COMO HUMANOS..?
🚨 ¿ET SI LES CRÉATEURS MÊMES DE L’IA COMMENÇAIENT À AVOIR PEUR ?
Un chercheur en intelligence artificielle a démissionné de son poste après avoir averti que le développement accéléré de systèmes de plus en plus puissants pourrait devenir un risque grave pour l’humanité. Sommes-nous face à un signal d’alarme que le monde devrait prendre au sérieux ?
L’affaire qui suscite des inquiétudes est celle de Jacob Coxon, chercheur qui a travaillé pendant environ trois ans chez Anthropic et OpenAI. Coxon a annoncé sa démission d’Anthropic et a expliqué qu’il avait pris cette décision en raison de ses préoccupations concernant la vitesse à laquelle l’intelligence artificielle se développe et le manque de garanties suffisantes face à ses risques potentiels.
AP News +
Coxon soutient qu’il existe une course entre les principales entreprises d’IA pour développer des systèmes toujours plus avancés et que, selon lui, la concurrence pourrait faire en sorte que la sécurité n’avance pas au même rythme. Il s’est également dit préoccupé par le développement de systèmes capables d’améliorer leurs propres capacités.
WIRED +1
Mais il y a une donnée encore plus marquante :
Evan Hubinger, chercheur en alignement chez Anthropic et ancien responsable de Coxon, a déclaré qu’il estime personnellement qu’il existe une probabilité supérieure à 10 % que l’intelligence artificielle provoque une catastrophe qui mettra fin à l’humanité au cours de la prochaine décennie. Ce chiffre est une estimation personnelle, pas une prédiction scientifique démontrée ni un fait établi. �
🚨 ¿ET SI LES CRÉATEURS MÊMES DE L’IA COMMENÇAIENT À AVOIR PEUR ?
Un chercheur en intelligence artificielle a démissionné de son poste après avoir averti que le développement accéléré de systèmes de plus en plus puissants pourrait devenir un risque grave pour l’humanité. Sommes-nous face à un signal d’alarme que le monde devrait prendre au sérieux ?
L’affaire qui suscite des inquiétudes est celle de Jacob Coxon, chercheur qui a travaillé pendant environ trois ans chez Anthropic et OpenAI. Coxon a annoncé sa démission d’Anthropic et a expliqué qu’il avait pris cette décision en raison de ses préoccupations concernant la vitesse à laquelle l’intelligence artificielle se développe et le manque de garanties suffisantes face à ses risques potentiels.
AP News +
Coxon soutient qu’il existe une course entre les principales entreprises d’IA pour développer des systèmes toujours plus avancés et que, selon lui, la concurrence pourrait faire en sorte que la sécurité n’avance pas au même rythme. Il s’est également dit préoccupé par le développement de systèmes capables d’améliorer leurs propres capacités.
WIRED +1
Mais il y a une donnée encore plus marquante :
Evan Hubinger, chercheur en alignement chez Anthropic et ancien responsable de Coxon, a déclaré qu’il estime personnellement qu’il existe une probabilité supérieure à 10 % que l’intelligence artificielle provoque une catastrophe qui mettra fin à l’humanité au cours de la prochaine décennie. Ce chiffre est une estimation personnelle, pas une prédiction scientifique démontrée ni un fait établi. �
