Le 15 septembre, #扎克伯格 publie sur X pour réfuter l’avertissement sur l’extinction par l’IA, et affirme clairement ne pas être d’accord avec l’idée d’ajouter de nouvelles règles de régulation obligatoires.
Son point de vue est très direct : la concurrence du secteur pousse déjà le laboratoire #Aİ à renforcer la maîtrise de la sécurité, sans attendre que la réglementation intervienne. Les utilisateurs n’accepteront pas une IA qui n’obéit pas aux consignes ; ainsi, les fabricants ont naturellement intérêt à aligner correctement leurs modèles. La confiance est la chose la plus précieuse pour l’industrie.
小扎 donne aussi l’exemple de Meta : son assistant personnel Muse reporte volontairement le lancement, ce qui relève d’une gestion proactive des risques ; et son laboratoire d’ultra-intelligence fait également appel à des intervenants externes indépendants pour réaliser des audits. En outre, Meta consacre l’essentiel de sa puissance de calcul au service des utilisateurs, plutôt qu’à l’itération interne du modèle en boucle. De la conception de base, la sécurité est assurée.
Plus tôt, en août, il avait déjà dit que le pouvoir de l’IA devait être confié au grand public, et non entre les mains de quelques grandes entreprises. Ce grand débat sur la sécurité de l’IA continue encore, et les positions s’entrechoquent 🔥