Plus de 3 000 mathématiciens ont signé la Déclaration de Leiden le mois dernier après que Terence Tao a averti que l’IA progresse plus vite que ce que le domaine admet, un moment charnière pour une profession dont le cœur du travail est désormais en voie de se rapprocher.
La déclaration fait suite à une apparition le 24 juillet à Philadelphie, au cours de laquelle Tao, largement considéré comme la figure la plus éminente et vivante du domaine, a déclaré à des collègues qu’ils sous-estiment la vitesse de l’avancée de l’IA, d’après Scientific American. « Nous ne faisons pas quelque chose de durable », a déclaré Tao. « L’IA va devenir extrêmement performante, et extrêmement rapidement. »
À lire aussi : Un chercheur d’Anthropic met en garde contre les risques dangereux de l’IA et cite des chances d’extinction de 10 %
Par ailleurs, Charles Hoskinson, fondateur de Cardano, a déclaré que les grands modèles de langage avaient dépassé ses propres attentes en matière de raisonnement mathématique, tout en signalant des risques de propriété intellectuelle liés à la façon dont ces modèles sont entraînés et déployés, selon BigGo.
Un domaine qui réévalue sa propre valeur
L’avertissement de Tao arrive au moment où les modèles d’IA prennent de plus en plus en charge la vérification des preuves et la découverte de motifs, des tâches longtemps considérées comme le territoire exclusif de mathématiciens formés. L’inquiétude exprimée lors du rassemblement de Philadelphie n’était pas que l’IA remplacerait purement et simplement les mathématiciens, mais que le domaine risque de perdre ses repères s’il considère les progrès rapides des capacités comme une hypothèse lointaine plutôt que comme une réalité à court terme.
Le risque lié à la propriété intellectuelle entre dans la conversation crypto
Les remarques de Hoskinson ajoutent une seconde dimension au débat. Ses inquiétudes concernant la propriété intellectuelle soulignent des questions encore sans réponse sur la personne qui possède les informations mathématiques générées par des systèmes d’IA entraînés à partir de recherches publiques et privées : une question directement liée à l’utilisation, par Cardano, de méthodes de vérification formelle dans le développement de la blockchain.
Que devient la Déclaration de Leyde par la suite ?
Nature a publié des recommandations invitant les mathématiciens à agir rapidement pour atténuer l’impact de l’IA sur le domaine, signalant que la Déclaration de Leyde n’est qu’un mouvement de départ plutôt qu’un cadre déjà établi.
À lire ensuite : Un chercheur d’Anthropic met en garde contre les risques dangereux de l’IA et cite des chances d’extinction de 10 %