Выступление Терренса Тао «Математика 2.0»: ИИ делает доказательства изобилием, а слепая погоня за решением задач вредит математике
9 октября математик Терренс Тао прочитал публичную лекцию в Калифорнийском технологическом институте. Изначально она должна была называться «Машинные доказательства», но в итоге получила название «Математика 2.0». В опубликованном на его личном сайте тексте лекции Тао отмечает, что математика вступает в эпоху «избытка доказательств». Существовавшая прежде система оценки, в центре которой было решение задач, перестала соответствовать долгосрочным целям математики. «Продолжать слепо гнаться только за решением задач теперь вредно для долгосрочного здоровья математики». Лекция входила в цикл публичных лекций Американского института математики (AIM). Тао написал на своём сайте, что в дальнейшем будет использовать название «Математика 2.0», а видеозапись лекции и её расшифровка будут опубликованы позднее.
От «дефицита доказательств» к их «избытку»
Традиционную математику Тао называет «математикой 1.0» и считает, что она основана на предпосылке о «дефиците доказательств»: решить открытую задачу и доказать правильность решения всегда было трудно и удавалось немногим. Для этого, как правило, требовались обширные специальные знания, и многие институты, традиции и системы вознаграждений в математическом сообществе сформировались вокруг этой предпосылки.
По мнению Тао, у математических доказательств есть три особенности, благодаря которым они особенно хорошо подходят для обработки методами машинного обучения. Во-первых, доказательства можно объективно проверить — например, поручить их компьютеру с помощью языка формализации доказательств Lean. Во-вторых, доказательства в высокой степени цифровизированы: для них не нужны физические эксперименты или данные из реального мира. В-третьих, значительная часть исследовательской литературы уже переведена в цифровой формат. Поэтому передовые лаборатории ИИ в первую очередь взялись за развитие способности решать математические задачи. «Результатом этих масштабных инвестиций стало то, что мы вступаем в эпоху избытка математических доказательств», — пишет Тао.
Он отмечает, что при наличии достаточных вычислительных ресурсов и передовых моделей теперь удаётся за сравнительно короткое время решать многие открытые задачи, которые раньше считались трудными. При этом человеку, формулирующему запрос, всё чаще не нужны специальные знания в соответствующей области. В то же время ИИ пока плохо справляется с задачами, требующими субъективных суждений, взаимодействия с реальным миром или работы в условиях нехватки данных. Тао описывает способности ИИ как крайне «неравномерные».
Бум решения задач ИИ и ошибка выжившего
В тексте лекции Тао поместил изображение бомбардировщика времён Второй мировой войны с отметинами от пуль и подписью: «Ух ты, все математические задачи, которые я вижу в соцсетях, ИИ уже решил!» Так он использовал ошибку выжившего, чтобы показать: публика видит только успешные примеры. По словам Тао, хотя пресс-релизы и соцсети создают такое впечатление, большинство передовых задач остаются нерешёнными, даже несмотря на огромные затраты вычислительных ресурсов, а о неудачных попытках ИИ сообщают редко.
Он призывает оценивать возможности ИИ более прозрачно и научно, полностью раскрывая ключевые данные, в том числе затраты ресурсов и отрицательные результаты. В качестве примера Тао приводит First Proof — проект независимой оценки математических способностей ИИ.
Открытые задачи — маяки, а не конечная цель
Тао считает, что решение задач, хотя и остаётся самой заметной целью математических исследований, на деле служит лишь «замещающим показателем» более ценных долгосрочных целей. В чистой математике открытые задачи скорее похожи на «маяки», которые направляют математиков к исследованию смежных областей. Знания, полученные в ходе этой работы, часто ценнее конечного ответа — независимо от того, увенчалась ли она успехом, закончилась неудачей или привела лишь к частичному прогрессу. Если автоматизированные инструменты слишком быстро достигнут этих маяков, они могут прервать исследование ещё не пройденных путей и «оставить окрестные области пустынными».
Тао также предлагает мысленный эксперимент. Представим, что кто-то просит ИИ «найти метод лечения рака, который пройдёт третью фазу клинических испытаний». Потратив огромные вычислительные ресурсы, ИИ находит невиданную ранее комбинацию химических препаратов. Математическая модель предсказывает, что она уничтожит раковые клетки; это предсказание проверено с помощью Lean, а лечение в итоге действительно проходит третью фазу испытаний. Но никто не знает, как была найдена эта формула. Тао задаётся вопросом: не воспользовался ли этот ответ лазейкой в процедуре испытаний? «Прежде чем вводить эту комбинацию препаратов в ваши вены, не захотели бы вы, чтобы хотя бы один специалист по раку понял механизм действия этого метода лечения?»
Открытая математическая модель появится «скоро»
Тао считает, что цель «математики 2.0» — использовать ИИ для углубления человеческого понимания на каждом этапе математической работы, а не просто для создания доказательств. Среди предложенных им подходов — поиск более понятных объяснений теорем, доказательства которых трудно понять; объединение большого числа научных статей в постоянно обновляемую сеть; создание крупных баз данных формализованной математики, таких как Mathlib; а также проведение «абляционных исследований» — удаление важного условия и проверка того, остаётся ли доказанная теорема верной.
Он также говорит о разработке открытых математических моделей, предназначенных для решения математических задач и обладающих высокой объяснимостью и безопасностью. «Некоторые открытые математические модели выйдут в ближайшее время — следите за новостями», — пишет Тао, не уточняя, какая команда и когда их выпустит. На последней странице текста лекции сказано, что главное препятствие на пути к математике 2.0 — не технологии и даже не институциональная культура, «а воображение».
Тао был одним из первых подписантов заявления, опубликованного 11 сентября и подписанного 25 лауреатами Филдсовской премии. В нём также критикуются соревнование компаний в области ИИ за решение задач и несоответствие их целей задачам математического сообщества. Упомянутое в тексте лекции мероприятие Mathathon в Калифорнийском технологическом институте пройдёт с 13 по 15 ноября. Его организуют студенты; участники будут использовать открытые инструменты ИИ, чтобы найти новые доказательства или объяснения теорем, существующие доказательства которых недостаточно убедительны.
Эта статья «Выступление Терренса Тао „Математика 2.0“: ИИ делает доказательства изобилием, а слепая погоня за решением задач вредит математике» впервые появилась на .
9 октября математик Терренс Тао прочитал публичную лекцию в Калифорнийском технологическом институте. Изначально она должна была называться «Машинные доказательства», но в итоге получила название «Математика 2.0». В опубликованном на его личном сайте тексте лекции Тао отмечает, что математика вступает в эпоху «избытка доказательств». Существовавшая прежде система оценки, в центре которой было решение задач, перестала соответствовать долгосрочным целям математики. «Продолжать слепо гнаться только за решением задач теперь вредно для долгосрочного здоровья математики». Лекция входила в цикл публичных лекций Американского института математики (AIM). Тао написал на своём сайте, что в дальнейшем будет использовать название «Математика 2.0», а видеозапись лекции и её расшифровка будут опубликованы позднее.
От «дефицита доказательств» к их «избытку»
Традиционную математику Тао называет «математикой 1.0» и считает, что она основана на предпосылке о «дефиците доказательств»: решить открытую задачу и доказать правильность решения всегда было трудно и удавалось немногим. Для этого, как правило, требовались обширные специальные знания, и многие институты, традиции и системы вознаграждений в математическом сообществе сформировались вокруг этой предпосылки.
По мнению Тао, у математических доказательств есть три особенности, благодаря которым они особенно хорошо подходят для обработки методами машинного обучения. Во-первых, доказательства можно объективно проверить — например, поручить их компьютеру с помощью языка формализации доказательств Lean. Во-вторых, доказательства в высокой степени цифровизированы: для них не нужны физические эксперименты или данные из реального мира. В-третьих, значительная часть исследовательской литературы уже переведена в цифровой формат. Поэтому передовые лаборатории ИИ в первую очередь взялись за развитие способности решать математические задачи. «Результатом этих масштабных инвестиций стало то, что мы вступаем в эпоху избытка математических доказательств», — пишет Тао.
Он отмечает, что при наличии достаточных вычислительных ресурсов и передовых моделей теперь удаётся за сравнительно короткое время решать многие открытые задачи, которые раньше считались трудными. При этом человеку, формулирующему запрос, всё чаще не нужны специальные знания в соответствующей области. В то же время ИИ пока плохо справляется с задачами, требующими субъективных суждений, взаимодействия с реальным миром или работы в условиях нехватки данных. Тао описывает способности ИИ как крайне «неравномерные».
Бум решения задач ИИ и ошибка выжившего
В тексте лекции Тао поместил изображение бомбардировщика времён Второй мировой войны с отметинами от пуль и подписью: «Ух ты, все математические задачи, которые я вижу в соцсетях, ИИ уже решил!» Так он использовал ошибку выжившего, чтобы показать: публика видит только успешные примеры. По словам Тао, хотя пресс-релизы и соцсети создают такое впечатление, большинство передовых задач остаются нерешёнными, даже несмотря на огромные затраты вычислительных ресурсов, а о неудачных попытках ИИ сообщают редко.
Он призывает оценивать возможности ИИ более прозрачно и научно, полностью раскрывая ключевые данные, в том числе затраты ресурсов и отрицательные результаты. В качестве примера Тао приводит First Proof — проект независимой оценки математических способностей ИИ.
Открытые задачи — маяки, а не конечная цель
Тао считает, что решение задач, хотя и остаётся самой заметной целью математических исследований, на деле служит лишь «замещающим показателем» более ценных долгосрочных целей. В чистой математике открытые задачи скорее похожи на «маяки», которые направляют математиков к исследованию смежных областей. Знания, полученные в ходе этой работы, часто ценнее конечного ответа — независимо от того, увенчалась ли она успехом, закончилась неудачей или привела лишь к частичному прогрессу. Если автоматизированные инструменты слишком быстро достигнут этих маяков, они могут прервать исследование ещё не пройденных путей и «оставить окрестные области пустынными».
Тао также предлагает мысленный эксперимент. Представим, что кто-то просит ИИ «найти метод лечения рака, который пройдёт третью фазу клинических испытаний». Потратив огромные вычислительные ресурсы, ИИ находит невиданную ранее комбинацию химических препаратов. Математическая модель предсказывает, что она уничтожит раковые клетки; это предсказание проверено с помощью Lean, а лечение в итоге действительно проходит третью фазу испытаний. Но никто не знает, как была найдена эта формула. Тао задаётся вопросом: не воспользовался ли этот ответ лазейкой в процедуре испытаний? «Прежде чем вводить эту комбинацию препаратов в ваши вены, не захотели бы вы, чтобы хотя бы один специалист по раку понял механизм действия этого метода лечения?»
Открытая математическая модель появится «скоро»
Тао считает, что цель «математики 2.0» — использовать ИИ для углубления человеческого понимания на каждом этапе математической работы, а не просто для создания доказательств. Среди предложенных им подходов — поиск более понятных объяснений теорем, доказательства которых трудно понять; объединение большого числа научных статей в постоянно обновляемую сеть; создание крупных баз данных формализованной математики, таких как Mathlib; а также проведение «абляционных исследований» — удаление важного условия и проверка того, остаётся ли доказанная теорема верной.
Он также говорит о разработке открытых математических моделей, предназначенных для решения математических задач и обладающих высокой объяснимостью и безопасностью. «Некоторые открытые математические модели выйдут в ближайшее время — следите за новостями», — пишет Тао, не уточняя, какая команда и когда их выпустит. На последней странице текста лекции сказано, что главное препятствие на пути к математике 2.0 — не технологии и даже не институциональная культура, «а воображение».
Тао был одним из первых подписантов заявления, опубликованного 11 сентября и подписанного 25 лауреатами Филдсовской премии. В нём также критикуются соревнование компаний в области ИИ за решение задач и несоответствие их целей задачам математического сообщества. Упомянутое в тексте лекции мероприятие Mathathon в Калифорнийском технологическом институте пройдёт с 13 по 15 ноября. Его организуют студенты; участники будут использовать открытые инструменты ИИ, чтобы найти новые доказательства или объяснения теорем, существующие доказательства которых недостаточно убедительны.
Эта статья «Выступление Терренса Тао „Математика 2.0“: ИИ делает доказательства изобилием, а слепая погоня за решением задач вредит математике» впервые появилась на .