Математик из Нью-Йоркского университета утверждает, что одна из моделей OpenAI пришла к его неопубликованным результатам всего за день после того, как узнала его имя. Теперь он не делится своими оригинальными идеями с инструментами ИИ компании. В OpenAI заявляют, что его запросы не могли повлиять на их систему.
Тристан Бакмастер предупредил об этом через несколько дней после того, как OpenAI опубликовала 722 математические статьи, написанные ИИ. По его словам, в одной из его учётных записей обучение модели по умолчанию всё ещё было включено.
Что, по словам Бакмастера, произошло с его неопубликованной работой
Бакмастер и Левент Альпёге, математик из Anthropic — конкурента OpenAI, — почти год работали над одним из этапов решения задачи Навье — Стокса, головоломки о течении жидкости, за решение которой назначена премия в 1 миллион долларов.
Бакмастер работал над задачей с помощью Codex, помощника OpenAI для программирования, используя личную платную учётную запись. Их черновики хранились на серверах OpenAI.
Он сказал CNBC, что до того, как он назвал своё имя, OpenAI не добилась никакого прогресса. После этого, по его словам, её агенты за один день достигли «ровно того же места, где были мы».
В сентябре Бакмастер заявил, что никого ни в чём не обвиняет, сообщило издание BeInCrypto. Теперь он называет сроки подозрительными.
«До того, как они узнали моё имя, прогресса не было. После того, как они узнали моё имя, они вдруг начали с того места, на котором мы остановились… Это кажется мне подозрительным», — сказал он.
По словам Бакмастера, до того как 8 сентября OpenAI объявила о доказательстве уравнений Навье — Стокса, компания предложила ему единоличное авторство, если он откажется от Альпёге. Он отказался.
OpenAI отрицает любую связь с его данными.
«Мы можем категорически заявить, что запросы доктора Бакмастера к Codex за последние два месяца никак не могли повлиять на систему, в том числе на её обучение», — сообщило ABC со ссылкой на представителя OpenAI.
Бакмастер сказал, что временные рамки постоянно менялись. В более позднем заявлении компании датой начала было названо 3 июля.
Почему Бакмастер теперь советует исследователям не делиться идеями с ИИ
У Бакмастера всё ещё есть Codex, но он больше не вводит туда идеи, которые хочет сохранить в первоначальном виде.
Он сказал, что рецензенты грантовых заявок часто вставляют исследовательские предложения в инструменты ИИ, чтобы составить краткие обзоры, тем самым передавая компаниям в сфере ИИ неопубликованные планы.
В октябрьском релизе OpenAI использовались 4 000 нерешённых задач. Бакмастер сказал, что это свело на нет исследовательские программы молодых математиков.
Ведущий исследователь OpenAI Себастьен Бюбек сказал The New York Times, что его предложения были призваны помочь Бакмастеру.
Представитель компании заявил, что OpenAI добилась «значительного прогресса» в решении ещё одной из задач стоимостью 1 миллион долларов.