Ein Mathematiker der NYU, der sagt, eines der OpenAI-Modelle habe seine unveröffentlichten Ergebnisse innerhalb eines Tages erreicht, nachdem es seinen Namen erfahren hatte, hält seine ursprünglichen Ideen nun aus den KI-Tools des Unternehmens heraus. OpenAI sagt, seine Prompts hätten das System nicht beeinflussen können.

Tristan Buckmaster warnte wenige Tage, nachdem OpenAI 722 von KI verfasste Mathematikarbeiten veröffentlicht hatte. Bei einem seiner Konten, sagte er, sei das Modelltraining standardmäßig noch aktiviert gewesen.

Was Buckmaster zufolge mit seiner unveröffentlichten Arbeit geschah

Buckmaster und Levent Alpöge, ein Mathematiker bei OpenAI-Konkurrent Anthropic, arbeiteten fast ein Jahr lang an einem Schritt in Richtung der Navier-Stokes-Gleichungen – einem Rätsel zur Strömungsmechanik, für dessen Lösung ein Preisgeld von 1 Million Dollar ausgelobt ist.

Buckmaster ließ die Arbeit mit Codex, dem Programmierassistenten von OpenAI, über ein kostenpflichtiges privates Konto bearbeiten. Ihre Entwürfe lagen auf den Servern von OpenAI.

Er sagte CNBC, OpenAI habe keine Fortschritte erzielt, bevor er seinen Namen preisgegeben habe. Danach hätten die Agenten des Unternehmens innerhalb eines Tages „genau den Stand erreicht, auf dem wir waren“.

Im September sagte Buckmaster, er beschuldige niemanden, berichtete BeInCrypto. Jetzt bezeichnet er den Zeitpunkt als verdächtig.

„Bevor sie meinen Namen kannten, hatten sie keine Fortschritte erzielt. Nachdem sie meinen Namen kannten, machten sie plötzlich dort weiter, wo wir aufgehört hatten … Ich finde das verdächtig“, sagte er.

Bevor OpenAI am 8. September seinen Navier-Stokes-Beweis bekannt gab, bot das Unternehmen ihm laut Buckmaster die alleinige Autorenschaft an, wenn er Alpöge fallen ließe. Er lehnte ab.

OpenAI bestreitet jeden Zusammenhang zwischen seinen Daten und seiner Arbeit.

„Wir können kategorisch sagen, dass es unmöglich ist, dass Dr. Buckmasters Codex-Eingaben der letzten zwei Monate das System in irgendeiner Weise beeinflusst haben, auch nicht durch Training“, berichtete ABC unter Berufung auf einen Sprecher von OpenAI.

Buckmaster sagte, dieser Zeitraum habe sich immer wieder verschoben. In einer späteren Erklärung des Unternehmens wurde der 3. Juli als Stichtag genannt.

Warum Buckmaster Forschern jetzt rät, ihre Ideen aus KI-Tools herauszuhalten

Buckmaster verwendet Codex weiterhin, gibt dort aber keine Ideen mehr ein, die er für sich behalten möchte.

Er sagte, Gutachter von Förderanträgen fügten Forschungsvorschläge oft in KI-Tools ein, um Zusammenfassungen zu verfassen, und gäben damit unveröffentlichte Pläne an KI-Unternehmen weiter.

OpenAIs Veröffentlichung im Oktober bezog sich auf 4.000 ungelöste Probleme. Buckmaster sagte, dadurch seien die Forschungsprogramme von Mathematikern am Anfang ihrer Laufbahn zunichtegemacht worden.

OpenAIs leitender Forscher Sébastien Bubeck sagte der New York Times, seine Angebote hätten Buckmaster helfen sollen.

Ein Sprecher sagte, OpenAI habe bei einem anderen der Probleme mit einem Preisgeld von einer Million Dollar „erhebliche Fortschritte“ erzielt.