Một nhà toán học tại NYU cho biết một trong các mô hình của OpenAI đã đưa ra những kết quả chưa công bố của ông chỉ trong vòng một ngày sau khi biết tên ông. Giờ đây, ông không còn đưa những ý tưởng ban đầu của mình vào các công cụ AI của công ty. OpenAI nói rằng các câu lệnh của ông không thể định hình hệ thống của họ.
Tristan Buckmaster đưa ra lời cảnh báo vài ngày sau khi OpenAI công bố 722 bài nghiên cứu toán học do AI viết. Ông cho biết một trong các tài khoản của mình vẫn để mặc định bật tính năng huấn luyện mô hình.
Buckmaster nói điều gì đã xảy ra với công trình chưa công bố của ông
Buckmaster và Levent Alpöge, một nhà toán học tại Anthropic, đối thủ của OpenAI, đã dành gần một năm để nghiên cứu một bước tiến hướng tới lời giải cho bài toán Navier–Stokes, một câu đố về dòng chảy chất lưu có giải thưởng trị giá 1 triệu đô la.
Buckmaster xử lý công trình qua Codex, trợ lý lập trình của OpenAI, bằng tài khoản cá nhân trả phí. Các bản thảo của họ được lưu trên máy chủ của OpenAI.
Ông nói với CNBC rằng OpenAI chưa đạt được tiến triển nào trước khi ông tiết lộ tên mình. Sau đó, ông cho biết, các tác nhân của công ty đã đạt đến “đúng nơi chúng tôi đang ở” chỉ trong vòng một ngày.
BeInCrypto đưa tin, vào tháng 9, Buckmaster nói rằng ông không cáo buộc ai cả. Giờ đây, ông cho rằng thời điểm đó đáng ngờ.
Ông nói: “Trước khi biết tên tôi, họ chẳng đạt được tiến triển nào. Sau khi biết tên tôi, họ đột nhiên bắt đầu từ đúng chỗ chúng tôi đã dừng lại… Tôi thấy điều đó đáng ngờ.”
Buckmaster cho biết, trước khi OpenAI công bố chứng minh Navier-Stokes vào ngày 8 tháng 9, công ty đề nghị để ông đứng tên tác giả duy nhất nếu ông bỏ tên Alpöge. Ông từ chối.
OpenAI phủ nhận mọi mối liên hệ với dữ liệu của ông.
ABC dẫn lời người phát ngôn của OpenAI: “Chúng tôi có thể khẳng định dứt khoát rằng các câu lệnh Buckmaster nhập vào Codex trong hai tháng qua không thể tác động đến hệ thống theo bất kỳ cách nào, kể cả thông qua quá trình huấn luyện.”
Buckmaster nói rằng khoảng thời gian đó liên tục thay đổi. Một tuyên bố sau đó của công ty xác định ngày bắt đầu là 3 tháng 7.
Vì sao giờ đây Buckmaster khuyên các nhà nghiên cứu đừng đưa ý tưởng vào AI
Buckmaster vẫn dùng Codex, nhưng không còn nhập những ý tưởng ông muốn giữ nguyên bản.
Ông nói rằng những người xét duyệt hồ sơ xin tài trợ thường dán các đề xuất nghiên cứu vào công cụ AI để viết tóm tắt, qua đó trao các kế hoạch chưa công bố cho những công ty AI.
Bản phát hành tháng 10 của OpenAI dựa trên 4.000 bài toán chưa được giải. Buckmaster nói rằng nó đã xóa sổ các chương trình nghiên cứu của những nhà toán học mới vào nghề.
Nhà nghiên cứu trưởng của OpenAI, Sébastien Bubeck, nói với The New York Times rằng những lời đề nghị của ông nhằm giúp Buckmaster.
Người phát ngôn cho biết OpenAI đã đạt được “tiến triển đáng kể” trong một bài toán khác thuộc nhóm bài toán trị giá 1 triệu đô la.