Các nhà nghiên cứu AI tại Stanford và Đại học Washington được cho là đã thực hiện được điều mà không ai nghĩ là có thể - họ đã xây dựng một mô hình AI có tên là s1 với chi phí dưới 50 đô la tiền tín dụng điện toán đám mây, theo một báo cáo nghiên cứu được công bố hôm thứ Hai.

Theo các tiêu chuẩn về toán học và kiểm tra mã hóa, mô hình s1 được báo cáo là có hiệu suất ngang bằng với các mô hình lý luận hàng đầu, bao gồm o1 của OpenAI và R1 của DeepSeek. Thậm chí còn tốt hơn, toàn bộ dự án đều có sẵn trên GitHub—mã, dữ liệu và tất cả.

Nhóm bắt đầu bằng cách lấy một mô hình có sẵn thay vì xây dựng một cái gì đó mới. Từ đó, họ tinh chỉnh nó thông qua một quá trình gọi là chưng cất. Theo nghiên cứu của họ, họ đã chưng cất sức mạnh lý luận từ mô hình Thử nghiệm tư duy Flash Gemini 2.0 của Google.

Họ đã đào tạo s1 để bắt chước các kỹ thuật giải quyết vấn đề của Gemini bằng cách học từ các câu trả lời của nó. “Chúng tôi đã nhắm đến sự đơn giản,” Niklas Muennighoff, một trong những nhà nghiên cứu Stanford tham gia, cho biết.

Tập dữ liệu nhỏ, kết quả lớn

Chưng cất đang nhanh chóng trở thành vũ khí lựa chọn cho các đội ngũ AI đang tìm cách cắt giảm chi phí. Một mô hình AI tương tự được phát triển tháng trước bởi các nhà nghiên cứu Berkeley đã tốn 450 đô la để đào tạo—vẫn là rẻ theo tiêu chuẩn ngành. Nhưng Stanford và UW đã tiến xa hơn, giảm chi phí xuống khoảng 50 đô la bằng cách chưng cất mô hình của họ với một tập dữ liệu nhỏ hơn và các kỹ thuật tinh gọn.

Các nhà nghiên cứu đã chọn lọc chỉ 1.000 câu hỏi, mỗi câu được ghép với các câu trả lời chi tiết và lý luận từng bước từ Gemini 2.0 của Google. Tập dữ liệu này cung cấp toàn bộ kiến thức mà s1 cần để hoạt động ở cấp độ cao. Theo bài báo của đội ngũ, mô hình đã học cách suy nghĩ qua các vấn đề.

Việc tinh chỉnh có giám sát, hay SFT, là chìa khóa để làm cho điều này hoạt động. Thay vì sử dụng học tăng cường, yêu cầu các tập dữ liệu khổng lồ và rất nhiều sức mạnh tính toán, các nhà nghiên cứu đã chọn SFT, một phương pháp mà AI được đào tạo trực tiếp để bắt chước các hành vi trong tập dữ liệu. Nó rẻ hơn và nhanh hơn, và trong trường hợp này, nó đã hoạt động.

Mô hình cơ sở đến từ Qwen, phòng thí nghiệm AI thuộc sở hữu của Alibaba. Mô hình sẵn có của họ miễn phí tải xuống, làm cho dự án trở nên thân thiện với ngân sách hơn. Trong chưa đầy 30 phút và chỉ sử dụng 16 GPU Nvidia H100, đội ngũ đã hoàn thành việc đào tạo s1. “Chúng tôi có thể thuê sức mạnh tính toán cần thiết với khoảng 20 đô la hôm nay,” Muennighoff nói.

Lệnh “Chờ” đã nâng cao độ chính xác của s1

Các nhà nghiên cứu báo cáo rằng họ đã thêm một mẹo thông minh để cải thiện khả năng lý luận của s1: họ đã thêm từ “chờ” trong quá trình giải quyết vấn đề. Bằng cách yêu cầu mô hình tạm dừng và kiểm tra lại công việc của nó, họ đã tăng độ chính xác. Bài báo nghiên cứu chi tiết cách mà điều chỉnh này đã cho s1 đủ thời gian để xem xét các câu trả lời tốt hơn trước khi gửi chúng.

OpenAI đang theo dõi chặt chẽ. Họ đã cáo buộc DeepSeek thu thập dữ liệu không đúng cách từ API của họ để xây dựng các đối thủ AI. Với việc s1 cho thấy việc sao chép có thể rẻ như thế nào, các đại gia như OpenAI không hề hài lòng. Việc thương mại hóa các mô hình AI có thể làm tổn thương lợi nhuận của họ.

Nhưng công ty công nghệ có những vấn đề khác. Vào thứ Ba, đội ngũ pháp lý của Elon Musk đã đối đầu với OpenAI tại một tòa án liên bang ở Oakland. Elon, người đã là một nhà đầu tư sớm của OpenAI, khẳng định rằng công ty đã từ bỏ sứ mệnh phi lợi nhuận của mình và phản bội các mục tiêu ban đầu.

Ông đang kiện để chặn việc chuyển đổi của họ thành một doanh nghiệp hoàn toàn vì lợi nhuận. Luật sư của Elon, Marc Toberoff, đã nói trước tòa vào thứ Sáu rằng Elon đã đầu tư 45 triệu đô la vào OpenAI giữa những năm thành lập và 2018 vì ông tin rằng nó sẽ luôn ưu tiên lợi ích công cộng hơn lợi nhuận, giống như nó đã nói ở đầu.

Thẩm phán Yvonne Gonzalez Rogers đã gọi đó là một “điều phóng đại” và đặt câu hỏi tại sao Elon lại đầu tư nhiều tiền như vậy mà không có hợp đồng bằng văn bản. “Đó chỉ là rất nhiều tiền trên một cái bắt tay,” bà chế nhạo. Luật sư Toberoff sau đó giải thích rằng Elon và CEO của OpenAI, Sam Altman, đã có một mối quan hệ gần gũi vào thời điểm đó, và mọi thứ được xây dựng dựa trên niềm tin.

Nhưng vụ kiện vẫn chưa chết. Thẩm phán đang lo ngại về mối quan hệ gần gũi của OpenAI với Microsoft. Hai nhân vật chủ chốt—người đồng sáng lập LinkedIn Reid Hoffman và điều hành Microsoft Deanna Templeton—đã tham gia vào ban giám đốc của OpenAI. Templeton được thêm vào như một thành viên không có quyền biểu quyết sau khi Altman bị cách chức tạm thời vào năm 2023 nhưng sau đó bị loại bỏ giữa những lo ngại về độc quyền.

Elon muốn ngăn chặn kế hoạch của họ và có thể giành nhiều quyền kiểm soát hơn đối với công ty thông qua dự án AI riêng của mình, xAI, mà ông đã thêm vào như một nguyên đơn trong vụ kiện. OpenAI lập luận rằng yêu cầu của Elon sẽ làm suy yếu doanh nghiệp của họ và dựa trên những tuyên bố “khó tin”.

Học viện Cryptopolitan: Cách viết một CV Web3 thu hút phỏng vấn - Tài liệu cheat miễn phí