Nguồn bài viết in lại: Heart of the Machine
AI, đặc biệt là mã nguồn mở và mã nguồn đóng trong thời đại các mô hình lớn, đều có những ưu và nhược điểm, quan trọng là làm thế nào để làm tốt công việc trong quá trình sử dụng nó.
Nguồn hình ảnh: Được tạo bởi AI không giới hạn
Mọi người luôn bị chia rẽ trong việc lựa chọn giữa nguồn mở và nguồn đóng trong lĩnh vực AI, tuy nhiên, trong thời đại của những mô hình lớn, thế lực mạnh mẽ của nguồn mở đã âm thầm trỗi dậy. Theo một tài liệu nội bộ bị rò rỉ trước đây từ Google, xung quanh các mô hình nguồn mở như LLaMA của Meta, toàn bộ cộng đồng đang nhanh chóng xây dựng các mô hình tương tự như OpenAI và khả năng mô hình lớn của Google.
Không cần phải nói rằng Meta hoàn toàn là trung tâm của thế giới nguồn mở, với những nỗ lực liên tục về nguồn mở như việc phát hành Llama 2 gần đây. Tuy nhiên, cái gì tốt cũng sẽ bị gió thổi bay. Gần đây, Meta đang gặp “rắc rối” vì mã nguồn mở.
Bên ngoài văn phòng của Meta ở San Francisco, một nhóm người biểu tình cầm biểu ngữ đã tụ tập để phản đối chiến lược phát hành công khai các mô hình AI của Meta, cho rằng những bản phát hành này đã gây ra "sự phổ biến không thể đảo ngược" của các công nghệ có khả năng không an toàn. Một số người phản đối thậm chí còn so sánh những mô hình lớn do Meta tung ra với "vũ khí hủy diệt hàng loạt".
Những người biểu tình, những người tự gọi mình là "những công dân có liên quan", do Holly Elmore lãnh đạo. Theo hồ sơ LinkedIn của mình, cô là người ủng hộ độc lập cho phong trào Tạm dừng AI.
Nguồn: MISHA GUREVICH
Cô chỉ ra rằng nếu một mô hình được chứng minh là không an toàn, API có thể bị tắt, như trường hợp của các mô hình lớn như Google và OpenAI chỉ cho phép người dùng truy cập thông qua API.
Ngược lại, dòng mô hình nguồn mở LLaMA của Meta cung cấp trọng lượng mô hình cho công chúng, cho phép bất kỳ ai có phần cứng và chuyên môn phù hợp có thể tự sao chép và điều chỉnh các mô hình. Sau khi trọng lượng mô hình được công bố, công ty xuất bản không còn bất kỳ phương tiện nào để kiểm soát cách sử dụng AI.
Theo Holly Elmore, việc giải phóng trọng lượng mô hình là một chiến lược nguy hiểm vì bất kỳ ai cũng có thể sửa đổi mô hình và không thể thu hồi mô hình đó. "Mô hình càng mạnh thì chiến lược càng nguy hiểm."
So với nguồn mở, các mô hình lớn được truy cập thông qua API thường có nhiều tính năng bảo mật khác nhau, chẳng hạn như lọc phản hồi hoặc đào tạo cụ thể để ngăn chặn việc tạo ra các phản hồi nguy hiểm hoặc mang tính xúc phạm.
Nếu trọng lượng của mô hình được giải phóng, việc đào tạo lại mô hình để nhảy qua các "lan can" này sẽ trở nên dễ dàng hơn nhiều. Điều này giúp việc sử dụng các mô hình nguồn mở này để tạo phần mềm lừa đảo và tiến hành các cuộc tấn công mạng trở nên khả thi hơn.
Nguồn: MISHA GUREVICH
Bởi vì cô tin rằng một phần của vấn đề nằm ở chỗ "không đủ các biện pháp an toàn để phát hành mô hình" và cần phải có cách tốt hơn để đảm bảo an toàn cho mô hình.
Meta vẫn chưa bình luận về điều này. Tuy nhiên, Yann LeCun, nhà khoa học AI trưởng của Meta, dường như đã phản ứng với tuyên bố rằng “AI nguồn mở phải bị cấm” và vạch trần tình hình nghiêm trọng của cộng đồng doanh nhân AI nguồn mở ở Paris.
Có nhiều người không đồng tình với Holly Elmore, người tin rằng chiến lược mở để phát triển AI là cách duy nhất để đảm bảo niềm tin vào công nghệ.
Một số cư dân mạng cho rằng nguồn mở có những ưu và nhược điểm. Nó có thể cho phép mọi người đạt được tính minh bạch cao hơn và tăng cường đổi mới, nhưng nó cũng sẽ phải đối mặt với nguy cơ bị các tác nhân độc hại sử dụng sai mục đích (chẳng hạn như mã).
Đúng như dự đoán, OpenAI một lần nữa bị chế giễu: "Nó nên quay lại nguồn mở".
Có nhiều người lo lắng về nguồn mở
Peter S. Park, nghiên cứu sinh sau tiến sĩ về bảo mật AI tại MIT, cho biết: “Việc phát hành rộng rãi các mô hình AI tiên tiến sẽ đặc biệt có vấn đề trong tương lai vì việc ngăn chặn việc lạm dụng các mô hình AI về cơ bản là không thể”.
Tuy nhiên, Stella Biderman, giám đốc điều hành của EleutherAI, một tổ chức nghiên cứu trí tuệ nhân tạo phi lợi nhuận, cho biết: "Cho đến nay, có rất ít bằng chứng cho thấy các mô hình nguồn mở gây ra bất kỳ tác hại cụ thể nào. Không rõ liệu việc đơn giản đặt một mô hình đằng sau API có giải quyết được vấn đề hay không." vấn đề. Câu hỏi bảo mật."
Biderman tin rằng: "Các yếu tố cơ bản của việc xây dựng LLM đã được xuất bản trong một bài nghiên cứu miễn phí và bất kỳ ai trên thế giới đều có thể đọc tài liệu trên giấy để phát triển mô hình của riêng họ."
Bà nói thêm: "Việc khuyến khích các công ty giữ bí mật chi tiết mô hình có thể gây ra những hậu quả bất lợi nghiêm trọng đối với tính minh bạch của nghiên cứu, nhận thức cộng đồng và sự phát triển khoa học trong lĩnh vực này, đặc biệt là đối với các nhà nghiên cứu độc lập."
Mặc dù mọi người đã thảo luận về tác động của nguồn mở nhưng vẫn chưa rõ liệu cách tiếp cận của Meta có thực sự đủ mở và có thể tận dụng được nguồn mở hay không.
Stefano Maffulli, giám đốc điều hành của Sáng kiến nguồn mở (OSI), cho biết: "Khái niệm về AI nguồn mở chưa được xác định đúng đắn. Các tổ chức khác nhau sử dụng thuật ngữ này để chỉ những thứ khác nhau - biểu thị các cấp độ khác nhau của 'thứ gì đó có sẵn công khai', Điều đó sẽ khiến mọi người bối rối."
Maffulli chỉ ra rằng đối với phần mềm nguồn mở, vấn đề then chốt là liệu mã nguồn có sẵn sàng công khai và có thể tái sản xuất cho bất kỳ mục đích nào hay không. Tuy nhiên, nếu muốn tái tạo một mô hình AI, bạn có thể phải chia sẻ dữ liệu huấn luyện, phương pháp thu thập dữ liệu, phần mềm huấn luyện, trọng số mô hình, mã suy luận, v.v. Trong số đó, điều quan trọng nhất là dữ liệu đào tạo có thể có vấn đề về quyền riêng tư và bản quyền.
OSI đã nghiên cứu định nghĩa chính xác về "AI nguồn mở" kể từ năm ngoái và có thể sẽ sớm phát hành bản dự thảo trong vài tuần tới. Nhưng dù thế nào đi nữa, anh ấy tin rằng nguồn mở rất quan trọng đối với sự phát triển của AI. Ông nói: “Chúng ta không thể có AI đáng tin cậy và có trách nhiệm nếu AI không phải là nguồn mở.
Trong tương lai, sự khác biệt giữa nguồn mở và nguồn đóng sẽ tiếp tục tồn tại, nhưng nguồn mở là không thể ngăn cản.
Link gốc: https://spectrum.ieee.org/meta-ai