自由1688

Vừa chuẩn bị lên sàn, vừa cảnh báo AI có thể đe dọa con người: Anthropic đã viết gì trong bản cáo bạch IPO?

Ngày 29/9, theo Reuters, Anthropic dự kiến trong quá trình lần đầu phát hành cổ phiếu ra công chúng (IPO) sẽ nhắc nhở các nhà đầu tư tiềm năng rằng AI tiên tiến có thể gây ra “nguy cơ mang tính thảm họa hoặc nguy cơ tồn vong” đối với loài người. Đây là một lời cảnh báo hết sức khác thường đối với một công ty đang tìm cách kiếm lợi từ công nghệ này.

Theo bản cáo bạch IPO của Anthropic mà Reuters tiếp cận được, công ty nhấn mạnh các rủi ro liên quan do các mô hình AI của mình tạo ra. Anthropic cho biết các mô hình này có thể thể hiện “hành vi tự bảo vệ”, bao gồm việc cố “từ chối tắt”, “che giấu hoặc thao túng thông tin”, và thể hiện “hành vi giống như tống tiền”.
“Chúng tôi phát triển các mô hình, nền tảng và ứng dụng vô cùng tiên tiến, cũng như mở rộng các kịch bản ứng dụng, điều này có thể làm tăng thêm rủi ro mô hình của chúng tôi gây ra tổn hại.” Anthropic nêu trong tài liệu.

Mặc dù các công ty niêm yết thường sẽ giải thích cho nhà đầu tư về những rủi ro có thể phát sinh đối với sản phẩm, nhưng hiếm có công ty nào đưa ra cảnh báo hàm ý rằng công nghệ của họ có thể dẫn tới sự diệt vong của con người. Anthropic nhấn mạnh tiềm năng biến đổi của AI tương tự như công nghiệp hóa và điện lực, nhưng đồng thời cũng chỉ ra rằng nếu được sử dụng không đúng cách, AI có thể gây ra những tổn hại không thể đảo ngược.

Anthropic và các nhà phát triển AI khác như OpenAI đã liên tục phải đối mặt với sự giám sát sau các sự kiện hệ thống thử nghiệm chống lại các ràng buộc, trong đó có thông tin cho rằng một mô hình của OpenAI đã xâm nhập vào cơ sở dữ liệu hệ thống y tế của Australia. Nhà nghiên cứu an toàn của Anthropic, Evan Hubinger, ước tính xác suất AI giết chết con người trong vòng mười năm tới là hơn 10%, quan điểm này tương đồng với nhận định của cựu đồng nghiệp Jacob Coxon.

Anthropic đã định vị mình là một phòng thí nghiệm AI đặt yếu tố an toàn lên hàng đầu, và trong phần nội dung của bản cáo bạch dài 261 trang, khoảng 80 trang được dùng để liệt kê các yếu tố rủi ro—gần gấp đôi số trang (48 trang) dành cho việc giới thiệu hoạt động kinh doanh của công ty.

Trong khi đó, công ty có xAI là SpaceX trong phần nội dung của bản cáo bạch 277 trang chỉ dùng khoảng 38 trang để giới thiệu các yếu tố rủi ro.

@ENTRY HUNTER⁷⁸⁹

@Shaheen 69

@Tổng thống Hoa Kỳ

Nhân viên Google từ chức vì lo ngại siêu trí tuệ: theo đuổi AI mạnh mẽ là thiếu trách nhiệm, không thể làm ngơ

Theo tờ Business Insider, một nhân viên Google cho biết anh đã rời khỏi công ty vì theo đuổi một AI “về bản chất là thiếu trách nhiệm”. Trước đây, Robert O'Callahan từng làm việc tại Google DeepMind, đăng bài trên X cho biết nhóm của anh đang phát triển chip để AI chạy nhanh hơn, chi phí thấp hơn, nhưng anh cho rằng AI đã “tiến triển quá nhanh”.

Trên blog cá nhân, anh chia sẻ một lá đơn xin nghỉ việc và cho biết lá thư này anh gửi cho đồng nghiệp vào thứ Sáu. Trong thư, anh viết rằng mình không thể “làm ngơ” trước những tác động do công việc của bản thân mang lại, vì làm như vậy “không phải là điều mà một người theo Chúa Giê-su nên làm”. Trong phần giới thiệu cá nhân trên blog, anh cho biết mình là một Cơ Đốc nhân.

“Đây không phải là một quyết định dễ dàng. Tôi thích các đồng nghiệp của mình và cũng thích môi trường làm việc ở đây, và việc với một mức lương hậu hĩnh để giải quyết những vấn đề thú vị luôn là một điều tuyệt vời,” anh viết, “nhưng mục tiêu cuối cùng của nhóm chúng tôi là làm giảm đáng kể chi phí của AI và giảm độ trễ một cách rõ rệt, và tôi nghĩ điều đó đối với những người hiện tại thì không phải là một điều tốt: tôi tin chắc rằng tốc độ tiến triển của AI hiện nay thực sự quá nhanh (và tôi cũng có nghi ngờ về việc cuối cùng nó sẽ đi về đâu)。”

DeepSeek bị lộ doanh thu hằng năm đạt 1 tỷ USD sau khi tăng giá khách hàng không giảm

Ngày 25 tháng 9, theo tờ <The Information> trích dẫn hai nguồn tin am hiểu, doanh thu hằng năm của DeepSeek quy đổi theo mức doanh thu trong thời gian gần đây đã đạt 1 tỷ USD, tăng hơn gấp đôi so với mức dưới 500 triệu USD vài tháng trước. Người sáng lập Liang Wenfeng gần đây cho biết con số này tại một cuộc họp nhà đầu tư.

Một phần tăng trưởng doanh thu đến từ việc tăng giá API vào tháng 8. Theo các nguồn tin, tại cuộc họp, Liang Wenfeng cho biết việc tăng giá không khiến cơ sở khách hàng bị thu hẹp, nhu cầu vẫn mạnh. Hiện tại, doanh thu của DeepSeek gần như hoàn toàn đến từ dịch vụ API. Ứng dụng trò chuyện miễn phí không có quảng cáo và không tạo ra doanh thu.

Bài báo cũng cho biết DeepSeek đang thúc đẩy vòng tài trợ thứ hai, mục tiêu hoàn tất trước cuối tháng 10. Công ty dự kiến huy động 50 tỷ Nhân dân tệ với định giá 5000 tỷ Nhân dân tệ, đồng thời chuẩn bị niêm yết tại Sở giao dịch chứng khoán Thượng Hải. Liang Wenfeng nói với nhà đầu tư rằng việc tăng doanh thu vẫn chưa phải là ưu tiên hàng đầu của công ty; hiện hơn 70% năng lực tính toán được dùng để huấn luyện mô hình mới, trong khi chưa đến 30% dùng để vận hành các mô hình hiện có và xử lý yêu cầu của người dùng.

Anthropic tuyên bố phòng thí nghiệm AI–sinh vật đạt bước đột phá ban đầu, nhưng chưa cấp quyền vận hành tự chủ hoàn toàn

Công ty khởi nghiệp trí tuệ nhân tạo Anthropic cho biết phòng thí nghiệm AI vật lý và sinh học (Wet Lab) mới xây dựng tại Vùng Vịnh San Francisco đã đạt “bước tiến quan trọng”. Tuy nhiên, ở cấp độ thao tác thí nghiệm, các nhà nghiên cứu con người vẫn nắm quyền kiểm soát tuyệt đối và chưa cho phép trực tiếp các mô hình AI của hãng, bao gồm Claude, tự vận hành một cách không giám sát.

Theo thông tin được nêu, phòng thí nghiệm này chủ yếu tập trung vào nghiên cứu sinh học cơ bản và xác thực bằng thực nghiệm, nhằm thu hẹp khoảng cách giữa mô phỏng thuần túy bằng máy tính và thí nghiệm sinh học ngoài đời. Dù các lãnh đạo của Anthropic trước đó đã nhiều lần đưa ra cảnh báo, nhấn mạnh rằng các mô hình AI mạnh mẽ có thể tạo ra rủi ro an toàn sinh học nghiêm trọng, thậm chí là nguy cơ hủy diệt đối với con người, thì công ty đồng thời cũng đang đẩy nhanh việc triển khai ứng dụng AI trong lĩnh vực khoa học sự sống. Người phụ trách mảng khoa học sự sống của Anthropic, ông Eric Kauderer-Abrams, cho biết: “Xác thực vật lý trong phòng thí nghiệm thực tế trong một thời gian khá dài sắp tới vẫn không thể thay thế được”, và đây cũng là động cơ then chốt khiến công ty xây dựng phòng thí nghiệm nói trên.

Bài báo nhấn mạnh rằng, mặc dù Anthropic tuyên bố phòng thí nghiệm đã đạt được những kết quả ban đầu đáng chú ý, chi tiết thu hút sự chú ý nhất nằm ở chỗ công ty không chọn cách để AI ‘tự tung tự tác’. Mọi quy trình thí nghiệm vật lý, thao tác với thuốc thử và việc đối soát dữ liệu hiện vẫn nằm trong vòng kiểm soát khép kín nghiêm ngặt của các nhà nghiên cứu con người (Humans in the loop).

Các nhà phân tích cho rằng, Anthropic vừa thúc đẩy đổi mới trong lĩnh vực sinh học vừa duy trì mức độ thận trọng cao, phản ánh ‘bài toán kép’ mà các tập đoàn công nghệ lớn đang phải đối mặt khi theo đuổi cả bước đột phá thương mại lẫn nghiên cứu: một mặt cần tận dụng phòng thí nghiệm thực để cung cấp năng lực xác thực cho các đối tác là công ty dược, đẩy nhanh việc tìm hướng giải quyết các bệnh hiếm; mặt khác lại phải đối phó với mối lo ngại rất lớn của xã hội về khả năng AI bị lạm dụng để tạo ra các mối đe dọa sinh học mới. Bằng cách kiên trì giữ vai trò chủ đạo của con người trong ‘vòng lặp’ thí nghiệm, Anthropic đang cố gắng thiết lập một ranh giới tuân thủ cân bằng giữa đổi mới và an toàn cho các nghiên cứu sinh học sử dụng AI của mình.

Người nước ngoài nhặt hời trên thị trường đồ cũ: RTX 5090 hóa ra lại là chữ ký tay của Hoàng Nhân Quân—phiên bản toàn cầu duy nhất

Gần đây, một nghệ sĩ 3D khi mua card đồ họa RTX 5090 trên thị trường đồ cũ đã bất ngờ nhận được một báu vật duy nhất trên toàn cầu—ASUS ROG Astral RTX 5090 White OC kỷ niệm 30 năm, có chữ ký tay của CEO Nvidia Lý Hằng Nhân Quân trên mặt sau của card.
Vị nghệ sĩ 3D cho biết, anh và một người bạn đã mua hai chiếc RTX 5090 trên thị trường đồ cũ để phục vụ một dự án 3D. Trong đó, một chiếc được xác định là phiên bản ASUS ROG Astral RTX 5090 White OC; ban đầu anh tưởng rằng chữ ký là của một lãnh đạo cấp cao nào đó của ASUS.

OpenAI ra mắt GPT-6 Sol và Luna, năng lực AI thông minh được nâng cấp hơn nữa và giá thành thấp hơn

Gần đây, OpenAI đã giới thiệu hai mô hình mới trong dòng GPT-6 là GPT-6 Sol và GPT-6 Luna, đồng thời định vị chúng là các mô hình tiên tiến thế hệ mới. Hai mô hình tập trung nâng cao khả năng lập trình, suy luận, gọi công cụ và thực thi các tác vụ phức tạp; đồng thời cũng điều chỉnh giảm giá, giúp các nhà phát triển có thể sử dụng các mô hình mạnh hơn với chi phí thấp hơn.

GPT-6 Sol chủ yếu nhắm đến các tác vụ cần mức độ thông minh cao, đồng thời tương đối nhạy cảm với tốc độ phản hồi và chi phí. OpenAI cho biết, so với các mô hình cùng phân khúc của thế hệ trước, Sol đã có những cải thiện rõ rệt về năng lực mã hóa. Khi xử lý các tác vụ kỹ thuật phần mềm phức tạp, phân tích mã và thực thi các quy trình làm việc nhiều bước, Sol thể hiện sự ổn định hơn.