Tiêu đề nguyên văn: (Anthropic, Dario Amodei, và “công ty tư nhân cuối cùng”)
Tác giả nguyên văn: Động sát Beating

Về người sáng lập Anthropic là Dario Amodei, có hai cách nói được lưu truyền, vừa mâu thuẫn với nhau, vừa đều có lý.

Có một cách nói rằng, ông ấy là người canh đêm tỉnh táo nhất của thời đại này. Cả thế giới đều đang dồn ga lao thẳng về phía vách đá của siêu trí tuệ, chỉ có ông ấy chịu đứng sát lề đường, lặp đi lặp lại mà hô rằng phía trước là vực sâu.

Một cách nói khác là, ông ấy là một trong những người có tham vọng lớn nhất ở Thung lũng Silicon. Ông dẫn dắt công ty AI mạnh nhất thế giới, ngày đêm tăng ca miệt mài chế tạo, biến tương lai mà tất cả mọi người đã từng cảnh báo—từng chút một—bằng chính tay mình tạo ra.

Một người, thật sự có thể làm cùng lúc cả hai việc đó.

Anh đặt tên cho thế giới mà mình tưởng tượng—“Vương quốc thiên tài trong trung tâm dữ liệu”. Ở vương quốc ấy có năm mươi triệu thiên tài, không ngủ, ngày làm việc hai mươi bốn giờ, tốc độ suy nghĩ nhanh gấp hàng chục lần người thường, và còn có thể sao chép ra vô số thiên tài giống hệt mình. Vương quốc đó không có đất đai, không có biên giới; nó nằm trong một dãy dài các trung tâm dữ liệu.

Tháng 1 năm 2026, anh viết viễn tưởng này thành một bài dài, có tên (Tuổi trưởng thành của công nghệ).

Rồi anh lại đẩy tiếp một bước nữa trong suy diễn: nếu một ngày nào đó năm mươi triệu thiên tài ấy không nghe lời con người thì sao?

Còn về sau nữa thì bức tranh bắt đầu trở nên nguy hiểm. Vũ khí sinh học, thất nghiệp trên quy mô lớn, độc tài, chiến tranh—anh lần lượt đếm từng thứ. Đến cuối cùng thì nói: thời gian dành cho chúng ta không còn nhiều.

Nhưng trong cùng một bài viết đó, anh ấy còn viết: “AI đang giúp Anthropic viết rất nhiều mã—để làm ra thế hệ mô hình tiếp theo nhanh hơn.”

Vừa cảnh báo, vừa tăng tốc. Anh không thấy giữa hai điều đó có mâu thuẫn.

Đó là điểm khởi đầu của mọi vấn đề. Không phải vì anh xấu, mà vì anh thật sự không nghĩ là như vậy.

Tất nhiên, anh ấy có lời giải thích của mình. Anthropic dừng lại, OpenAI không ngừng, Google không ngừng, các công ty của nước khác cũng sẽ không ngừng. Không ai chịu buông tay trước; người đầu tiên dừng lại có lẽ cũng chẳng ngăn được gì, chỉ là nhường quả cho người khác.

Bản dịch của cách nói đó là: nếu ai cũng đang giành giật thì hãy để “tôi” giành lấy vị trí đầu tiên. Nếu không ai dừng lại được thì hãy để “tôi” quyết định lúc nào nên dừng.

Như vậy, việc có nên tạo ra siêu trí tuệ hay không lại trở nên không quan trọng bằng. Theo đánh giá của anh, nó sớm muộn cũng sẽ được tạo ra. Thứ thực sự quan trọng là: ai là người tạo ra trước, và đến ngày đó, ai là người có tư cách nắm tay vô lăng.

Không kịp

Dario Amodei sinh năm 1983 tại San Francisco, đúng năm 1983. Cha anh là người Ý thuộc vùng Tuscany, cả đời làm kinh doanh đồ da; mẹ là người Do Thái gốc ở Chicago—người đã có đóng góp vào quy hoạch và xây dựng Thư viện Công cộng San Francisco.

Anh từ nhỏ đã thích toán học và vật lý. Cuối những năm 1990, bong bóng internet ở Vùng Vịnh nở ra, công ty này nối tiếp công ty khác mọc lên; người trẻ viết website, tìm nhà đầu tư, tính toán xem ngày niêm yết có thể rút tiền ra được bao nhiêu. Những câu chuyện đó không thể thuyết phục được anh. Nhiều năm sau, anh nói rằng thứ anh muốn tìm lúc đó là “những chân lý của khoa học cơ bản”—anh chỉ muốn hiểu vì sao thế giới lại phát triển theo cách như thế.

Anh sớm có một sự nghiêm túc—gần như cố chấp—với cái gọi là “câu hỏi quan trọng”. Chỉ cần anh xác định một việc đủ quan trọng thì anh không hiểu nổi: làm sao con người có thể cứ bình thản mà chậm rãi trôi đi?

Năm 2003, Mỹ chuẩn bị đánh Iraq. Anh đang học tại Caltech ở California. Trong trường không ít người phản đối chiến tranh. Khi trò chuyện, ai cũng nói những lời đầy lo lắng; nhưng hôm sau, mọi người vẫn lên lớp như thường. Anh viết một bài báo trên tờ báo dành cho sinh viên, phê bình các bạn cùng học—rằng nếu thật sự sợ một cuộc chiến sẽ hại chết nhiều người, thì phản đối không nên chỉ dừng ở miệng; chờ tới khi nó xảy ra thật rồi hối hận thì đã muộn.

Trong suy nghĩ của anh, do dự không bao giờ là trung lập. Chờ đợi—bản thân nó đã là một lựa chọn.

Chàng trai hai mươi tuổi đó chịu không nổi nhất chính là phải chờ đợi.

Ba năm sau, khi anh hai mươi ba tuổi thì cha anh qua đời vì viêm gan siêu vi C.

Lúc đó, viêm gan siêu vi C gần như không có thuốc điều trị. Phác đồ chuẩn là tiêm interferon trong suốt một năm, nhưng lại gây sốt, rụng tóc, trầm cảm, và tỷ lệ khỏi bệnh còn chưa tới một nửa.

Tháng 12 năm 2013, một loại thuốc mới được phê duyệt. Thời gian điều trị rút xuống còn mười hai tuần, tỷ lệ khỏi lên tới chín mươi lăm phần trăm.

Cha anh đã không chờ được.

Chỉ còn bảy năm.

Một người con không cứu được cha mình thì trong suốt hai mươi năm sau đó, luôn thúc giục khoa học phải nhanh hơn—nhanh hơn nữa.

Sau khi cha qua đời, anh chuyển từ vật lý lý thuyết sang vật lý sinh học. Tại Princeton, anh nghiên cứu các mạch thần kinh trong võng mạc. Lúc đó, thiết bị chỉ ghi nhận được rất ít tín hiệu thần kinh mỗi lần; anh thấy chậm, nên tham gia chế tạo các cảm biến mới.

Về sau, anh vào Trường Y Stanford để nghiên cứu ung thư và protein. Càng tiến lại gần căn bệnh, người ta càng thấy mình nhỏ bé. Một căn bệnh có thể kéo theo hàng trăm gen, hàng vạn loại protein, và vô số đường dẫn liên kết với nhau. Các nhà nghiên cứu tốn hàng chục năm, có lẽ chỉ có thể nhìn rõ được một mắt xích, nhưng vẫn không biết rằng khi đặt mắt xích đó trở lại toàn bộ cơ thể thì sẽ điều gì xảy ra.

Sau đó, anh mô tả rằng thứ phức tạp ấy khiến anh gần như tuyệt vọng.

Chính vào lúc này, AI lọt vào tầm nhìn của anh—một công cụ có thể “kéo” thước đo của con người lên tầm cao mới. Máy móc có thể đọc đồng thời nhiều bài báo, xử lý nhiều dữ liệu, thử nhiều khả năng khác nhau; thay thế công việc nhận thức mà trước đây thường phải do vài trăm, thậm chí vài nghìn nhà nghiên cứu cùng làm.

Anh bắt đầu từ ý nghĩ “con người quá nhỏ bé”, rồi đi đến kết luận rằng phải tạo ra một thứ lớn hơn—để rồi lại ép con người nhỏ lại một lần nữa.

Năm 2014, anh rời lĩnh vực khoa học sự sống, gia nhập nhóm trí tuệ nhân tạo của Baidu ở Thung lũng Silicon. Nhóm nhanh chóng nhận ra: mô hình càng lớn, dữ liệu càng nhiều, cộng thêm một chút nữa về năng lực tính toán thì hiệu quả sẽ lại tiếp tục tăng. Vài năm sau, những kinh nghiệm này được tổng kết thành “định luật quy mô”. Bạn có thể không biết thế hệ mô hình tiếp theo sẽ bất ngờ học được điều gì, nhưng có thể khẳng định phần nào rằng nó chắc chắn sẽ mạnh hơn thế hệ trước.

Lần đầu tiên, trí tuệ có vẻ như có thể được sản xuất giống như một món hàng công nghiệp. AI mạnh mẽ cũng trở thành một thứ sớm muộn gì cũng sẽ ra đời.

Phần khác còn lại chỉ là: bao nhiêu dữ liệu, bao nhiêu chip, bao nhiêu điện—và còn phải chờ bao lâu.

Người ghét việc phải chờ đợi nhất đã tự tay chứng minh rằng con đường dẫn tới đáp án mà anh ta muốn là tồn tại.

Bánh lái

Năm 2016, Dario Amodei gia nhập OpenAI.

Trong vài năm sau đó, các mô hình ngôn ngữ nhanh chóng lớn dần. Đến GPT-3, OpenAI đã giao cho Dario hơn một nửa năng lực tính toán của công ty để phóng đại quy mô mô hình lên gấp một trăm lần. Kết quả còn gây sốc hơn cả những gì nhiều người dự đoán: nó có thể viết bài, dịch, tóm tắt—và cả những “món nghề” mà không ai dạy cho nó, tự nó học được.

Quy mô tăng một phần thì năng lực cũng tăng một phần.

Anh chắc chắn rằng con đường này dẫn tới trí tuệ phổ quát. Và một khi chấp nhận rằng mô hình cuối cùng có thể thông minh như con người, thì an toàn không còn có thể bị coi là chuyện nhỏ nữa.

Rồi anh phát hiện ra vấn đề. Dario chịu trách nhiệm chế tạo mô hình, nhưng dần dần nhận ra: việc tạo mô hình và quyết định mô hình sẽ đi theo hướng nào vốn là hai chuyện hoàn toàn khác nhau. Khi nào mô hình được phát hành, mức độ mở tới đâu, hợp tác với những công ty nào, ai có quyền quyết định—những việc đó không tự động thuộc về anh chỉ vì anh phụ trách huấn luyện.

Trong nội bộ OpenAI đã chia thành hai phe. Một phe muốn đẩy nhanh công nghệ để đưa ra thế giới; phe còn lại lo rằng, việc công ty do ai lãnh đạo và hành động theo nguyên tắc nào—có khi còn quan trọng hơn cả một chi tiết công nghệ nào đó.

Rốt cuộc thì người như thế nào mới có đủ tư cách để lãnh đạo một công ty sản xuất AI mạnh?

Câu trả lời của anh ấy là: người lãnh đạo phải trung thực, động cơ phải chân thành, và cũng phải thực sự mong muốn thế giới tốt đẹp hơn.

Sự an toàn công nghệ dần dần trở thành một phán quyết về con người. Suy luận này rất nguy hiểm, mà lại trớ trêu thay, nó cũng rất “hợp lý” về mặt logic. Nguy hiểm ở chỗ nó biến mọi vấn đề phức tạp cuối cùng thành câu hỏi xem người đó có đáng tin hay không. Và trong suy luận này, mắt xích luôn vắng mặt là: ai sẽ đánh giá liệu người đó có đáng tin hay không.

Tới năm 2020, những bất đồng giữa anh và ban lãnh đạo OpenAI đã gần như không thể hòa giải. Trong tháng 12 của năm đó, anh rời OpenAI cùng em gái Daniela, Jack Clark, Chris Olah và một vài đồng nghiệp. Vì Dario thích gấu trúc, nên vòng nhỏ này ở trong công ty được gọi là “phe gấu trúc”.

Vài tháng sau, họ thành lập Anthropic. “Anthropic” trong từ điển nghĩa là “liên quan đến con người”.

Lần này, Dario không định trao lại vô lăng cho người khác nữa.

Hai mươi người

Năm 2021, dịch bệnh ở San Francisco vẫn chưa kết thúc.

Anthropic mới thành lập chưa lâu, chỉ có từ mười lăm đến hai mươi người. Hầu hết thời gian là mọi người họp qua Zoom; mỗi tuần lại chọn thêm một ngày, ai cũng mang theo ghế của mình đến công viên gặp mặt. Vừa ăn trưa, vừa nói chuyện về mô hình, năng lực tính toán, nghiên cứu an toàn—và cả việc công ty rốt cuộc nên phát triển thành hình hài thế nào.

Không đến hai chục người, ngồi trên bãi cỏ ở San Francisco, tay có thể còn cầm nửa hộp salad chưa ăn xong, nhưng lại lo lắng cho số phận của tám tỷ người về sau.

Định luật quy mô nói với họ rằng tương lai chắc chắn sẽ đến. Nếu nó nhất định đến thì phải có ai đó chuẩn bị con đường từ trước. Bốn chữ “phải có người” chính là toàn bộ phần chứng minh tính hợp pháp.

Mục tiêu mà Anthropic đặt ra cho chính mình là vừa tạo ra những mô hình tiên tiến nhất, vừa nghiên cứu cách hiểu và kiểm soát chúng, rồi biến cả bộ phương pháp an toàn đó thành tiêu chuẩn của các công ty khác.

Dario từng chịu một lần thiệt ở OpenAI. Anh hiểu rằng chỉ đứng ở rìa của lĩnh vực công nghệ để nói về an toàn, cuối cùng thường chỉ có thể đưa ra vài lời khuyên cho những người thực sự nắm trong tay mô hình. Dù lời lẽ có hay đến đâu thì cũng chỉ là đứng trên bờ, dạy người ở dưới nước cách bơi.

Phải tự xuống nước.

Điều đó khiến Anthropic từ ngày đầu thành lập đã trông rất “lệch pha”. Muốn biết mô hình mạnh nhất nguy hiểm gì thì trước hết phải có mô hình mạnh nhất; muốn ảnh hưởng tới quản lý thì trước hết phải có vị thế trong ngành.

Thế rồi Anthropic nhanh chóng cuốn vào vòng lặp mà mọi công ty mô hình lớn ở tuyến đầu đều không tránh khỏi: gọi vốn, mua năng lực tính toán, huấn luyện mô hình, phát hành sản phẩm, giành khách hàng; rồi lại dùng doanh thu và định giá mới để lấy thêm năng lực tính toán.

Dario nói rằng việc làm công ty lớn hơn là đang bảo vệ thế giới. Các nhà đầu tư cũng sẵn lòng tin rằng đầu tư vào Anthropic là đặt cược vào một công ty AI có trách nhiệm hơn.

Sự tinh tế của cách nói này nằm ở chỗ: anh càng kiếm được tiền thì càng trông có vẻ đạo đức; định giá công ty càng cao thì “bằng chứng rằng anh bảo vệ thế giới” càng dày.

Lợi ích thương mại và sứ mệnh văn minh nâng đỡ nhau.

Phần “hướng đi”, do Dario đưa ra. Anh viết bài dài, nói về văn minh, về khoa học, và về tương lai của loài người. Còn những phán đoán lớn lao đó được hiện thực hóa là em gái anh—Daniela: quản lý việc tuyển người, xây dựng đội nhóm, và tìm tiền.

Điểm xuất phát của công ty là một phán đoán vĩ đại gần như không thể bị bác bỏ bằng chứng:

AI mạnh mẽ sắp đến rồi, và thế giới cần một công ty đáng tin hơn, đứng ở tuyến đầu.

“Đáng tin hơn”—đó là lời mà công ty tự nói.

Kiểu kể chuyện như vậy mang lại cho Anthropic sức gắn kết rất mạnh. Người tham gia không chỉ tìm một công việc lương cao hơn. Họ tin rằng mình đang làm việc có liên quan tới việc lớn của cả nền văn minh nhân loại.

Trạng thái đáng sợ nhất của một công ty là khi nhân viên thật sự tin rằng mình đang cứu nhân loại. Bởi từ khoảnh khắc đó, mọi đợt mở rộng kinh doanh tự động biến thành thánh chiến; mọi tiếng phản đối tự động biến thành phản bội con người.

Trong vài năm đầu khởi nghiệp, Anthropic muốn chứng minh rằng một công ty AI có thể cẩn trọng hơn người khác, và cũng có trách nhiệm hơn. Mong muốn đó có lẽ thật sự là chân thành.

Nhưng lòng chân thành không bao giờ đảm bảo đúng. Người chân thành làm sai thường còn rắc rối hơn kẻ giả dối, vì họ không bao giờ dừng lại để tự hỏi:

“Trách nhiệm” rốt cuộc có nghĩa là gì?

Một công ty tư nhân thì vì sao lại được phép quyết định thay cho cả thế giới?

Thước đo

Huấn luyện các mô hình lớn thời kỳ đầu thường dựa vào rất nhiều người gắn nhãn của con người để đánh giá câu trả lời. Câu trả lời nào tốt hơn, nội dung nào có hại, liệu mô hình có nên từ chối hay không—đều phải do con người phán quyết trước, rồi những ưu tiên đó mới được đưa trở lại cho máy móc.

Cách đó hiệu quả nhưng cồng kềnh. Người gắn nhãn đến từ nhiều nơi, giá trị cũng khác nhau. Dù viết quy tắc thật chi tiết thì cũng không thể bao quát mọi trường hợp.

Anthropic đã nghĩ ra một cách khác: thay vì để con người lặp đi lặp lại hướng dẫn mô hình cách trả lời từng câu hỏi, hãy giao cho nó trước một bộ nguyên tắc. Năm 2022, Anthropic đề xuất “AI kiểu hiến pháp”. Cách làm đại khái là: trước tiên để mô hình tạo ra câu trả lời, rồi cho nó bám theo một loạt nguyên tắc được viết sẵn để tự soi ra những lỗi trong câu trả lời, phát hiện vấn đề và sau đó sửa lại.

Bộ “hiến pháp” ấy càng viết càng dài. Nó phải hiểu quyền lực, hiểu lợi ích xung đột, hiểu thế nào là chín chắn, thế nào là trí tuệ. Thậm chí nó còn phải nghĩ xem bản thân có danh phận nào, hoàn cảnh ra sao, phúc lợi thế nào—đừng biến mình thành một công cụ đơn thuần không có giá trị nội tại.

Thứ mà nó đang định hình là một kiểu nhân cách.

Trong hiến pháp của mình, Anthropic viết rằng tài liệu này trực tiếp định hình hành vi của Claude—thể hiện quan niệm của công ty về các giá trị và tính cách của Claude, cũng là “thẩm quyền tối hậu” để hiểu Claude nên hành động như thế nào. Trong lịch sử, những người quản lý kiểu việc này có giáo hội, có hoàng đế, có chính đảng. Bây giờ thì đó là một công ty tư nhân.

Nhưng khi tác động của một mô hình lớn lên thế giới không còn chỉ là một lần “tiêu dùng”, thì Claude từ chối điều gì, khuyến khích điều gì, mô tả một quốc gia, một cuộc chiến hay một chế độ chính trị như thế nào—đều sẽ ảnh hưởng đến các sản phẩm đi sau, trở thành một phần cách người khác hiểu về thế giới.

Anthropic vẫn đưa ra quyết định theo kiểu của một công ty, nhưng tác động mà quyết định đó tạo ra ngày càng giống một hệ thống thể chế công cộng—song lại không phải chịu bất kỳ sự giám sát nào của thể chế công cộng.

Sau khi viết xong “hiến pháp” cho mô hình, Anthropic lại bắt đầu thiết kế “luật giao thông” cho ngành. Năm 2023, công ty ra mắt “Chính sách Mở rộng Có Trách nhiệm”. Một mô hình chỉ biết viết email và một mô hình có thể thiết kế vũ khí sinh học, phát động các cuộc tấn công mạng phức tạp—rõ ràng không thể quản bằng cùng một cách. Vì vậy, Anthropic phân loại mô hình theo các mức độ rủi ro khác nhau. Năng lực càng mạnh thì tai họa có thể gây ra càng lớn; công ty càng phải áp đặt các biện pháp an toàn nghiêm ngặt hơn.

Một công ty tư nhân, nhưng cùng lúc diễn nhiều vai. Công ty tạo ra mô hình; mô hình tạo ra xong thì chính nó đo xem mô hình đó nguy hiểm đến mức nào; nguy hiểm đến đâu thì chính nó đặt ra tiêu chuẩn; đến bước nào thì phải dừng cũng do nó vẽ ra ranh giới. Cuối cùng, nó lại cầm theo bộ kết quả đó đi nói với cơ quan quản lý nên đặt ra quy định như thế nào.

Vừa làm vận động viên, vừa làm trọng tài.

Anthropic hiển nhiên cũng nghĩ tới điều đó. Để công ty không bị lợi ích thương mại nuốt trọn về sau, Anthropic lại thiết kế một quỹ tín thác lợi ích dài hạn. Quỹ này gồm một số thành viên bên ngoài, không trực tiếp nắm giữ lợi ích kinh tế của công ty, nhằm đảm bảo rằng ngoài việc nhận lợi nhuận cho cổ đông, Anthropic còn phải nghĩ tới lợi ích dài hạn của nhân loại. Theo thiết kế ban đầu, quỹ sẽ dần dần nắm quyền bổ nhiệm và bãi nhiệm đa số thành viên hội đồng quản trị; khi công ty đi lệch khỏi sứ mệnh thì quỹ sẽ đạp phanh dừng lại.

Xét từ góc độ quản trị công ty, cách sắp xếp như vậy là cực kỳ hiếm. Đa số công ty khởi nghiệp khi gọi vốn đều bận rộn chứng minh với nhà đầu tư rằng mình sẽ tăng trưởng với tốc độ cao. Còn Anthropic lại làm ngược lại: họ dựng một cấu trúc để phòng việc các nhà đầu tư và ban quản lý trong tương lai vì kiếm tiền mà ném bỏ những cam kết về an toàn sang một bên.

Không thể nói mấy cái đó chỉ là diễn cho có. Anthropic quả thực nghiêm túc hơn phần lớn các công ty công nghệ trong việc nghĩ về vấn đề “quyền lực”, và cũng sẵn sàng tự chuốc lấy rắc rối. Nhưng suốt từ đầu đến cuối, họ nghiêm túc suy nghĩ về cách sử dụng quyền lực ấy cho tốt, chứ không phải là có cần quyền lực đó hay không.

Một công ty mang sẵn “sứ mệnh” ngay từ lúc sinh ra thì sẽ không bao giờ hỏi “tôi tồn tại vì điều gì”. Nó chỉ hỏi “làm sao để tồn tại tốt hơn”.

Nó không trả lời “ai đã trao quyền cho anh?”, nó chỉ là tuyên giảng rằng một khi quyền lực đã nằm trong tay, thì anh dự định làm một người tốt như thế nào.

Đến bước này, Dario không chỉ còn đang điều hành một công ty. Quan niệm về an toàn của anh đang thấm vào “tính cách” của mô hình, thấm vào chính sách công. Tiếp theo, anh bắt đầu nói về việc nước nào nên là nước nắm được AI mạnh trước; loại thể chế chính trị nào xứng đáng được bảo vệ; thứ tự để toàn thế giới có được trí tuệ là do ai quyết định.

Mỹ giành được tương lai trước

Năm 2024, Dario Amodei viết (Machines of Loving Grace).

Cái tên này lấy từ một bài thơ. Năm 1967, nhà thơ Richard Brautigan viết tại Viện công nghệ California (All Watched Over by Machines of Loving Grace):

Một bài thơ nói về sự hòa giải giữa máy móc và vạn vật. Anh mượn tiêu đề, viết ra một trong những lời tiên tri công nghệ lạc quan nhất trong lịch sử loài người.

AI mạnh sẽ trở thành một đội nghiên cứu gồm vô số nhà khoa học hàng đầu, ngày đêm không ngừng đọc bài báo, thiết kế thí nghiệm, dồn tiến bộ khoa học của hàng chục năm vào chỉ vài năm. Ung thư, bệnh truyền nhiễm, bệnh di truyền—có thể được chinh phục trên quy mô lớn. Con người có lẽ thật sự hiểu được trầm cảm, lo âu và nghiện hình thành như thế nào. Tuổi thọ có thể tăng, các nước nghèo có thể bỏ qua giai đoạn công nghiệp hóa.

Anh đưa ra một phán đoán cực kỳ táo bạo: nếu AI mạnh phát triển suôn sẻ, thì những tiến bộ y sinh trong tương lai 50 đến 100 năm có thể được hoàn thành trong vòng 5 đến 10 năm.

Khó mà không nghĩ đến người cha của anh.

Con trai anh đã chờ bảy năm—đợi đến khi một loại thuốc mới được phê duyệt, có thể cứu người khác, nhưng đã không thể cứu được anh. Anh mong rằng những người ở phía sau sẽ không phải chờ nữa.

Trong thế giới lý tưởng của anh, anh thật sự tin rằng công nghệ này có thể giảm bệnh tật, đau khổ và cái chết. Anh thậm chí bàn riêng về cách đảm bảo lợi ích của AI không chỉ rơi vào tay các quốc gia giàu có. Anh muốn AI giúp phát triển cho “phía Nam toàn cầu”, để phần lợi từ công nghệ vươn phủ rộng nhất có thể tới toàn thế giới.

Nhưng khi anh bắt đầu nói về con đường dẫn tới tương lai đó thì mọi thứ không còn “tất cả đều giống nhau” nữa.

Anh tin rằng khi AI mạnh mẽ xuất hiện, quốc gia phải nắm lấy lợi thế. Lợi thế đó không thể chỉ là sản phẩm của một công ty tốt hơn đôi chút, hay trên bảng xếp hạng lấy thêm vài điểm. Nó phải nằm ở chip, năng lực tính toán, năng lượng, chuỗi cung ứng, sức mạnh quân sự và các liên minh quốc tế.

Mỹ và các đồng minh của mình phải có được nhiều bán dẫn tiên tiến hơn, xây dựng các trung tâm dữ liệu quy mô lớn hơn, đồng thời chặn các đối thủ cạnh tranh chiến lược, không cho họ lấy những chip cần để huấn luyện các mô hình mạnh nhất. Khi AI mạnh thực sự đến, còn phải mượn nó để mở rộng lợi thế quân sự và kinh tế, tạo ra một vị thế mà nước khác khó có thể lay chuyển.

Mãi đến sau đó, phần chia sẻ mới đến lượt.

Thuốc cần được phân phối, còn chip thì phải bị chặn lại. Lời hứa của anh “để người ở phía sau không phải chờ nữa”—bản thực chất là “để những người đủ điều kiện không phải chờ nữa”. Còn ai đủ điều kiện, thì anh nói là do anh quyết.

Anh thậm chí dùng cụm “năm 1991 vĩnh hằng” để miêu tả trạng thái ấy. Năm 1991, Liên Xô tan rã, Chiến tranh Lạnh kết thúc, Mỹ và các đồng minh có được ưu thế áp đảo. Anh mong AI mạnh có thể tạo ra một khoảnh khắc lịch sử như thế nữa.

Xin lưu ý giá trị của phép so sánh này. Một công nghệ tự xưng sẽ mang lại lợi ích cho toàn nhân loại, bản thiết kế lý tưởng lại là một trong những cuộc thống trị đơn cực triệt để nhất trong lịch sử loài người.

Bốn chữ “thiên hạ là của chung” viết rất đẹp. Chỉ có điều “thiên hạ” thuộc về Mỹ, còn “là của chung” lại thuộc về Anthropic.

Sau đó DeepSeek xuất hiện. Các công ty Trung Quốc, với nguồn lực tương đối hữu hạn, đã huấn luyện được các mô hình có tính cạnh tranh. Theo cách nhìn của Dario, điều này chứng minh rằng Trung Quốc có những nhà nghiên cứu và năng lực kỹ thuật xuất sắc. Nếu một lần nữa họ có đủ chip tiên tiến, các công ty Trung Quốc có thể huấn luyện ra những mô hình mạnh nhất trên thế giới.

Vậy nên càng không thể đưa chip cho nó.

Đối thủ càng mạnh thì càng chứng minh việc phong tỏa là đúng; đối thủ chứng minh năng lực của mình, ngược lại lại trở thành lý do để tiếp tục bị phong tỏa. Lô-gic này lúc nào cũng xuôi được, vì nó là một vòng khép kín.

Anh chia tương lai thành hai loại. Một là thế giới lưỡng cực: hai bên đều có thể huấn luyện các mô hình cực mạnh, cuộc đua trí tuệ biến thành một cuộc Chiến tranh Lạnh mới. Hai là thế giới đơn cực: Mỹ và các đồng minh nắm giữ phần lớn năng lực tính toán tiên tiến; phương Tây tận dụng những năm dẫn đầu để tạo ra ưu thế về công nghệ, kinh tế và quân sự, rồi cố định ưu thế đó lại.

Rõ ràng anh lại trông chờ kiểu tương lai thứ hai hơn. Điều gì đem lại lợi ích cho con người, điều gì không còn phải chờ đợi, thứ gì khiến máy móc và vạn vật hòa giải—trước “cực đơn vĩnh hằng”—tất cả đều chỉ là lời dẫn.

Anh từng công khai phản đối một kiểu kể chuyện. Anh nói anh không thích người sáng lập các công ty AI mô tả mình như các “tiên tri” dẫn dắt loài người tới sự cứu rỗi, và anh cũng cảnh giác rằng một số doanh nghiệp lợi dụng ưu thế công nghệ để đơn phương định hình tương lai của tất cả mọi người.

Anh phản đối kiểu “tiên tri”. Nhưng việc anh làm và những gì một “tiên tri” làm—là cùng một chuyện.

Anh nhìn thấy mọi nguy hiểm—trừ chính bản thân mình

Lại đưa thời gian trở về tháng 1 năm 2026—(giai đoạn “tuổi trẻ trưởng thành” của công nghệ).

Trong bài viết này, Dario Amodei gần như tự viết ra toàn bộ những lời chỉ trích mà bên ngoài dành cho anh và Anthropic ngay từ trước.

Anh thừa nhận rằng các công ty AI tuyến đầu đang nắm giữ một quyền lực mà trong lịch sử rất hiếm khi một doanh nghiệp tư nhân nắm được. Anh còn dám thọc thủng lớp kính, nói rằng công ty AI có thể dùng sản phẩm để ảnh hưởng tới thái độ chính trị của người dùng, thậm chí “tẩy não” người dùng. Anh kêu gọi công chúng phải chăm chăm theo dõi các công ty AI, và chính phủ cũng phải đề phòng các công ty này xích lại quá gần quyền lực nhà nước.

Anh cũng lo rằng AI sẽ làm của cải và quyền lực chính trị bị siết lại nhiều hơn vào tay một số ít. Khi chỉ vài công ty nắm giữ trí tuệ, của cải và thông tin, tác động của người dân bình thường lên kinh tế và chính phủ sẽ từng chút một suy yếu.

Những nguy hiểm đó, anh đều nhìn thấy. Viết rất rõ ràng, viết rất đúng chỗ. Rất ít người đứng ở trung tâm quyền lực lại chịu thẳng thắn nói rằng vị trí của mình nguy hiểm đến mức nào.

Chính vì viết quá hay nên buộc phải hỏi: rồi sao nữa?

Mỗi lần anh đưa ra một cách giải, cuối cùng cũng sẽ quay lại đúng một hướng. Đi theo cách giải của anh đến cùng thì Anthropic lúc nào cũng giành được thêm quyền lực so với trước. Mô hình càng nguy hiểm càng cần Anthropic ở tuyến đầu; chính phủ càng không hiểu công nghệ thì càng phải dựa vào phán đoán của Anthropic; công chúng càng dễ bị mô hình ảnh hưởng thì Anthropic càng phải thay mô hình viết cho gọn bộ giá trị; một quốc gia khác càng không đáng tin thì Mỹ và các công ty AI của nó càng phải nắm nhiều chip và năng lực tính toán hơn.

Anh thừa nhận rằng trong mỗi lần đổ bệnh, anh đều kê cùng một đơn thuốc—Anthropic.

Anh tin rằng bản thân mình thật sự tin một cách chân thành: công nghệ này nguy hiểm đến mức không thể tùy tiện giao cho bất cứ ai. Anh cũng tin rằng mình còn nhìn rõ nguy hiểm đó sớm hơn đa số người khác.

Người chân thành đôi khi là người tự lừa mình sớm nhất. Đặc biệt khi lợi ích của việc lừa mình lại quá lớn.

Anh dường như thật lòng tin rằng công nghệ này nguy hiểm đến mức không thể tùy tiện giao cho bất cứ ai. Và anh cũng thật lòng tin rằng mình nhìn rõ nguy hiểm đó sớm hơn đa số người khác.

Hai câu nói này đặt cạnh nhau thì thành một bộ “ủy quyền tự thân” hoàn chỉnh. Anh chưa bao giờ cần tuyên bố rằng mình phải làm người giám hộ cho nhân loại. Anh chỉ cần liên tục loại bỏ những người mà anh cho là không đủ đáng tin: thị trường không được, công chúng không được, các quốc gia theo thể chế chuyên quyền không được, các công ty khác cũng không đủ cẩn trọng. Đến khi mọi người đều bị loại sạch, thì người phù hợp nhất để nắm tay vô lăng—vừa khéo lại chính là Anthropic.

Điểm kết của phương pháp loại trừ, luôn là chính anh.

Anh không tin bất kỳ ai có đủ tư cách để thay con người quyết định tương lai.

Vậy nên anh quyết định tự làm.

Công ty tư nhân cuối cùng

Ngày 14 tháng 8 năm 2026, một câu nói bật ra từ một tập podcast.

“Trong nội bộ Anthropic, họ rất tự tin. Nhiều người mà tôi tin tưởng đã nói với tôi rằng Dario đã từng nói: một ngày nào đó, Anthropic có thể trở thành công ty tư nhân duy nhất trên thế giới.”

Người nói điều này tên là Gavin Baker—một quản lý quỹ phòng hộ, từng đầu tư vào SpaceX. Anh ấy bổ sung thêm một câu: trong viễn cảnh đó, chỉ có Anthropic—và chính phủ các nước—sẽ hiện diện. Chỉ vậy thôi.

Trong vòng một ngày, câu nói đó lan truyền trên mạng xã hội.

Cựu cố vấn AI của Nhà Trắng kiêm cố vấn các vấn đề tiền mã hóa, đồng thời là Chủ tịch đồng thời của Ủy ban Cố vấn Khoa học và Công nghệ của Tổng thống—David Sacks—nói: “Quá kiêu ngạo. Ngạo mạn đến mức có chút giống SBF.”

Chiều hôm sau, Dario đăng lên X hai bài viết dài để phản hồi.

Phần đầu tiên nói về giám sát. Anh nói: “Hoặc tập trung, hoặc phân tán” là một lựa chọn giả; thể chế thật sự tốt sẽ chính là phi tập trung hóa quyền lực:

“Hệ thống tòa án chính thức đôi khi có vẻ cứng nhắc, mang tinh thần thượng đẳng, nhưng nó bảo vệ người yếu tốt hơn so với một lựa chọn khác—tư pháp kiểu đám đông. Trong trường hợp tốt nhất, thể chế có thể trao quyền lực cho các ý tưởng chứ không phải cho con người.”

Bài thứ hai nói về truyền tải thông tin. Anh nói: cảm xúc tiêu cực của công chúng đối với AI là một cuộc khủng hoảng niềm tin. Sau đó, anh viết đoạn nặng ký nhất trong hai bài viết dài đó:

“Tính đến hiện tại, tôi cho rằng lời phê bình chính xác nhất dành cho các công ty AI—bao gồm cả Anthropic—là chúng ta vẫn chưa thực hiện lời hứa lớn lao rằng thế giới sẽ được hưởng lợi. Hoàn toàn là lỗi của chúng ta.”

“Cách thực sự hiệu quả là chữa khỏi ung thư thật sự.”

Hai bài viết dài đó không có câu nào trả lời tích cực cho lời đồn. Anh dùng một câu hỏi thật, để né tránh một câu hỏi thật khác.

Anh nói cần phải chữa khỏi ung thư thật sự. Ý anh là dùng AI để thúc đẩy toàn bộ tiến bộ y học, để thuốc mới ra đời nhanh đủ—nhanh hơn bất kỳ căn bệnh nào.

Đây là lời dành cho một người đã chết năm 2006. Người ấy chờ một lọ thuốc, chờ rất lâu, nhưng không chờ được.

Từ đó về sau, anh tin rằng chậm là tội. Một người tin chậm là tội thì sẽ coi “nhanh” là liều thuốc giải duy nhất. Thuốc giải là thứ tốt. Chỉ có điều anh muốn mọi người tin rằng thuốc giải chỉ có mình anh bào chế.

Năm 1986, nhà văn người Anh Alan Moore xuất bản một bộ truyện tranh tên là (Người canh gác), sau đó được chuyển thể thành phim. Trong phim có một người tên Adrian Veidt, người ta gọi là “Vua Pharaoh”, tự xưng là người thông minh nhất toàn thế giới.

Anh nhìn thấy thảm họa đến sớm hơn tất cả mọi người. Chiến tranh hạt nhân, ngày tận thế, con người tự hủy diệt mình. Anh đã chuẩn bị cho điều đó suốt nửa đời. Rồi anh hiểu ra rằng chỉ cảnh báo thôi thì không có ích.

Thế rồi anh tự tay châm ngòi cho thảm họa đó. Trong một đêm, vài thành phố bị xóa khỏi bản đồ.

Anh cho rằng chỉ khi để con người tận mắt thấy cảnh hủy diệt, hai siêu cường mới chịu dừng tay, thì thế giới mới có thể hòa bình từ đây.

Anh vừa là kẻ gây án, vừa là “vị cứu tinh” mà chính anh tự xác định cho mình.

Ở đoạn kết của câu chuyện, mọi thứ diễn ra đúng như ý anh. Anh hỏi vị “tiến sĩ Manhattan” màu xanh—gần như toàn tri:

“Kết cục? Adrian, không có gì kết thúc. Mọi thứ sẽ không bao giờ kết thúc.”

Liên kết gốc