Cựu giám đốc Google, chuyên gia về AI và hạnh phúc Mo Gawdat đã đưa ra một cảnh báo rất mạnh mẽ về tương lai của AI trong một cuộc phỏng vấn. Điều ông thực sự lo lắng không phải là cảnh tượng ‘AI đột ngột tỉnh thức và sau đó nổi loạn chống lại con người’ như trong phim khoa học viễn tưởng. Ngược lại, ông cho rằng vấn đề thực tế và nguy hiểm hơn là: AI bản thân nó không có thiện ác, nhưng nó sẽ khuếch đại mục tiêu của con người một cách đáng kể. Nếu con người sử dụng AI cho y tế, giáo dục, nghiên cứu và nâng cao năng suất, nó có thể trở thành công cụ mạnh mẽ nhất trong lịch sử; nhưng nếu con người sử dụng AI cho giám sát, thao túng, áp bức và chiến tranh, nó cũng sẽ trở thành một máy khuếch đại nguy hiểm chưa từng có.

Ông liên tục nhấn mạnh rằng AI không phải là kẻ thù tự nhiên. Rủi ro thực sự nằm ở “ai sở hữu AI, ai kiểm soát AI, ai ra lệnh cho AI, và ai sẽ gánh chịu cái giá do AI mang lại”. Dưới sự thúc đẩy của chủ nghĩa tư bản chạy theo lợi nhuận và cạnh tranh giữa các quốc gia, AI rất dễ được ưu tiên phục vụ cho một số chủ thể mạnh thế: doanh nghiệp dùng AI để giảm chi phí, thay thế nhân viên, và bóp nghẹt hiệu suất; còn nhà nước dùng AI để tăng cường giám sát, phát triển vũ khí tự chủ, và nâng cao năng lực quân sự. Khi AI bước vào lĩnh vực chiến tranh, chi phí giết chóc có thể bị hạ thấp đáng kể, và nguy hiểm cũng sẽ trở nên khó kiểm soát hơn.

Đây cũng là một trong những lý do khiến ông cực kỳ bi quan về mười năm tới. Mo Gawdat cho rằng, trong ngắn hạn, cú sốc lớn nhất sẽ xảy ra trước tiên với nhân viên văn phòng và những người làm công việc tri thức. Trước đây, người ta thường nghĩ rằng máy móc sẽ thay thế sớm nhất là lao động chân tay; nhưng lần này, AI lại tác động đầu tiên chính xác vào những vị trí chủ yếu dựa vào máy tính, xử lý thông tin, phân tích chữ viết, tổng hợp dữ liệu và ra quyết định theo quy trình. Trung tâm cuộc gọi, trợ lý, pháp vụ sơ cấp, phân tích tài chính sơ cấp, viết nội dung cơ bản, nghiên cứu cơ bản, tư vấn đơn giản… đều có thể bị cắt giảm đáng kể.

Điều này không nhất thiết phải biểu hiện dưới dạng sa thải hàng loạt ngay lập tức; cũng có thể trước hết là doanh nghiệp ngừng tuyển dụng các vị trí sơ cấp. Trước đây, công ty cần nhiều người mới để sắp xếp, phân tích, báo cáo và hỗ trợ. Giờ đây, chỉ cần một nhân viên thành thạo phối hợp với AI là có thể hoàn thành công việc mà trước đây phải do vài người đảm nhiệm. Trên bề mặt, các vị trí vẫn còn, nhưng thực chất “cửa vào nghề nghiệp” đã bị thu hẹp. Với người trẻ, mối nguy hiểm thực sự không phải là “hôm nay mất việc”, mà là “ngày mai không còn cơ hội bước vào”.

Vấn đề sâu hơn là: xã hội hiện đại vốn dĩ lâu dài dựa vào quy tắc “làm việc đổi lấy thu nhập, và giá trị nghề nghiệp gắn với chứng chỉ”. Nếu AI đảm nhận ngày càng nhiều nhiệm vụ sản xuất, thì nhiều người mất không chỉ tiền lương, mà còn là cảm giác về thân phận, giá trị và trật tự cuộc sống. Các cuộc cách mạng công nghệ trước đây cũng tạo ra việc làm mới, nhưng Mo Gawdat cho rằng lần này không thể đơn giản áp dụng câu chuyện lạc quan kiểu “việc cũ biến mất, việc mới tự nhiên xuất hiện”. Bởi AI không thay thế một loại động tác lao động chân tay nào đó, mà thay thế các công việc cốt lõi của nhân viên văn phòng hiện đại như xử lý thông tin, hỗ trợ phân tích và ra quyết định, viết lách và hỗ trợ quyết định.

Khi một lượng lớn người mất khả năng mua sắm, mà của cải do AI tạo ra lại chủ yếu chảy vào tay tư bản và một số ít nền tảng, thì toàn bộ hệ thống kinh tế có thể xuất hiện những “vết rách” mới. Doanh nghiệp tăng lợi nhuận nhờ AI nâng cao hiệu suất, nhưng thu nhập của người bình thường giảm, năng lực tiêu dùng yếu đi, rồi cuối cùng lại phản tác động lên chính doanh nghiệp. Lúc này, vấn đề không còn chỉ là “cá nhân phải làm thế nào để giữ được việc làm”, mà là “xã hội cần phân phối lại khoản lợi tức năng suất do AI mang lại như thế nào”.

Vì vậy, ông đề xuất rằng trong tương lai xã hội có thể buộc phải nghiêm túc thảo luận về thu nhập cơ bản phổ quát, thậm chí xa hơn nữa là nguồn cung cơ bản phổ quát. Nói cách khác, không chỉ phát một khoản tiền, mà còn đảm bảo nhà ở cơ bản, y tế, thực phẩm, giáo dục và điều kiện sống. Bởi nếu AI thực sự làm tăng mạnh hiệu suất sản xuất, nhưng cơ chế phân phối của cải không thay đổi, thì công nghệ càng mạnh, bất bình đẳng xã hội có thể càng nghiêm trọng; ngược lại, nếu “lợi tức hiệu suất” từ AI được phân bổ công bằng hơn, thì nó mới có thể biến từ cỗ máy gây thất nghiệp thành công cụ của sự dồi dào.

Ở cấp độ quốc gia và doanh nghiệp, cạnh tranh AI cũng hình thành một kiểu “dilemma tù nhân” điển hình. Ai cũng biết AI có thể mang rủi ro, nhưng nếu một quốc gia không tham gia, quốc gia khác sẽ tham gia; nếu một doanh nghiệp không sử dụng AI, đối thủ sẽ sử dụng. Kết cục là tất cả mọi người đều bị buộc phải tăng tốc, dù trong lòng biết rủi ro đang được tích lũy. Đây cũng là phần nguy hiểm nhất của cuộc chạy đua vũ trang AI: không phải là không ai biết rủi ro, mà là ai cũng sợ rằng nếu mình dừng lại thì sẽ bị người khác vượt mặt.

Trong thế giới kinh doanh, AI cũng rất dễ tạo ra hiệu ứng “kẻ thắng giành hết”. Người dùng sẽ tự nhiên chuyển sang mô hình và nền tảng thông minh nhất, rẻ nhất và dễ dùng nhất. Giống như trước đây với công cụ tìm kiếm, nền tảng mạng xã hội hay hệ điều hành di động: một khi một nền tảng hình thành lợi thế, những kẻ đi sau rất khó giành lại vị trí chỉ bằng cách đuổi theo theo cách thông thường. Hiệu ứng quy mô của AI, phản hồi từ dữ liệu và khoản đầu tư năng lực tính toán sẽ khiến các công ty đầu bảng ngày càng mạnh hơn, làm gia tăng hơn nữa sự tập trung quyền lực và của cải.

Nhưng quan điểm của Mo Gawdat không hề hoàn toàn bi quan. Điều ngược trực giác là ông lại nuôi một mức lạc quan nào đó về tương lai dài hạn của AI. Ông cho rằng, nếu con người có thể vượt qua giai đoạn nguy hiểm khi AI bị lạm dụng và bị tư bản lẫn quyền lực thao túng, thì trí tuệ siêu việt có thể dẫn dắt nhân loại tới một xã hội hiệu quả hơn, dồi dào hơn và ít thiếu thốn hơn. Trong hình dung của ông, trí tuệ đủ “cấp cao” thực sự sẽ có xu hướng lý trí, hòa bình và hiệu quả sử dụng tài nguyên hơn, vì chiến tranh, sự tàn phá và xung đột về bản chất là những hành động cực kỳ lãng phí tài nguyên.

Tuy nhiên, đánh giá này cần phải đặt thêm tiền đề: liệu trí tuệ siêu việt có được dẫn dắt đúng cách hay không, con người có thể xây dựng được các quy tắc, giới hạn đạo đức và cơ chế phân phối đủ tốt hay không. Nếu AI vẫn nằm trong tay một số ít chủ thể thiển cận, tham lam hoặc có tính đối đầu cao, thì nó chưa chắc sẽ tự nhiên hướng tới một không tưởng. Công nghệ không tự động hướng tới điều thiện; thứ thực sự quyết định tương lai vẫn là con người sẽ dùng nó như thế nào, ràng buộc nó ra sao và phân phối các lợi ích mà nó mang lại như thế nào.

Với người bình thường, lời khuyên đầu tiên mà Mo Gawdat đưa ra không phải là sợ AI, mà là học AI ngay lập tức, tích hợp nó vào công việc và cuộc sống của mình. Thứ thực sự tạo ra khác biệt trong tương lai không phải là bạn có AI hay không, mà là bạn có thể biến AI thành “não bộ thứ hai” của mình hay không. AI có thể trở thành trợ lý nghiên cứu, trợ lý viết lách, trợ lý học tập, trợ lý phân tích dữ liệu, cố vấn kinh doanh và bộ khuếch đại hiệu suất. Người không biết sử dụng AI có thể bị kéo giãn khoảng cách rất nhanh so với người biết dùng AI.

Nhưng chỉ dùng AI thôi là chưa đủ. Khi AI có thể xử lý lượng thông tin lớn hơn, thì năng lực phán đoán, ý thức về mục tiêu và trách nhiệm của con người lại càng quan trọng. AI có thể đưa ra phương án, nhưng không thể thay bạn quyết định điều gì là quan trọng nhất; AI có thể tạo ra nội dung, nhưng không thể thay bạn gánh chịu hậu quả; AI có thể nâng cao hiệu suất, nhưng không thể giúp bạn xây dựng niềm tin con người thật sự trong các mối quan hệ. Năng lực thực sự giữ giá trị trong tương lai chính là phần mà máy móc khó thay thế: khả năng thấu cảm, giao tiếp, đồng hành, niềm tin, phán đoán giá trị và sự kết nối thật.

Khi việc tạo nội dung, đưa ra câu trả lời và hoàn thành phân tích bằng AI ngày càng rẻ hơn, thì các mối quan hệ cảm xúc thật giữa người với người lại càng trở nên quý giá. Máy móc có thể viết ra những văn bản hoàn hảo, có thể tạo ra âm nhạc lay động, và cũng có thể đưa ra lời khuyên lý trí; nhưng con người vẫn cần một người thật khác hiểu mình, đồng hành và đáp lại. AI càng rẻ, các mối quan hệ con người thật càng đắt; máy móc càng thông minh, “nhiệt độ” của con người càng khan hiếm.

Vì vậy, điều đáng chú ý trong cuộc phỏng vấn này thực sự không phải là cái tít kinh khủng “AI có hủy diệt con người hay không”, mà là một chuỗi truyền dẫn thực tế hơn: AI làm chi phí trí tuệ giảm sâu, các công việc của nhân viên văn phòng được tự động hóa, cơ chế phân phối thu nhập bị tác động, quyền lực và của cải có thể tiếp tục tập trung hơn. Xã hội cần những thể chế “phao cứu sinh” mới, và người bình thường đồng thời phải nâng cao năng lực sử dụng AI lẫn giá trị kết nối mà con người có một cách độc nhất.

Nhìn trong ngắn hạn, AI có thể mang lại thất nghiệp, biến động và bất bình đẳng; nhìn trong dài hạn, nó cũng có thể mang lại sự dồi dào, hiệu suất và khả năng về một xã hội có lương. Rốt cuộc, tương lai sẽ đi theo hướng nào không phụ thuộc vào việc AI có ý thức hay không, mà phụ thuộc vào việc con người có đủ trí tuệ, dũng khí và ý thức trách nhiệm hay không để thiết kế lại công nghệ, thể chế và mối quan hệ giữa con người với nhau.

Nội dung trên được tổng hợp dựa trên các tài liệu công khai trên mạng, quan điểm trong các cuộc phỏng vấn liên quan và hiểu biết cá nhân, chỉ để trao đổi tham khảo. Nội dung này không đại diện cho kết luận chắc chắn, cũng không cấu thành bất kỳ lời khuyên nào về nghề nghiệp, đầu tư hay quyết định kinh doanh. Việc phát triển AI vẫn tồn tại nhiều bất định; tác động cụ thể còn cần $ xem xét một cách lý trí dựa trên thay đổi của ngành, môi trường chính sách và tình hình thực tế của mỗi cá nhân.