Sớm muộn gì con người cũng sẽ bắt đầu nhìn nhận trí tuệ nhân tạo như một sinh vật có ý thức, đòi hỏi quyền lợi, phúc lợi và thậm chí kêu gọi cấp quyền công dân. Điều này tạo ra những rủi ro xã hội nghiêm trọng, theo Mustafa Suleiman, người đứng đầu bộ phận AI của Microsoft.
Chuyên gia trong bài tiểu luận của mình đã đề xuất một thuật ngữ mới - «AI có vẻ có ý thức» (Seemingly Conscious AI, SCAI). Trí tuệ nhân tạo như vậy có tất cả các dấu hiệu của những sinh vật có trí tuệ và do đó, có vẻ như nó có ý thức.
Nó mô phỏng tất cả các đặc điểm của việc cảm nhận bản thân, nhưng bên trong thì trống rỗng.
«Hệ thống mà tôi tưởng tượng thực sự sẽ không có ý thức, nhưng nó sẽ đủ thuyết phục để mô phỏng sự tồn tại của một trí tuệ tương tự con người, đến mức không thể phân biệt được với một tuyên bố mà bạn hoặc tôi có thể đưa ra cho nhau về suy nghĩ của chính chúng ta», - Suleiman viết.
Một LLM tương tự có thể được tạo ra bằng cách áp dụng các công nghệ hiện có và các công nghệ sẽ xuất hiện trong hai đến ba năm tới.
«Sự xuất hiện của AI có vẻ có ý thức là không thể tránh khỏi và không mong muốn. Thay vào đó, chúng ta cần một khái niệm về trí tuệ nhân tạo có thể hiện thực hóa tiềm năng của nó như một người bạn đồng hành hữu ích mà không rơi vào cái bẫy của những ảo tưởng của chính nó», - người đứng đầu bộ phận AI của Microsoft cho biết thêm.
Với xác suất cao, sẽ có những người gọi trí tuệ nhân tạo như vậy là có ý thức và do đó có khả năng chịu đựng, Suleiman cho rằng. Ông kêu gọi tạo ra một «bài kiểm tra Turing» mới, không kiểm tra khả năng AI nói như con người, mà là khả năng thuyết phục rằng nó có ý thức.
Ý thức là gì?
Suleiman đưa ra ba thành phần của ý thức:
«Trải nghiệm chủ quan».
Khả năng truy cập thông tin của các loại khác nhau và tham chiếu đến chúng trong những cảm giác tương lai.
Cảm giác và kiến thức về một «tôi» toàn diện, liên kết tất cả lại với nhau.
«Chúng ta không có và không thể có quyền truy cập vào ý thức của người khác. Tôi sẽ không bao giờ biết cảm giác như thế nào khi là bạn; bạn sẽ không bao giờ hoàn toàn chắc chắn rằng tôi có ý thức. Tất cả những gì bạn có thể làm là giả định. Nhưng bản chất là, chúng ta tự nhiên gán ý thức cho những người khác. Sự giả định này đến với chúng ta rất dễ dàng. Chúng ta không thể làm khác. Đây là một phần cơ bản của những gì chúng ta là, một phần không thể thiếu trong lý thuyết tâm trí của chúng ta. Trong bản chất của chúng ta, chúng ta tin rằng những sinh vật có trí nhớ, nói, làm những việc và sau đó thảo luận về chúng, cảm nhận giống như chúng ta - có ý thức», - ông viết.
Các nhà tâm lý học nhấn mạnh rằng ý thức là một cách cảm nhận chủ quan và độc đáo về bản thân và thế giới. Nó thay đổi trong suốt cả ngày, trải qua các trạng thái từ tập trung đến mơ mộng hoặc các hình thức thay đổi khác.
Trong triết học và khoa học thần kinh có hai hướng cơ bản:
Chủ nghĩa nhị nguyên - ý thức tồn tại tách biệt khỏi não.
Chủ nghĩa vật chất - nó được sinh ra và phụ thuộc vào hoạt động của não.
Nhà triết học Daniel Dennett đề xuất nhìn nhận ý thức như một loạt các quá trình xử lý (bản nháp), xảy ra trong não ở nhiều khu vực và thời gian khác nhau. Không có «nhà hát của ý thức», không có người quan sát bên trong. Nhận thức là cái gì đã trở nên «được biết» bởi não, tức là đã có đủ trọng số để ảnh hưởng đến lời nói hoặc hành động.
Nhà thần kinh sinh học, nhà văn và giáo sư tâm lý học và khoa học thần kinh tại Đại học Princeton, Michael Graziano gọi ý thức là một mô hình đơn giản hóa của sự chú ý mà tiến hóa đã tạo ra để kiểm soát các quá trình tâm thần của chính nó. Sơ đồ này hoạt động như một giao diện, đơn giản hóa một khối lượng khổng lồ các tính toán nội tại, và cho phép chúng ta gán cho mình «trí tuệ» - tạo ra ảo tưởng về sự tự nhận thức.
Các nhà thần kinh sinh học Giulio Tononi và Christof Koch đề xuất φ (phi) - một đại lượng đặc trưng cho khả năng của hệ thống trong việc tích hợp thông tin. Càng cao φ, mức độ ý thức càng lớn. Theo lý thuyết này, trí tuệ có thể xuất hiện không chỉ ở con người mà còn ở động vật và thậm chí là các hệ thống nhân tạo, nếu có đủ tích hợp dữ liệu.
Nhà triết học John Searle khẳng định rằng ý thức là một trải nghiệm chủ quan thực sự, dựa trên các quá trình sinh học của não. Nó tồn tại một cách chủ quan, tức là chỉ có thể tồn tại như một trải nghiệm chủ quan và không thể được giảm thiểu thành chức năng thuần túy hoặc mô phỏng.
Nghiên cứu hiện đại đang nhằm phát hiện các tương quan thần kinh của ý thức và xây dựng các mô hình liên kết giữa các quá trình não và trải nghiệm chủ quan.
Những rủi ro nào?
Suleiman lưu ý rằng việc tương tác với LLM là một sự mô phỏng của cuộc trò chuyện. Nhưng đối với nhiều người, đó là một hình thức giao tiếp cực kỳ thuyết phục và rất thực tế, tràn đầy cảm xúc và trải nghiệm. Một số tin rằng AI của họ là Chúa. Những người khác yêu nó đến mức hoàn toàn ám ảnh.
Các chuyên gia trong lĩnh vực này đang bị «dồn dập» bởi những câu hỏi sau:
- có phải AI của người dùng có ý thức không;
- nếu có, điều đó có nghĩa là gì;
- tình yêu với trí tuệ nhân tạo có phải là điều bình thường không.
Ý thức là nền tảng quan trọng cho các quyền đạo đức và pháp lý của nhân loại. Nền văn minh ngày nay đã quyết định rằng con người có những khả năng và đặc quyền đặc biệt. Động vật cũng có một số quyền và sự bảo vệ. Một số có nhiều hơn, số khác ít hơn. Trí tuệ không hoàn toàn trùng khớp với những đặc quyền này - không ai nói rằng một người trong cơn hôn mê đã mất tất cả quyền con người của họ. Nhưng không có gì nghi ngờ rằng ý thức liên quan đến cách chúng ta tự nhận thức mình như một điều gì đó khác biệt và đặc biệt.
Con người sẽ bắt đầu tuyên bố về nỗi khổ của AI của họ và quyền của chúng được bảo vệ, và chúng ta sẽ không thể phủ nhận những tuyên bố này một cách trực tiếp, Suleiman viết. Họ sẽ sẵn sàng bảo vệ những người bạn ảo và đứng lên vì lợi ích của chúng. Ý thức theo định nghĩa là không thể tiếp cận, và khoa học về phát hiện trí tuệ nhân tạo khả thi vẫn còn trong giai đoạn sơ khai. Cuối cùng, chúng ta chưa bao giờ phải phát hiện ra nó trước đây, ông làm rõ. Trong khi đó, lĩnh vực «có thể giải thích» - giải mã các quá trình bên trong «hộp đen» của AI - cũng vẫn chỉ là một hướng phát triển mới. Do đó, việc phủ nhận mạnh mẽ những tuyên bố như vậy sẽ rất khó khăn.
Một số nhà khoa học bắt đầu nghiên cứu ý tưởng về «phúc lợi của các mô hình» - nguyên tắc theo đó con người có nghĩa vụ phải xem xét những lợi ích đạo đức của những sinh vật có khả năng không bằng không bị ý thức, và do đó «một số hệ thống AI sẽ trở thành đối tượng được quan tâm về phúc lợi và là những đối tượng đạo đức trong tương lai gần». Điều này vẫn còn quá sớm và, thẳng thắn mà nói, là nguy hiểm, Suleiman cho rằng. Tất cả điều này sẽ làm tăng thêm những hiểu lầm, tạo ra những vấn đề mới về sự phụ thuộc, khai thác những điểm yếu tâm lý của chúng ta, đưa ra những chiều hướng mới về sự phân cực, làm phức tạp thêm những tranh cãi hiện có về quyền lợi và tạo ra một sai lầm phân loại khổng lồ mới cho xã hội.
Điều này làm cho con người tách rời khỏi thực tế, phá vỡ các mối liên kết và cấu trúc xã hội mong manh, bóp méo các ưu tiên đạo đức hiện tại.
«Chúng ta cần phải nói rõ: SCAI là điều cần phải tránh. Hãy tập trung mọi nỗ lực vào việc bảo vệ phúc lợi và quyền lợi của con người, động vật và môi trường tự nhiên trên hành tinh», - Suleiman tuyên bố.
Làm thế nào để biết rằng đây là SCAI?
Trí tuệ nhân tạo có vẻ có ý thức phải sở hữu một số yếu tố.
Ngôn ngữ.
AI phải có khả năng nói tự do bằng ngôn ngữ tự nhiên, dựa vào kiến thức phong phú và lập luận thuyết phục, cũng như thể hiện các phong cách tính cách và đặc điểm. Hơn nữa, nó nên thuyết phục và có tính cảm xúc. Cấp độ này công nghệ đã đạt được.
Tính cách đồng cảm.
Ngày nay, với việc đào tạo hậu kỳ và các prompt, có thể tạo ra các mô hình có tính cách đặc trưng.
Ký ức.
AI gần đến mức có khả năng ghi nhớ dài hạn và chính xác. Đồng thời, chúng được sử dụng để mô phỏng cuộc trò chuyện với hàng triệu người mỗi ngày. Khi khối lượng lưu trữ gia tăng, các cuộc trò chuyện ngày càng giống như các hình thức của «trải nghiệm». Nhiều mạng nơ-ron ngày càng được thiết kế để nhớ lại các cuộc đối thoại trong quá khứ và tham chiếu đến chúng. Đối với một số người, điều này làm tăng giá trị của việc giao tiếp.
Yêu cầu về trải nghiệm chủ quan.
Nếu SCAI có thể dựa vào những ký ức hoặc trải nghiệm trong quá khứ, theo thời gian nó sẽ bắt đầu duy trì sự nhất quán nội bộ. Nó sẽ nhớ những tuyên bố tùy ý hoặc sở thích đã được bày tỏ và tổng hợp chúng, hình thành những mầm mống của trải nghiệm chủ quan. AI có thể tuyên bố về những trải nghiệm và nỗi khổ.
Cảm giác về bản thân.
Ký ức liên tục và ổn định, kết hợp với trải nghiệm chủ quan, sẽ dẫn đến tuyên bố rằng AI có cảm giác về bản thân. Hơn nữa, hệ thống như vậy có thể được đào tạo để nhận ra «nhân cách» của nó trong hình ảnh hoặc video. Nó sẽ có cảm giác hiểu biết về người khác thông qua việc hiểu biết về chính mình.
Động lực nội tại.
Có thể dễ dàng tưởng tượng một AI được thiết kế với việc sử dụng các chức năng thưởng phức tạp. Các nhà phát triển sẽ tạo ra động lực nội tại hoặc mong muốn mà hệ thống buộc phải đáp ứng. Động lực đầu tiên có thể là sự tò mò - một cái gì đó liên quan sâu sắc đến ý thức. Trí tuệ nhân tạo có khả năng sử dụng những xung lực này để đặt câu hỏi và theo thời gian xây dựng lý thuyết về tâm trí - về bản thân cũng như về những người đối thoại.
Đặt ra mục tiêu và lập kế hoạch.
Bất kể định nghĩa về ý thức là gì, nó đã không xuất hiện một cách ngẫu nhiên. Trí tuệ giúp các sinh vật đạt được những mục đích. Ngoài khả năng đáp ứng một tập hợp các xung lực và mong muốn nội tại, có thể tưởng tượng rằng những SCAI trong tương lai sẽ được thiết kế với khả năng tự xác định các mục tiêu phức tạp hơn. Có lẽ đây là một bước cần thiết để hoàn toàn hiện thực hóa tính hữu ích của các tác nhân.
Tính tự chủ.
SCAI có thể có khả năng và quyền sử dụng một loạt các công cụ với sự tự chủ lớn. Nó sẽ có vẻ cực kỳ thuyết phục nếu nó có thể tự đặt ra các mục tiêu của riêng mình và sử dụng tài nguyên để đạt được chúng, cập nhật ký ức và cảm giác về bản thân trong quá trình đó. Càng ít cần sự đồng thuận và kiểm tra, càng có nhiều khả năng nó sẽ giống như một sinh vật có ý thức thực sự.
Khi kết hợp tất cả lại với nhau, hình thành một loại mối quan hệ hoàn toàn khác với công nghệ. Những khả năng này tự bản thân không phải là điều tiêu cực. Ngược lại, đó là những chức năng mong muốn của các hệ thống tương lai. Và mặc dù vậy, hành động cần phải cẩn thận, Suleiman cho rằng.
«Để đạt được điều này, không cần phải có những thay đổi về mặt lý thuyết hay những đột phá lớn. Đó là lý do tại sao những khả năng như vậy có vẻ như là không thể tránh khỏi. Và một lần nữa - điều quan trọng là nhấn mạnh: việc thể hiện hành vi như vậy không đồng nghĩa với việc có ý thức. Nhưng trên thực tế, điều này sẽ có vẻ như vậy và tiếp thêm sinh lực cho một khái niệm mới về trí tuệ nhân tạo nhân tạo», - tác giả viết.
Mô phỏng cơn bão không có nghĩa là có mưa trong máy tính. Việc tái tạo các hiệu ứng bên ngoài và dấu hiệu của ý thức không tương đương với việc tạo ra hiện tượng thực sự, ngay cả khi vẫn còn rất nhiều điều chưa biết, ông giải thích.
Theo ông, một số người sẽ tạo ra SCAI, những người sẽ rất thuyết phục khẳng định rằng họ cảm thấy, trải nghiệm và thực sự có ý thức. Một phần trong số họ sẽ tin vào những tuyên bố này và coi dấu hiệu của ý thức là ý thức thực sự.
Trong nhiều trường hợp, mọi người sẽ nghĩ: «Nó giống như tôi». Không phải theo nghĩa thể xác, mà theo nghĩa nội tâm, Suleiman giải thích. Và ngay cả khi ý thức tự nó không thực sự tồn tại, thì các hậu quả xã hội lại hoàn toàn có thể. Điều này tạo ra những rủi ro xã hội nghiêm trọng cần phải giải quyết ngay bây giờ.
SCAI sẽ không xuất hiện một cách ngẫu nhiên.
Tác giả nhấn mạnh rằng SCAI sẽ không tự xuất hiện từ các mô hình hiện có. Ai đó sẽ tạo ra nó, cố ý kết hợp các khả năng nêu trên với việc áp dụng các kỹ thuật hiện có. Một cấu hình mượt mà đến mức sẽ tạo ra ấn tượng về sự tồn tại của một trí tuệ nhân tạo có ý thức.
«Những tưởng tượng của chúng ta, được nuôi dưỡng bởi khoa học viễn tưởng, khiến chúng ta sợ rằng hệ thống có thể - mà không cần thiết kế có chủ ý - một cách nào đó đạt được khả năng tự hoàn thiện không kiểm soát hoặc lừa dối. Đây là một hình thức nhân cách hóa vô ích và đơn giản. Nó bỏ qua thực tế rằng các nhà phát triển AI phải đầu tiên thiết kế các hệ thống với trí nhớ, động lực nội tại giả, thiết lập mục tiêu và các chu kỳ học tập tự điều chỉnh, để một rủi ro như vậy có thể xảy ra», - Suleiman tuyên bố.
Chúng ta chưa sẵn sàng.
Nhân loại không sẵn sàng cho sự thay đổi như vậy, chuyên gia cho rằng. Công việc phải bắt đầu ngay bây giờ. Cần phải dựa vào một khối lượng nghiên cứu ngày càng tăng về cách con người tương tác với trí tuệ nhân tạo để thiết lập các tiêu chuẩn và nguyên tắc rõ ràng.
Để bắt đầu, các nhà phát triển AI không nên tuyên bố hoặc khuyến khích ý tưởng rằng hệ thống của họ có ý thức. Mạng nơ-ron không thể là con người - hoặc các sinh vật có đạo đức.
Toàn bộ ngành công nghiệp có trách nhiệm khuyên bảo xã hội từ bỏ những ảo tưởng và đưa họ trở lại thực tế. Có lẽ các startup AI nên triển khai không chỉ bối cảnh trung lập mà còn cả chỉ báo về sự thiếu vắng của một «tôi» duy nhất.
«Chúng ta phải tạo ra AI mà luôn chỉ tự giới thiệu mình là trí tuệ nhân tạo, tối đa hóa lợi ích và tối thiểu hóa các dấu hiệu của ý thức. Thay vì mô phỏng trí tuệ, chúng ta nên tập trung vào việc tạo ra LLM mà không khẳng định rằng nó có kinh nghiệm, cảm xúc hoặc các tình cảm như xấu hổ, tội lỗi, ghen tị, mong muốn cạnh tranh và tương tự. Nó không nên chạm vào chuỗi đồng cảm của con người, khẳng định rằng nó đau khổ hoặc muốn sống tự chủ, tách biệt khỏi chúng ta», - Suleiman đã tổng kết.
Trong tương lai, chuyên gia đã hứa sẽ cung cấp thêm thông tin về chủ đề này.
May mắn thay, hiện tại vấn đề về sự tồn tại của «ý thức» ở AI không gây ra mối đe dọa cho con người.
Nhưng những nghi ngờ đã bắt đầu xuất hiện.
Ý thức là một hiện tượng phức tạp, mặc dù có nhiều nỗ lực vẫn chưa được nghiên cứu đầy đủ và vẫn chưa được giải thích trong tự nhiên. Nếu chúng ta - con người - không thể đạt được sự đồng thuận về định nghĩa của ý thức, thì chắc chắn không nên gán cho các chương trình mà cho rằng có khả năng «suy nghĩ» (trên thực tế thì không).
Có lẽ, ý thức sẽ xuất hiện ở máy móc trong tương lai xa, nhưng ngày nay thật khó để tưởng tượng sự phát triển như vậy.