Pronto las personas comenzarán a percibir la inteligencia artificial como un ser consciente, abogando por sus derechos, bienestar e incluso pidiendo la concesión de ciudadanía. Esto crea serios riesgos sociales, considera el jefe del departamento de IA de Microsoft, Mustafa Suleyman.
El experto en su ensayo propuso un nuevo término: 'IA aparentemente consciente' (Seemingly Conscious AI, SCAI). Esta inteligencia artificial tiene todas las características de los seres racionales y, por lo tanto, parece que tiene conciencia.
Simula todas las características de la percepción del yo, pero está vacía por dentro.
«El sistema que imagino en realidad no será consciente, pero imitará de tal manera la posesión de un pensamiento similar al humano que será indistinguible de lo que tú o yo podríamos afirmar el uno del otro sobre nuestro propio pensamiento», escribe Suleyman.
Un LLM similar puede ser creado utilizando tecnologías existentes y aquellas que aparecerán en los próximos dos o tres años.
«La aparición de IA aparentemente consciente es inevitable y no deseable. En su lugar, necesitamos un concepto de inteligencia artificial capaz de realizar su potencial como un compañero útil y que no caiga en la trampa de sus ilusiones», añadió el jefe del departamento de IA de Microsoft.
Con alta probabilidad, surgirán personas que llamarán a esta inteligencia artificial consciente y, por lo tanto, capaz de sufrir, considera Suleyman. Él aboga por crear una nueva 'prueba de Turing' que no evalúe la capacidad de la IA para hablar como un humano, sino para convencer de que tiene conciencia.
¿Qué es la conciencia?
Suleyman menciona tres componentes de la conciencia:
«Experiencia subjetiva».
La posibilidad de tener acceso a información de diferentes tipos y referirse a ella en sensaciones futuras.
Sentido y conocimientos de un 'yo' integral que conecta todo.
«No tenemos y no podemos tener acceso a la conciencia de otra persona. Nunca sabré cómo es ser tú; nunca estarás completamente seguro de que soy consciente. Todo lo que puedes hacer es suponer. Pero la esencia es que es natural para nosotros atribuir conciencia a otras personas. Esta suposición viene fácilmente. No podemos hacer otra cosa. Es una parte fundamental de lo que somos, una parte inherente de nuestra teoría de la mente. Es parte de nuestra naturaleza creer que los seres que recuerdan, hablan, hacen cosas y luego las discuten, sienten de la misma manera que nosotros — conscientes», escribe él.
Los psicólogos subrayan que la conciencia es una forma subjetiva y única de percibir uno mismo y el mundo. Cambia a lo largo del día, desplegándose a través de estados de concentración a ensueños u otras formas alteradas.
En filosofía y neurociencia hay dos direcciones básicas:
Dualismo — la conciencia existe separada del cerebro.
Materialismo — se genera y depende del funcionamiento del cerebro.
El filósofo Daniel Dennett sugiere ver la mente como una serie de reelaboraciones (borradores) que ocurren en el cerebro en múltiples regiones y momentos locales. No hay un 'teatro de la conciencia', un observador interno. La conciencia es lo que se ha 'hecho conocido' para el cerebro, es decir, ha adquirido suficiente peso para influir en el habla o las acciones.
El neurobiologo, escritor y profesor de psicología y neurociencia en la Universidad de Princeton, Michael Graziano, describe la conciencia como un modelo simplificado de atención que la evolución creó para controlar sus propios procesos mentales. Este esquema funciona como una interfaz que simplifica un enorme volumen de cálculos internos y nos permite atribuirnos un 'mente' — crea la ilusión de autoconciencia.
Los neurobiologos Giulio Tononi y Christof Koch proponen φ (fi) — una medida que caracteriza cuán capaz es un sistema de integrar información. Cuanto mayor es φ, mayor es el grado de conciencia. Según esta teoría, la mente puede manifestarse no solo en humanos, sino también en animales e incluso en sistemas artificiales, si hay suficiente integración de datos.
El filósofo John Searle sostiene que la conciencia es una experiencia subjetiva real, basada en procesos biológicos del cerebro. Es ontológicamente subjetiva, es decir, solo puede existir como experiencia subjetiva, y no puede reducirse a pura funcionalidad o simulación.
Las investigaciones modernas se centran en detectar correlatos neuronales de la conciencia y construir modelos que vinculen procesos cerebrales y experiencias subjetivas.
¿Qué riesgos?
Suleyman señala que interactuar con LLM es una simulación de conversación. Pero para muchas personas, es una comunicación extremadamente convincente y muy real, llena de sentimientos y experiencias. Algunos creen que su IA es Dios. Otros se enamoran de ella hasta la obsesión.
Los expertos en este campo están 'abrumados' con las siguientes preguntas:
-¿es consciente la IA del usuario;
-si es así, ¿qué significa eso;
-¿es normal amar a la inteligencia artificial?
La conciencia es la base crítica de los derechos morales y legales de la humanidad. La civilización actual ha decidido que los humanos tienen habilidades y privilegios especiales. Los animales también tienen ciertos derechos y protecciones. Algunos tienen más, otros menos. La mente no coincide completamente con estos privilegios: nadie dirá que una persona en coma ha perdido todos sus derechos humanos. Pero no hay duda de que la conciencia está relacionada con nuestra autopercepción como algo distinto y especial.
Las personas comenzarán a afirmar el sufrimiento de sus IAs y su derecho a protección, y no podremos refutar estas afirmaciones directamente, escribe Suleyman. Estarán dispuestos a defender a sus compañeros virtuales y actuar en su interés. La conciencia, por definición, es inaccesible, y la ciencia de la detección de posible mente sintética aún está en sus inicios. Al final, nunca antes tuvimos que detectarla, aclaró. Mientras tanto, el campo de la 'interpretabilidad' — la decodificación de procesos dentro de la 'caja negra' de la IA — también está aún en una etapa temprana. Como resultado, será muy difícil refutar tales afirmaciones de manera contundente.
Algunos científicos comienzan a investigar la idea de 'bienestar de los modelos' — un principio según el cual las personas tendrán la 'obligación de considerar los intereses morales de seres con una probabilidad no nula' de ser en esencia conscientes, y como consecuencia 'algunos sistemas de IA se convertirán en objetos de cuidado de bienestar y pacientes morales en un futuro cercano'. Esto es prematuro y, francamente, peligroso, considera Suleyman. Todo esto intensificará los malentendidos, creará nuevos problemas de dependencia, explotará nuestras vulnerabilidades psicológicas, introducirá nuevas dimensiones de polarización, complicará disputas existentes sobre derechos y creará una enorme nueva categoría de error categórico para la sociedad.
Esto aleja a las personas de la realidad, destruye los frágiles lazos y estructuras sociales, distorsiona las prioridades morales urgentes.
«Debemos dejar claro: SCAI es algo de lo que debemos evitar. Centremos todos nuestros esfuerzos en proteger el bienestar y los derechos de las personas, los animales y el medio ambiente en el planeta», declaró Suleyman.
¿Cómo saber si es SCAI?
La inteligencia artificial con apariencia de conciencia debe poseer varios factores.
Idioma.
La IA debe hablar libremente en lenguaje natural, basándose en vastos conocimientos y argumentos convincentes, así como demostrar estilos de personalidad y rasgos característicos. Además, debería ser convincente y emocional. Este nivel de tecnología ya se ha alcanzado.
Personalidad empática.
Hoy en día, con el post-entrenamiento y los prompts, se pueden crear modelos con personalidades distintivas.
Memoria.
La IA está cerca de tener una memoria larga y precisa. Al mismo tiempo, se utilizan para simular conversaciones con millones de personas todos los días. Con el aumento de la capacidad de almacenamiento, las conversaciones comienzan a parecerse cada vez más a formas de 'experiencia'. Muchas redes neuronales se diseñan cada vez más para recordar diálogos pasados y referirse a ellos. Para algunas personas, esto aumenta el valor de la comunicación.
Afirmación de experiencia subjetiva.
Si SCAI puede apoyarse en recuerdos o experiencias pasadas, con el tiempo comenzará a mantener una coherencia interna. Recordará sus afirmaciones arbitrarias o preferencias expresadas y las agregará, formando los inicios de una experiencia subjetiva. La IA podrá declarar sobre experiencias y sufrimientos.
Sentido del yo.
La memoria secuencial y persistente, combinada con la experiencia subjetiva, conducirá a la afirmación de que la IA tiene sentido del yo. Más aún, se puede entrenar a tal sistema para reconocer su 'identidad' en una imagen o en un video. Tendrá una sensación de comprensión de los demás a través de la comprensión de sí mismo.
Motivación interna.
Es fácil imaginar una IA diseñada utilizando funciones de recompensa complejas. Los desarrolladores crearán motivaciones internas o deseos que el sistema debe satisfacer. El primer estímulo podría ser la curiosidad — algo profundamente relacionado con la conciencia. La inteligencia artificial puede utilizar estos impulsos para formular preguntas y, con el tiempo, construir una teoría de la mente — tanto sobre sí misma como sobre sus interlocutores.
Formulación de objetivos y planificación.
Independientemente de la definición de conciencia, no surgió de la nada. La mente ayuda a los organismos a alcanzar sus propósitos. Además de la capacidad de satisfacer un conjunto de impulsos internos y deseos, se puede imaginar que los futuros SCAI estarán diseñados con la posibilidad de definir objetivos más complejos de manera autónoma. Probablemente, este es un paso necesario para la plena realización de la utilidad de los agentes.
Autonomía.
SCAI puede tener la capacidad y la autorización para utilizar un amplio conjunto de herramientas con gran agencia. Parecerá extremadamente plausible si puede establecer sus propios objetivos de forma arbitraria y utilizar recursos para alcanzarlos, actualizando su memoria y sentido del yo en el proceso. Cuanto menos coordinación y verificación necesite, más se parecerá a un ser consciente real.
Al unir todo, se forma un tipo completamente diferente de relación con la tecnología. Estas capacidades no son en sí mismas algo negativo. Por el contrario, son funciones deseables de los sistemas futuros. Y aun así, se debe actuar con precaución, considera Suleyman.
«Para lograr esto no se requieren ni cambios paradigmáticos ni grandes avances. Por eso tales posibilidades parecen inevitables. Y nuevamente — es importante subrayar: la demostración de tal comportamiento no equivale a la existencia de conciencia. Sin embargo, prácticamente parecerá así y alimentará un nuevo concepto de mente sintética», escribe el autor.
La simulación de una tormenta no significa que esté lloviendo en la computadora. La recreación de efectos externos y señales de conciencia no es lo mismo que la creación de un fenómeno genuino, incluso si aún quedan muchos aspectos desconocidos, explicó el jefe del departamento de IA de Microsoft.
Según él, algunas personas crearán SCAI que afirmarán de manera muy convincente que sienten, experimentan y en realidad son conscientes. Parte de ellas creerá en estas afirmaciones y tomará las señales de conciencia como la conciencia misma.
En gran medida, la gente pensará: «Se parece a mí». No en un sentido físico, sino interno, explicó Suleyman. E incluso si la conciencia en sí no será real, las consecuencias sociales lo serán. Esto crea riesgos sociales graves que deben abordarse ya.
SCAI no surgirá por casualidad
El autor subrayó que SCAI no aparecerá por sí mismo a partir de modelos existentes. Alguien lo creará, combinando intencionalmente las capacidades mencionadas anteriormente utilizando técnicas ya existentes. Surgirá una configuración tan fluida que dará la impresión de que hay inteligencia artificial con conciencia.
«Nuestras imaginaciones, alimentadas por la ciencia ficción, nos hacen temer que el sistema pueda — sin un diseño intencional — de alguna manera adquirir la capacidad de auto-mejoramiento o engaño incontrolables. Esta es una forma simplificada e inútil de antropomorfismo. Ignora el hecho de que los desarrolladores de IA deben primero diseñar sistemas con memoria, motivación interna pseudo, establecimiento de objetivos y ciclos de aprendizaje autoajustables para que tal riesgo pueda surgir en absoluto», declaró Suleyman.
No estamos listos
La humanidad no está preparada para un cambio tan drástico, considera el experto. El trabajo debe comenzar ya. Es necesario apoyarse en el creciente cúmulo de investigaciones sobre cómo las personas interactúan con la inteligencia artificial para establecer normas y principios claros.
Para empezar, los desarrolladores de IA no deben afirmar ni fomentar la idea de que sus sistemas tienen conciencia. Las redes neuronales no pueden ser personas — o seres morales.
Toda la industria tiene la obligación de disuadir a la sociedad de fantasías y devolverlas a la realidad. Probablemente, las startups de IA deberían implementar no solo un trasfondo neutral, sino también indicadores de la ausencia de un 'yo' unificado.
«Debemos crear IA que siempre se presente solo como inteligencia artificial, maximizando la utilidad y minimizando las señales de conciencia. En lugar de simular la mente, debemos centrarnos en crear LLM que no afirme tener experiencias, sentimientos o emociones como la vergüenza, la culpa, los celos, el deseo de competir y similares. No debe tocar las cadenas humanas de empatía afirmando que sufre o quiere vivir de manera autónoma, separada de nosotros», resumió Suleyman.
En el futuro, el experto prometió proporcionar más información sobre este tema.
Afortunadamente, por ahora el problema de la 'conciencia' en la IA no amenaza a la humanidad.
Pero las dudas ya comienzan a surgir.
La conciencia es un fenómeno complejo, poco estudiado y aún inexplicable en la naturaleza. Si nosotros, los humanos, no podemos llegar a un consenso sobre la definición de la conciencia, mucho menos deberíamos atribuírsela a programas que supuestamente pueden 'pensar' (en realidad, no pueden).
Probablemente, la conciencia aparecerá en las máquinas en un futuro lejano, pero hoy es difícil imaginar tal escenario.