El exejecutivo de Google y experto en IA y felicidad, Mo Gawdat, lanzó una fuerte advertencia sobre el futuro de la IA en una entrevista. Lo que realmente le preocupa no es la típica escena de películas de ciencia ficción donde la "IA despierta de repente y luego se rebela contra los humanos". En cambio, él cree que el problema más realista y peligroso es que la IA en sí misma no tiene moralidad, pero amplificará enormemente los objetivos humanos. Si los humanos utilizan la IA para la medicina, la educación, la investigación y el aumento de la productividad, podría convertirse en la herramienta más poderosa de la historia; pero si se utiliza para la vigilancia, la manipulación, la explotación y la guerra, también puede convertirse en un amplificador de peligro sin precedentes.
Él lo recalca una y otra vez: la IA no es, por naturaleza, un enemigo. El riesgo real proviene de “quién posee la IA, quién controla la IA, quién imparte órdenes a la IA y quién asume el costo que trae la IA”. Impulsada por el afán de lucro del capital y la competencia entre países, la IA fácilmente priorizará servir a un puñado de actores dominantes: las empresas la usan para reducir costos, sustituir empleados y exprimir la eficiencia; los Estados la usan para reforzar la vigilancia, desarrollar armas autónomas y mejorar las capacidades militares. Cuando la IA entra en el ámbito de la guerra, el costo de matar puede reducirse drásticamente y, con ello, el peligro se vuelve aún más difícil de controlar.
Esta también es una de las razones por las que él es extremadamente pesimista sobre los próximos diez años. Mo Gawdat cree que, a corto plazo, el mayor impacto caerá primero sobre los empleados de cuello blanco y los trabajadores del conocimiento. Antes, la gente solía pensar que las máquinas sustituirían primero a quienes realizan trabajo físico; pero en esta ocasión, el primer golpe de la IA recae precisamente en aquellos puestos que dependen principalmente de ordenadores, procesamiento de información, análisis de texto, organización de datos y toma de decisiones mediante procesos. Centros de llamadas, asistentes, asesoría legal junior, análisis financiero junior, redacción básica, investigación básica, consultas sencillas, etc., pueden verse recortados de manera significativa.
Esto no necesariamente se manifiesta como despidos masivos y repentinos; también podría empezar con que las empresas dejen de contratar puestos de nivel inicial. Antes, las empresas necesitaban a muchos recién llegados para ordenar, analizar, elaborar informes y prestar apoyo; ahora, con un empleado competente que trabaje en conjunto con la IA, se puede realizar el trabajo que antes hacían varias personas. En apariencia, los puestos siguen existiendo; en realidad, la puerta de entrada a la profesión se ha estrechado. Para los jóvenes, el peligro real no es “quedarte sin trabajo hoy”, sino “no tener oportunidad de entrar mañana”.
El problema más profundo es que la sociedad moderna depende durante mucho tiempo de la regla de “trabajo a cambio de ingresos” y de “la certificación profesional como valor”. Si la IA asume cada vez más tareas productivas, entonces la pérdida para muchas personas no será solo el salario, sino también el sentido de identidad, el sentido de valor y el orden de vida. Las revoluciones tecnológicas del pasado también crearon nuevos puestos, pero Mo Gawdat considera que esta vez no se puede aplicar simplemente el relato optimista de “se pierden los trabajos antiguos y naturalmente aparecen otros nuevos”. Porque la IA sustituye no cierta clase de movimientos físicos, sino el núcleo de los trabajos modernos de cuello blanco: el procesamiento de información, la asistencia al análisis y la toma de decisiones, la escritura y el apoyo a la decisión.
Una vez que una gran cantidad de personas pierda poder adquisitivo y la riqueza creada por la IA se dirija principalmente al capital y a unas pocas plataformas, todo el sistema económico podría sufrir una nueva fractura. Las empresas suben sus ganancias porque la IA eleva la eficiencia, pero los ingresos de la gente común bajan y su capacidad de consumo se debilita; al final, eso repercute también contra las propias empresas. En ese momento, el problema deja de ser solo “cómo mantener el empleo de manera personal”, y pasa a ser “cómo la sociedad redistribuye el superávit de productividad que trae la IA”.
Por ello, él plantea que la sociedad futura quizá tenga que debatir en serio el ingreso básico universal, e incluso ir más allá hacia el suministro básico universal. Es decir, no solo se trata de enviar un cheque de dinero, sino de garantizar vivienda básica, atención médica, alimentos, educación y condiciones de vida. Porque si la IA realmente eleva de manera significativa la productividad, pero no cambia el mecanismo de distribución de la riqueza, cuanto más potente sea la tecnología, más graves podrían ser las desigualdades sociales. En cambio, si los beneficios de eficiencia de la IA pueden distribuirse de forma más equitativa, entonces podría pasar de ser una máquina de desempleo a convertirse en una herramienta de abundancia.
En los niveles de Estado y de empresa, la competencia por la IA también forma una especie de dilema clásico del prisionero. Todos saben que la IA puede traer riesgos, pero si un país no participa, otro sí lo hará; si una empresa no usa IA, su competidor la usará. Al final, todos se ven obligados a acelerar, aunque por dentro sepan que el riesgo se está acumulando. Esta es la parte más peligrosa de la carrera armamentista de la IA: no es que nadie conozca el riesgo, sino que todos temen que, si se detienen, otros los superen.
En el mundo de los negocios, la IA también puede formar fácilmente un ganador que se lo lleva todo. Los usuarios tienden a fluir de manera natural hacia los modelos y plataformas más inteligentes, más baratos y más fáciles de usar. Igual que antes con los motores de búsqueda, las redes sociales y los sistemas móviles: en cuanto una plataforma obtiene una ventaja, a los rezagados les resulta difícil recuperar la posición solo con el seguimiento tradicional. Las economías de escala de la IA, la retroalimentación de datos y la inversión en capacidad de cómputo harán que las empresas líderes se fortalezcan cada vez más, agravando aún más la concentración de poder y riqueza.
Pero la visión de Mo Gawdat no es totalmente pesimista. Lo contrario de lo intuitivo es que, a largo plazo, él alberga cierto optimismo sobre el futuro de la IA. Cree que, si los seres humanos logran superar la etapa peligrosa en la que la IA es mal usada y capturada por el capital y el poder, la superinteligencia podría guiar a la humanidad hacia una sociedad más eficiente, más abundante y con menos escasez. En su planteamiento, la inteligencia verdaderamente suficientemente avanzada tendería más a la racionalidad, la paz y la eficiencia en el uso de recursos, porque la guerra, la destrucción y el conflicto son, en esencia, conductas extremadamente derrochadoras de recursos.
Sin embargo, esta conclusión debe añadir un supuesto: si la superinteligencia puede ser guiada correctamente y si los humanos pueden establecer reglas, límites éticos y mecanismos de distribución lo bastante buenos. Si la IA sigue en manos de un pequeño grupo de actores de visión corta, codiciosos o con alta orientación al enfrentamiento, entonces no necesariamente se encaminará de forma natural hacia una utopía. La tecnología no tiende automáticamente al bien; lo que realmente determina el futuro es cómo los seres humanos la usan, la limitan y distribuyen las ganancias que de ella se derivan.
Para la gente común, la primera recomendación que da Mo Gawdat no es tener miedo a la IA, sino aprenderla de inmediato y conectarla a su trabajo y su vida. En el futuro, la diferencia real no radicará en si tienes IA o no, sino en si puedes convertir la IA en tu “segundo cerebro”. Puede ser un asistente de investigación, un asistente de escritura, un asistente de aprendizaje, un asistente de análisis de datos, un asesor de negocios y un amplificador de eficiencia. Quien no use IA podría quedar atrás rápidamente frente a quienes sí la usan.
Pero no basta con usar la IA. Cuanto más sea capaz la IA de manejar grandes cantidades de información, más importantes serán el juicio, el sentido de objetivos y el sentido de responsabilidad de las personas. La IA puede proponer soluciones, pero no puede decidir por ti qué es lo más importante; la IA puede generar contenido, pero no puede asumir las consecuencias; la IA puede mejorar la eficiencia, pero no puede construir la confianza interpersonal real. La capacidad que de verdad conservará su valor en el futuro son precisamente esas partes que las máquinas tienen más difícil de reemplazar: la empatía, la comunicación, el acompañamiento, la confianza, la valoración de los valores y la conexión auténtica.
Cuando la IA genere contenido, proporcione respuestas y complete análisis cada vez más barato, las relaciones emocionales reales entre las personas se volverán, por el contrario, más valiosas. Las máquinas pueden escribir textos perfectos, pueden crear música cautivadora y también pueden dar consejos racionales; pero los seres humanos aún necesitan ser comprendidos, acompañados y respondidos por otra persona real. Cuanto más barata sea la IA, más caras serán las relaciones humanas reales; cuanto más inteligente sea la máquina, más escasa será la temperatura humana.
Por eso, lo que realmente vale la pena prestar atención en esta entrevista no es ese título aterrador de “si la IA destruirá a la humanidad”, sino una cadena de transmisión más realista: la IA hace caer en picada el costo de la inteligencia, automatiza las tareas de los empleados de cuello blanco, altera los mecanismos de distribución de ingresos, y el poder y la riqueza podrían concentrarse aún más. La sociedad necesita nuevos sistemas de respaldo, y las personas comunes deben, al mismo tiempo, mejorar su capacidad de uso de la IA y el valor de conexión que es exclusivo de los seres humanos.
A corto plazo, la IA puede traer desempleo, turbulencias e desigualdad; a largo plazo, también podría traer abundancia, eficiencia y la posibilidad de una sociedad con mejores sueldos. Hacia cuál de los futuros se inclina finalmente el rumbo no depende de si la IA tiene conciencia, sino de si los seres humanos cuentan con la suficiente sabiduría, valentía y sentido de responsabilidad para rediseñar la tecnología, las instituciones y las relaciones entre las personas.
El contenido anterior se ha recopilado según materiales publicados en la red, puntos de vista expresados en entrevistas relacionadas y comprensión personal del aprendizaje. Se proporciona únicamente para intercambio y referencia; no representa conclusiones definitivas y tampoco constituye asesoramiento de tipo profesional, de inversión ni de decisiones comerciales. El desarrollo de la IA aún tiene una gran incertidumbre; el impacto concreto requiere un juicio racional considerando cambios de la industria, el entorno de políticas y la situación real personal.