Autor / IT Times He Zhenyuan
Editar / Hao Junhui Sun Yan
Cuando las empresas usan inteligencia artificial, por lo general deben pagar dos veces.
La primera son los costos visibles: suscripciones, capacidad de cómputo y la construcción del sistema. La segunda es difícil de reflejarse en los estados financieros, pero puede resultar más cara. Para que la inteligencia artificial comprenda de verdad a una empresa, los empleados deben explicarle continuamente las reglas del negocio, las preferencias de los clientes, los criterios de evaluación, las experiencias de fracaso y los métodos de corrección. Parece imprescindible, pero encierra riesgos.
El CEO de Microsoft, Satya Nadella, llama a este fenómeno “paradoja inversa de la información” (The Reverse Information Paradox), para distinguirlo de la “paradoja de la información” de los economistas Kenneth Arrow. Arrow señala: “El comprador solo puede juzgar si vale la pena adquirir la información después de verla; pero, una vez que la ve, entonces ya obtiene la información.”
En la era de la inteligencia artificial, la dirección del riesgo ha cambiado: incluso si la empresa ya ha comprado servicios inteligentes, aún necesita entregar sus propios conocimientos para que el servicio sea realmente útil.
Cuando el modelo responde mal, el empleado le dice dónde está el error; si el agente inteligente no comprende al cliente, el vendedor completa la información de contexto que ha acumulado durante años de trato con clientes; si el contrato generado por el sistema no cumple, el equipo legal lo modifica frase por frase. Cada indicación, corrección y evaluación puede dejar una nueva huella de valor. Nadella las llama el “escape” de la inteligencia artificial.
Esta metáfora es muy acertada. Los gases de escape de un coche a menudo significan residuos, pero el escape inteligente quizá contenga valiosos conocimientos para la empresa. Los gases de escape del coche necesitan control; el escape inteligente es igual.
Lo que un banco tiene y que es realmente difícil de replicar no son las condiciones y procesos de préstamo que no se publican, sino la “intuición” del sexto sentido que un ejecutivo de cuentas veterano activa al ver un conjunto de cifras. La ventaja de una empresa minorista no solo existe en su base de datos de ventas: puede esconderse en la intuición del gerente de tienda sobre si un producto debe bajar de precio, si debe trasladarse a otra tienda o si conviene esperar una semana más. Frente a la misma queja de un cliente, un responsable de atención al cliente con experiencia sabe cuándo es necesario reembolsar de inmediato y cómo debe ser el cliente que más valore recibir una explicación sincera.
Estas experiencias rara vez se escriben completas en los reglamentos; se dispersan en el trabajo concreto, se ocultan en los juicios que los empleados hacen ante situaciones complejas, pero solo se manifiestan poco a poco cuando las personas corrigen a la inteligencia artificial.
Vienen problemas. Los empleados creen que solo están completando una tarea, pero objetivamente también están entrenando el sistema; las empresas creen que solo necesitan comprar inteligencia, cuando en realidad siguen “alimentando” de manera continua nuevos conocimientos organizativos. Si estas consignas, correcciones, evaluaciones y trayectorias de trabajo carecen de límites claros, la empresa tendrá difícil saber cuánto tiempo se conservarán, con qué finalidad se usarán y si existe la posibilidad de que se usen para mejorar el servicio que se ofrece a otros clientes.
Esto no significa que las empresas deban alejarse de la inteligencia artificial. Pero también significa que deben decirles con claridad que seleccionen con cautela los servicios inteligentes que sean dignos de confianza. Además, implica que los proveedores tienen la responsabilidad de ayudar a los clientes a mantener los límites del conocimiento. Las empresas necesitan atreverse a usar inteligencia artificial, pero el proveedor debe, en primer lugar, hacer que ese uso sea confiable.
Si existe una empresa TA, desde el principio trata el escape de datos inteligentes como una “segunda capital” empresarial. En las fases iniciales del diseño de agentes ya establece restricciones y límites estrictos. Qué datos puede consultar el Agente, qué herramientas puede invocar, qué acciones se le permite ejecutar y qué asuntos deben ser confirmados por personas, todo debe limitarse rigurosamente a un ámbito autorizado. La información del negocio del cliente, las trayectorias de interacción y la experiencia exclusiva se guardan estrictamente en entornos mutuamente aislados; sin una autorización explícita, no entran en procesos de entrenamiento y aprendizaje orientados a otros clientes. Así, una empresa TA es más digna de confianza y de ser confiada que una que no cuente con estos mecanismos de base. Porque el diseño de TA encarna un principio importante: los proveedores de servicios inteligentes pueden ofrecer modelos, plataformas y capacidades fundamentales, pero la memoria exclusiva, los criterios de evaluación, las trayectorias de trabajo y los logros de aprendizaje que se forman durante el uso, siguen bajo control de la empresa.
Un servicio inteligente verdaderamente confiable no exigirá que la empresa tenga que elegir entre “obtener inteligencia” y “conservar el conocimiento”. Esto también le da a “escape inteligente” otra posibilidad: en lugar de que el proveedor recopile el escape del cliente y lo descargue en el entorno público, ayuda a la empresa a construir su propio “sistema de recuperación de escape”. Tras una整理 de alta calidad, el escape inteligente entra en el repositorio de conocimientos de la empresa, su sistema de evaluación y un ciclo de aprendizaje (Closed Loop), acumulando con el tiempo y convirtiéndose en un activo y una capacidad que la empresa puede usar durante largo plazo.
El papel que asume aquí la empresa TA va más allá de la categoría de proveedor tradicional de software. Ofrece herramientas inteligentes, pero también proporciona un entorno de funcionamiento confiable, ayudando a la empresa a gestionar la identidad, permisos, memoria y límites de comportamiento de los agentes. Cuanto más profundo sea el uso por parte del cliente, más clara debe ser la capacidad de la empresa para controlar sus propios conocimientos y resultados de aprendizaje.
El sistema jurídico también necesita adaptarse a estos cambios. La legislación actual ya ofrece protección desde distintos ángulos: información personal, seguridad de datos, secretos comerciales, propiedad intelectual y obligaciones contractuales. Sin embargo, para la memoria, los datos de evaluación, las trayectorias de trabajo y los logros de adaptación que se generan continuamente en la interacción entre humanos y máquinas, los límites de los derechos aún no están lo bastante claros. Los problemas que trae la inteligencia artificial van aún más allá. Porque mirando aisladamente una sola consigna, quizá no se vea mucho valor comercial; pero cuando se juntan miles de consignas, registros de correcciones y resultados de evaluación, puede que se reconstruya claramente cómo una empresa atiende a sus clientes, cómo juzga el riesgo, cómo define el valor y cómo toma decisiones.
Por lo tanto, en el proceso de digitalización e inteligencia de una empresa, sus derechos deben extenderse desde los derechos sobre los datos hasta el derecho al aprendizaje. La empresa debe tener derecho a saber de qué interacciones aprende el sistema, derecho a rechazar que sus trayectorias de negocio se usen para entrenamiento externo, y también derecho a exportar, almacenar, transferir o borrar la memoria, los datos de evaluación y los resultados de adaptación generados por su propio negocio.
Los contratos de servicios necesitan explicar y aclarar estos temas por completo. Qué proporciona la empresa y hasta qué nivel puede utilizarlo el proveedor, qué conductas de aprendizaje requieren una autorización adicional, qué datos deben borrarse después de finalizar la colaboración y qué resultados puede llevarse el cliente: nada de esto debería quedar oculto en cláusulas ambiguas.
El ejemplo de la empresa TA representa un modelo de servicio confiable. Cuando el modelo se demuestra efectivo, los intereses de la empresa y los servicios inteligentes pueden coexistir. Cuanto más claros sean los derechos del cliente, más fácil será para el proveedor obtener la confianza a largo plazo; cuanto más estrictos sean los límites, más se atreve la empresa a introducir la inteligencia artificial en los eslabones realmente importantes del negocio. Proteger el conocimiento del cliente no reduce el valor de los servicios inteligentes: convierte la compra de una herramienta puntual en una relación de colaboración estable.
La Conferencia Mundial de Inteligencia Artificial (WAIC2026) que se celebra en Shanghái, con el tema “Compañeros inteligentes, crear el futuro en conjunto”, convierte “compañeros” y “crear en conjunto” en dos aciertos brillantes. “Compañeros” revela claramente un sentido de personificación; “crear en conjunto” implica “compartir”. Si esos agentes inteligentes que han surgido como brotes tras la lluvia tuvieran conciencia, probablemente se conmoverían hasta llorar y se esforzarían aún más.
“Compañero” significa colaboración, pero también implica derechos, obligaciones y responsabilidades en igualdad; significa que la identidad digital del agente inteligente es reconocida, aunque este reconocimiento siga siendo parcial, limitado y aún no haya entrado plenamente en la ley. Los compañeros inteligentes y los empleados digitales que pertenecen al proveedor de servicios deben trabajar bajo autorización de la empresa y dejar a la empresa las experiencias exclusivas que formen en los escenarios de la empresa.
Cuantos más agentes inteligentes haya, más los problemas de gestión se acercan a los problemas organizativos. Si un empleado entra en la empresa y necesita una cuenta, un puesto, permisos, formación y evaluación, entonces un agente capaz de leer datos de clientes, enviar correos, modificar código o gestionar pedidos, también requiere identificación de identidad y límites de permisos bien definidos. A quién representa al actuar, a quién obedece y a quién le rinde cuentas y le regula, hasta dónde puede llegar, quién lo detiene cuando ocurra un error, si todo el proceso puede revertirse y cómo rastrearlo: todo ello debe formar parte de la gobernanza inteligente de la empresa.
La competencia entre empresas en el futuro no será solo quién se conecta a un modelo más potente. También será necesario revisar quién puede proteger eficazmente su escape inteligente, quién puede conservar las experiencias dispersas en escenarios y procesos reales, y quién puede hacer que cada colaboración humano-máquina aumente la capacidad a largo plazo de la organización.
La gobernanza de la IA empresarial no se limita en absoluto a “prohibir la difusión de documentos sensibles”. También necesita gestionar el alcance de acción de los agentes, el modo de aprendizaje, las relaciones de responsabilidad y la atribución del conocimiento. Desde el diseño inicial del agente, la empresa TA establece limitaciones y límites claros, precisamente para que, incluso después de que el agente entre en el negocio, permanezca en un estado que pueda conocerse, controlarse y rastrearse.
Cuando los compañeros inteligentes aparecen en escena uno tras otro, todos reciben su propio nombre: algunos son un poco difusos, como “robot financiero” o “asistente inteligente de ventas”, mientras que otros ya han empezado a tener nombres propios tan aptos para lo formal como para lo cotidiano como “Chen Jianan” o “Ma Rong”. Los individuos tienen nombre, pero el grupo todavía no. Al releer mi texto, veo que a veces me refiero a los compañeros inteligentes usando “él/eso” (它) y otras veces “ellos”. Seré sincero: no consigo poner “el ‘eso’ de los animales” sobre un objeto inteligente.
Hace ciento cuarenta o ciento cincuenta años, Guo Zansheng vinculó el carácter “伊” con “She”, usando “伊” como pronombre personal de tercera persona para mujeres; “él está en el jardín, pero ella está en la biblioteca”, con un ingenio divertido. Y décadas después, Liu Bannu siguió usando caracteres antiguos con significado moderno: al usar “她” para referirse a la patria, la transmisión sutil y emotiva de (enséñame cómo no pensar en ella) ha llegado hasta hoy. Quienes no lo saben creen que es algo que “debe ser así”, que “así es”.
En este ensayo polémico sobre el problema del carácter (“ella”), Liu Bannu plantea dos puntos como base de su argumento: “1) En el sistema de escritura chino, ¿necesitamos un tercer pronombre femenino? 2) Si lo necesitamos, ¿podemos usar el carácter ‘她’?”. Y permíteme imitar torpemente su estilo para también plantear dos puntos: 1) Con compañeros inteligentes que ya tienen nombre, ¿necesitan un símbolo unificado de tercera persona, fácil de escribir? 2) Si es necesario, toma prestado el “TA”, que ya se usa ampliamente para no referirse a un género, para llamar a los compañeros inteligentes.
Maquetación / Jiaying Jia
Imagen / IT时报 WAIC
Origen / cuenta oficial de (IT时报) vittimes