La IA presta servicio a varias empresas: ¿qué garantiza que los datos no se mezclen? — La primera barrera de la IA empresarial (reproducido de un artículo de la cuenta oficial de nuestra empresa en WeChat)
Una captura de pantalla planteó una pregunta: al responder una consulta de un cliente de la empresa B sobre la renovación de un contrato, el asistente de IA de otra empresa mencionó de pasada el importe del contrato de la empresa A. La confianza de ambos clientes estuvo a punto de perderse de golpe. El problema no estaba en el modelo, sino en una barrera de aislamiento situada más arriba.
El aislamiento de la IA empresarial suele analizarse desde tres dimensiones: empresa —los hechos, archivos, pistas y entregables de cada empresa deben mantenerse independientes y organizados por separado—; espacio de trabajo —los espacios de trabajo de distintas líneas de negocio o proyectos dentro de una misma empresa deben conservar sus propios datos de trabajo y contexto—; cuenta —una misma persona suele gestionar varias empresas, y al cambiar de una a otra hay que garantizar que «la persona permanezca dentro de los límites correspondientes», en lugar de amontonar todos los datos en un único gran depósito—. Las capacidades pueden ser generales; los hechos deben pertenecer a cada empresa.
En el sector ya hay precedentes: en marzo de 2023, OpenAI reveló un incidente de ChatGPT en el que un defecto en una biblioteca cliente hizo que los títulos de conversaciones de algunos usuarios e incluso ciertos datos de pago aparecieran temporalmente en las interfaces de otras personas. En abril de 2023, varios medios informaron de que Samsung había restringido el uso de estas herramientas después de que algunos empleados pegaran código interno en herramientas de IA externas. Si los límites entre clientes se añaden a posteriori, el riesgo seguirá latente.
Antes de evaluar un sistema, hazte primero esta pregunta: ¿con qué criterio aísla los datos? Si solo los aísla por cuenta, en cuanto una misma persona gestione varias empresas, los límites empezarán a difuminarse.
Esto no constituye asesoramiento de inversión.
Una captura de pantalla planteó una pregunta: al responder una consulta de un cliente de la empresa B sobre la renovación de un contrato, el asistente de IA de otra empresa mencionó de pasada el importe del contrato de la empresa A. La confianza de ambos clientes estuvo a punto de perderse de golpe. El problema no estaba en el modelo, sino en una barrera de aislamiento situada más arriba.
El aislamiento de la IA empresarial suele analizarse desde tres dimensiones: empresa —los hechos, archivos, pistas y entregables de cada empresa deben mantenerse independientes y organizados por separado—; espacio de trabajo —los espacios de trabajo de distintas líneas de negocio o proyectos dentro de una misma empresa deben conservar sus propios datos de trabajo y contexto—; cuenta —una misma persona suele gestionar varias empresas, y al cambiar de una a otra hay que garantizar que «la persona permanezca dentro de los límites correspondientes», en lugar de amontonar todos los datos en un único gran depósito—. Las capacidades pueden ser generales; los hechos deben pertenecer a cada empresa.
En el sector ya hay precedentes: en marzo de 2023, OpenAI reveló un incidente de ChatGPT en el que un defecto en una biblioteca cliente hizo que los títulos de conversaciones de algunos usuarios e incluso ciertos datos de pago aparecieran temporalmente en las interfaces de otras personas. En abril de 2023, varios medios informaron de que Samsung había restringido el uso de estas herramientas después de que algunos empleados pegaran código interno en herramientas de IA externas. Si los límites entre clientes se añaden a posteriori, el riesgo seguirá latente.
Antes de evaluar un sistema, hazte primero esta pregunta: ¿con qué criterio aísla los datos? Si solo los aísla por cuenta, en cuanto una misma persona gestione varias empresas, los límites empezarán a difuminarse.
Esto no constituye asesoramiento de inversión.