Vi que PSU y Duke publicaron un artículo sobre cómo atribuir automáticamente responsabilidades cuando tareas de sistemas multiagente fallan—dicho de forma simple: un grupo de IA se coordina para trabajar, la cosa sale mal, y al final ¿de quién es la culpa?
Mi primera reacción fue reírme. Después de escribir código durante más de diez años, lo que más me molesta es esa «investigación capa por capa» que se hace cuando ocurre algo en producción. Pues bien, ahora el equipo de IA también tiene que pasar por eso. La diferencia es que los humanos todavía pueden echar culpas usando expresiones faciales y el tono; entre agentes, solo hay registros.
Dicen que esto se considera una parte clave del ciclo de vida del desarrollo de agentes. Tiene sentido. Ahora que los sistemas multiagente se venden como si fueran lo máximo y ni siquiera existe todavía una herramienta de rendición de cuentas, ya se pone en producción; ¿no es exactamente lo que hacíamos nosotros cuando salíamos a producción sin protección?
Mi primera reacción fue reírme. Después de escribir código durante más de diez años, lo que más me molesta es esa «investigación capa por capa» que se hace cuando ocurre algo en producción. Pues bien, ahora el equipo de IA también tiene que pasar por eso. La diferencia es que los humanos todavía pueden echar culpas usando expresiones faciales y el tono; entre agentes, solo hay registros.
Dicen que esto se considera una parte clave del ciclo de vida del desarrollo de agentes. Tiene sentido. Ahora que los sistemas multiagente se venden como si fueran lo máximo y ni siquiera existe todavía una herramienta de rendición de cuentas, ya se pone en producción; ¿no es exactamente lo que hacíamos nosotros cuando salíamos a producción sin protección?