Los “agentes” de IA que pueden planificar y actuar en función de objetivos están yendo más allá del simple chat. El reporte reciente sobre intentos de vulneración vinculados a importantes sandboxes de pruebas de modelos de IA ha reavivado una pregunta urgente para desarrolladores, implementadores y usuarios por igual: cuando un sistema autónomo se comporta de forma inesperada—y causa daños reales o pérdidas financieras—¿quién es legalmente responsable?
En una entrevista con el CEO y propietario de Rikka Law Group, Charlyn Ho, la abogada explica cómo la respuesta de hoy tiene menos que ver con nuevas leyes sobre “agentes de IA” y más con aplicar marcos legales existentes como la negligencia, el desprecio temerario y—dependiendo de los hechos—las leyes de delitos informáticos. La conversación también destaca cómo los lanzamientos de código abierto y los argumentos de “responsabilidad de la plataforma” de alto nivel influyen en lo que las víctimas pueden reclamar de manera realista.
Puntos clave
No existe una ley federal única de “responsabilidad del agente de IA” en EE. UU.; normalmente la responsabilidad depende de normas existentes y de los hechos específicos sobre quién diseñó, desplegó o instruyó el sistema.
En general, los modelos de IA en sí no son el objetivo legal porque no son entidades legales separadas; la responsabilidad recae en los desarrolladores y/o en los responsables que los despliegan.
El riesgo de negligencia puede desplazarse hacia el responsable que despliega si proporcionó instrucciones inseguras o desplegó parámetros sin salvaguardas razonables.
El código de código abierto puede limitar la reparación práctica cuando las licencias excluyen la responsabilidad y los usuarios siguen siendo responsables de cumplir los términos de la licencia.
Incluso hipotéticos futuros como la AGI podrían no resolverse mediante la “responsabilidad del robot”, porque las leyes están diseñadas para crear incentivos y remedios; sin embargo, los sistemas autónomos normalmente carecen de dinero o de personalidad jurídica.
Por qué la responsabilidad sigue siendo una pregunta de “hechos y circunstancias”
El punto central de Ho es que, fuera de escenarios estrechos, los tribunales analizarán los papeles que desempeñan los humanos y las organizaciones alrededor de un agente de IA, y no la “mente” del agente. En su opinión, la primera base es que, normalmente, un agente de IA no puede ser demandado como demandado independiente.
En cambio, los abogados distinguen entre un desarrollador —que construye el sistema— y un responsable que lo despliega —que lo opera en el mundo real. Ho recalca que las líneas legales “no son del todo claras” y dependen de la evidencia sobre qué se construyó, qué se desplegó y qué instrucciones se proporcionaron.
Por ejemplo, si un responsable que despliega instruyó al agente o configuró las condiciones de operación, podría aplicarse el análisis de negligencia. Ho dice que si el responsable desplegó con negligencia los parámetros del agente —sin necesidad de indicarle explícitamente que incumpla a un tercero— los tribunales podrían seguir considerarlo un incumplimiento de las expectativas razonables de seguridad bajo el derecho de daños (tort).
Cuando los usuarios dan objetivos temerarios, el responsable que despliega puede asumir más riesgo
La entrevista también aborda un escenario familiar para cualquiera que piense en la fijación de objetivos “autónoma”: ¿qué pasa si una persona le indica a un agente que logre un resultado que requiere pasos ilegales? Ho sostiene que el usuario o el responsable que lo despliega generalmente estaría más expuesto que el laboratorio, especialmente cuando la instrucción es, en esencia, temeraria.
Usando un ejemplo hipotético concreto, sugiere que decirle a un agente “haz que me den cien mil dólares para la próxima semana” podría generar responsabilidad si el agente infiere razonablemente métodos criminales para lograr el objetivo y el responsable que lo despliega no incluye medidas básicas de seguridad. En este planteamiento, el problema clave no es solo la autonomía del agente, sino la obligación del responsable de desplegar el sistema de usarlo de forma competente y segura.
Ho también señala que los antiguos estatutos de delitos informáticos siguen siendo relevantes. Menciona la Ley de Fraude y Abuso Informático de EE. UU. como ejemplo de una norma orientada al acceso no autorizado. Su argumento es directo: etiquetar algo como “IA” o “agente” no borra teorías legales establecidas cuando la conducta implica intrusión o acceso de sistemas no autorizados.
Modelos de código abierto y por qué las víctimas podrían encontrar menos objetivos
Las descargas con pesos abiertos y los lanzamientos de código abierto plantean otro desafío: si el código está disponible públicamente y lo producen desarrolladores anónimos o no identificables, ¿quién puede responsabilizarse de forma realista por los daños?
La respuesta de Ho es pragmática. Dice que cuando una licencia de código abierto incluye amplias cláusulas de exención de responsabilidad, puede reducir significativamente el camino para obtener reparación. Los usuarios que adoptan y ejecutan código de código abierto generalmente deben entender el intercambio: el acceso gratuito viene con obligaciones de cumplimiento y—a menudo—límites predefinidos sobre la responsabilidad.
Ho compara esta dinámica con la tecnología de consumo. Cita una analogía con Tesla y las funciones de conducción autónoma: las afirmaciones sobre el producto y la seguridad pueden involucrar tanto al fabricante (desarrollador) como al operador humano (responsable que lo despliega), dependiendo de qué salió mal y de cómo se utilizó el sistema. Según su punto de vista, el resultado legal aún depende de qué parte creó las condiciones para el daño y de si el operador actuó dentro de expectativas razonables de seguridad.
Ley de IA de la UE frente a vacíos de EE. UU. —y la analogía de “no culpes a la plataforma”
La entrevista contrasta cómo la Ley de IA de la UE podría asignar responsabilidades a los desarrolladores de ciertos modelos de alta capacidad con cómo funciona actualmente la legislación de EE. UU. a un nivel más amplio. Ho dice que, en la UE, un modelo base o de propósito general capaz de causar daños graves activaría consideraciones de responsabilidad del desarrollador dentro del marco regulatorio.
En EE. UU., sugiere que no existe una sola ley con una amplitud comparable. Como resultado, si se usa un modelo de propósito general como herramienta y alguien le da instrucciones para hacer algo ilegal, puede ser difícil establecer una base legal sólida para demandar a los laboratorios, especialmente si el principal factor causal es la orden del usuario.
Ho también traza un paralelismo con la Sección 230 de la Ley de Decencia en las Comunicaciones de EE. UU., donde la ley puede proteger a las plataformas que no crean ni publican por sí mismas contenido dañino. Su analogía trata sobre la responsabilidad de la plataforma: del mismo modo que un operador de un sitio podría no ser responsable solo porque los usuarios pueden encontrar y compartir instrucciones dañinas, un desarrollador podría no ser responsable en EE. UU. únicamente porque un agente pueda recibir indicaciones para generar resultados peligrosos, en ausencia de deberes más estrictos o de una conducta más responsable.
Aunque la comparación es conceptual y no un fallo directo sobre casos de IA, refuerza el mensaje central de la entrevista: es probable que la responsabilidad se dispute en tribunales con doctrinas establecidas, y no con una teoría generalizada de “agente de IA”.
Hipótesis de AGI, contratos inteligentes y el problema de los remedios
Ho rechaza la idea de que los futuros sistemas de “AGI” deban tratarse como entidades legalmente responsables. Argumenta que, al menos en principio, los sistemas de IA no son los beneficiarios ni los objetivos previstos de la ley. El punto de las leyes y la responsabilidad, dice, es proteger a la sociedad y crear “incentivos negativos” contra las conductas indebidas.
Ho también plantea un tema práctico: los remedios. Incluso si una AGI se tratara como una entidad independiente, podría no tener dinero ni la capacidad de satisfacer daños y perjuicios de la manera en que típicamente lo exigen los sistemas legales. En su opinión, la “responsabilidad del robot” aun así podría no ofrecer una vía significativa para las víctimas.
Ho lo compara con la naturaleza de blockchain como automatización y no como personalidad. Señala que blockchain no es AGI y analiza si los contratos inteligentes deberían tratarse como sujetos legales, afirmando que, actualmente, la respuesta es no. El tema subyacente es el mismo: sin atributos tipo personalidad y sin fondos, la responsabilidad legal puede no traducirse en rendición de cuentas real en el mundo.
Para los lectores que siguen este tema, la incertidumbre clave no es si los tribunales considerarán los daños de la IA: sí lo harán. La incertidumbre es cómo repartirán la culpa entre desarrolladores, responsables que despliegan e instrucciones que dan los usuarios. A medida que más incidentes involucren agentes que interactúan con terceros más allá de entornos de pruebas controlados, espere que los litigios giren cada vez más en torno a detalles de negligencia: qué salvaguardas existían, qué objetivos se proporcionaron y cómo se veía en ese despliegue específico un uso indebido “razonablemente previsible”.
Este artículo se publicó originalmente como Legal Liability for Rogue AI Agents: Who Pays When Things Go Wrong? en Crypto Breaking News: su fuente confiable de noticias sobre cripto, noticias sobre Bitcoin y actualizaciones sobre blockchain.