Anthropic y Accenture dijeron el 18 de septiembre que invertirán 2 mil millones de dólares en la evaluación independiente de los modelos de IA de Anthropic, integrando personal de Accenture en el laboratorio para ponerlos a prueba.

Las empresas dijeron que Accenture es la primera empresa elegida para implementar la propuesta del cofundador Dario Amodei de contar con evaluadores externos dentro de los laboratorios de IA de vanguardia, en lugar de depender únicamente de la revisión interna. El acuerdo responde a la presión de reguladores, investigadores y clientes empresariales que buscan pruebas de que los modelos avanzados son fiables antes de su despliegue a gran escala.

También lee: Anthropic propone métricas para medir la velocidad de desarrollo de la IA

Incrustar al guardián de la seguridad de la IA dentro del laboratorio

En lugar de encargar auditorías externas periódicas, Anthropic colocará al personal de Accenture en las instalaciones para realizar pruebas continuas de seguridad del modelo, según CNBC. La configuración sigue el argumento de Amodei de que los laboratorios se mueven demasiado rápido para que una revisión a distancia identifique problemas antes de que los modelos se publiquen.

Dario Amodei ha abogado por lanzamientos de modelos de frontera más lentos y más escrutados a medida que las capacidades avanzan. Su remedio propuesto es poner a los evaluadores dentro del edificio en lugar de fuera, abordando un régimen de pruebas que los críticos dicen que sigue los ciclos de desarrollo del modelo y convierte la revisión en un proceso continuo en lugar de una verificación final.

Lo que Accenture obtiene de esto

Accenture no es solo un proveedor. Seeking Alpha describió el acuerdo como una asociación de gobernanza de IA a cinco años que podría posicionar a Accenture como un evaluador tercero fundamental en la industria, no solo para Anthropic. Eso le da a la empresa una base en un mercado incipiente de auditorías de IA, ya que los clientes empresariales exigen garantías de seguridad antes de adoptar herramientas generativas.

Ninguna de las dos empresas especificó cómo se dividirán los 2.000 millones de dólares entre infraestructura de evaluación, personal e investigación, según Reuters. Es posible que otros laboratorios enfrenten presión para igualar el modelo, especialmente si los reguladores tratan la evaluación integrada como una expectativa básica y no como un elemento diferenciador.

Lee a continuación: Consumidores demandan a OpenAI, Anthropic, Google y XAI por un presunto pacto