Lavonda Fusillo

Nvidia lanza una plataforma abierta para hacer que los agentes de IA sean más seguros.

Los agentes de IA están yendo más allá de responder preguntas. Ahora pueden navegar por la web, acceder a sistemas, tomar decisiones e incluso controlar máquinas.

Eso también crea un nuevo problema: ¿cómo mantienes a un agente de IA bajo control cuando en realidad puede tomar medidas?

Nvidia $NVDA.US ha lanzado la Nvidia Open Agent Safety Platform, una plataforma abierta diseñada para ayudar a las empresas a probar, supervisar y asegurar agentes de IA antes y después del despliegue.

Más de 100 empresas y organizaciones se están sumando al esfuerzo en áreas como IA, nube, ciberseguridad y robótica.

La idea es construir controles de seguridad alrededor de los agentes de IA durante todo su ciclo de vida, en lugar de esperar a que algo salga mal.

El momento es significativo, ya que Nvidia también amplió su autorización de recompra de acciones en 150.000 millones de dólares, elevando el total a 235.000 millones.

A medida que los agentes de IA obtienen más libertad para actuar de forma independiente, ¿deberían los controles de seguridad volverse igual de importantes que los propios modelos de IA?

#Nvidia #AIAgents #TechNews #CryptoNews