Nvidia presentó este lunes una nueva plataforma abierta de ciberseguridad diseñada para supervisar a los agentes autónomos de inteligencia artificial y evitar que operen fuera del control establecido por sus desarrolladores. La iniciativa busca responder a los nuevos desafíos relacionados con sistemas de IA capaces de realizar tareas de manera autónoma.
La plataforma, denominada Nvidia Open Agent Safety Platform, integra las tecnologías OpenShell y Sentry y cuenta con el respaldo inicial de más de un centenar de empresas y organizaciones. Entre sus socios se encuentran Microsoft, JPMorgan Chase, Perplexity y Accenture.
OpenShell funciona como un entorno que aísla a los agentes de IA y limita los permisos que pueden utilizar, mientras que Sentry incorpora una capa de monitoreo continuo para detectar comportamientos que superen los límites establecidos. Según Nvidia, estas herramientas pueden intervenir y poner en cuarentena a un agente cuando sea necesario.
La presentación se produce en un momento de creciente atención sobre la seguridad de los agentes autónomos y su capacidad para interactuar con sistemas y redes. Con esta plataforma, Nvidia busca impulsar mecanismos de supervisión que permitan continuar desarrollando estas tecnologías mientras se incorporan mayores controles de seguridad.
