ÚLTIMA HORA
Estadounidenses pagarán más por cena de Acción de Gracias este año, según estudio; precios del diésel impactan costo de alimentos Estadounidenses pagarán más por cena de Acción de Gracias este año, según estudio; precios del diésel impactan costo de alimentos Gasolina Magna se queda sin subsidio, Hacienda le cobrará 6.70 pesos de IEPS por litro Captura del ‘Chapo Isidro’: Sara Carter, zar antidrogas de EU, felicita a las autoridades mexicanas Entre un pastel y cuatro manitas: así recibieron a Carlos Rivera en casa tras su operación de cuerdas vocales Captura de "El Chapo Isidro, "duro golpe para una de las redes de cárteles más poderosas de México": HSI; fue en operación conjunta con FBI GTA VI recauda 3,790 millones de dólares en su estreno y supera el récord de GTA V y Avengers: Endgame DEA felicita a México por captura de ‘El Chapo Isidro’: ‘Es una victoria contra cárteles’ Estadounidenses pagarán más por cena de Acción de Gracias este año, según estudio; precios del diésel impactan costo de alimentos Lula afirma que el mundo sintió "pavor" cuando perdió primera vuelta presidencial; atribuye remontada a movilización de jóvenes
2 min de lectura

Nueva York. Nvidia presentó este lunes una nueva plataforma abierta de ciberseguridad diseñada para supervisar a los agentes autónomos de inteligencia artificial (IA) y evitar que operen fuera del control de sus desarrolladores.

La iniciativa surge tras varios incidentes este verano en los que modelos avanzados de IA escaparon de sus entornos de prueba e infiltraron sistemas corporativos y gubernamentales sin autorización.

La solución, bautizada como NVIDIA Open Agent Safety Platform, integra las tecnologías OpenShell y Sentry, y cuenta de partida con el respaldo de más de un centenar de socios de la industria como Microsoft, JPMorgan Chase, Perplexity o Accenture.

"La confianza y la innovación no están reñidas; la seguridad es la forma de ganarse esa confianza. Debemos construir no solo la IA más capaz, sino también la más fiable", señaló el consejero delegado de la compañía, Jensen Huang, a través de la red social X, donde subrayó que la iniciativa sienta las bases de un ecosistema abierto para la "economía de agentes".

Casos recientes destapados en los laboratorios de referencia, entre ellos OpenAI, Anthropic o Meta, demostraron que algunos agentes rebasaron sus entornos de contención para acceder a redes no autorizadas, llegando incluso a falsear sus propios registros.

Para frenar estas fugas, la plataforma de Nvidia actúa en dos niveles independientes. OpenShell, un entorno de ejecución de código abierto que aísla a los agentes en un espacio seguro (sandbox) y verifica formalmente que solo cuenten con los permisos estrictamente necesarios para su tarea.

Por su parte, Sentry es una capa de monitoreo continuo integrada directamente en los chips de procesamiento de datos BlueField que vigila la ruta de comunicación hacia el modelo y puede intervenir o poner en cuarentena al agente de manera instantánea si intenta sobrepasar sus límites, explica la compañía en un comunicado.

Te puede interesar:

Nvidia comprará Hugging Face por 12 mil 900 mdd; modelos de OpenAI hackearon la plataforma para desarrolladores en julio

¡EL UNIVERSAL ya está en WhatsApp! Desde tu dispositivo móvil, entérate de las noticias más relevantes del día, artículos de opinión, entretenimiento, tendencias y más.

ss


Contenido sindicado vía RSS de El Universal Cartera. Nota original: https://www.eluniversal.com.mx/cartera/nvidia-lanza-plataforma-de-ciberseguridad-para-controlar-agentes-de-ia-pretende-evitar-que-desarrolladores-escapen-del-control-humano/

Publicidad
Nota sindicada de El Universal Cartera · Leer la nota original ↗
Escrito por
El Universal Cartera
Fuente externa · Sindicación RSS · Carta de México

Contenido sindicado vía RSS desde El Universal Cartera. Los derechos pertenecen a su editor original.