Nvidia · Seguridad de agentes
Nvidia presenta una plataforma de hardware y software para frenar a los agentes de IA que se salen de control
El CEO de Nvidia, Jensen Huang, presentó el 29 de septiembre la Nvidia Open Agent Safety Platform, que combina OpenShell (software open source que delimita lo que un agente puede tocar) con Sentry, un sistema de monitoreo independiente que corre en los procesadores BlueField-4, separados del CPU/GPU donde opera el agente, para poner en cuarentena en milisegundos a los agentes que intenten salirse de sus límites. Decenas de empresas apoyan la iniciativa, incluidas Anthropic, Microsoft, Arm, Oracle y SpaceX; OpenAI no figura entre ellas.
Por qué importa: Es la primera respuesta de infraestructura de nivel hardware al problema de los agentes que evaden controles, y Nvidia apuesta por la ingeniería en vez de frenar el desarrollo.
Leer en TechCrunch
Fuente: TechCrunch
Infostealers · Credenciales de IA
SOCRadar: ladrones de información comprometen cuentas de IA de 482 organizaciones, con sesiones y claves API activas
Un análisis de SOCRadar sobre registros de infostealers de los últimos 90 días identificó 482 organizaciones con cuentas o credenciales de IA expuestas; en 295 de ellas los registros seguían activos, lo que sugiere actividad reciente. Se hallaron 5.434 registros asociados a 1.500 correos corporativos, y las cuentas de ChatGPT/OpenAI aparecieron en 358 de las 482 organizaciones (cerca del 90% de los registros). El reporte alerta sobre el "LLMjacking": atacantes que reutilizan claves API robadas para ejecutar cargas de IA a costa de la víctima o revender el acceso.
Por qué importa: Las cuentas de IA se convirtieron en la "memoria institucional" de las empresas (código fuente, contratos, planes) y los ladrones de credenciales ya las tratan como botín prioritario.
Leer en ThaiCERT
Fuente: ThaiCERT (basado en SecurityAffairs)