El nuevo Marco de Integridad de Agentes define la categoría para la gobernanza de la IA autónoma en la empresa y cumplimiento del comportamiento de los agentes a escala

• Tras la adquisición de Acuvity por parte de Proofpoint, se ofrece esta última solución de seguridad de IA construida sobre una verificación continua y basada en intenciones, asegurando la IA a través de endpoints, navegadores y conexiones de agentes MCP.
• El primer Marco de Integridad de Agentes de la industria se trata de un modelo de madurez de cinco fases, que proporciona a los CISOs una hoja de ruta clara y escalonada para poner en práctica la gobernanza de la IA, desde el descubrimiento hasta la aplicación en tiempo de ejecución.
• Proofpoint se establece como una plataforma de ciberseguridad líder del mercado en protección de personas, defensa de datos y gobernanza de IA conjuntamente en el entorno actual de trabajo agéntico.

Proofpoint, Inc., empresa líder en ciberseguridad y cumplimiento normativo, ha anunciado Proofpoint AI Security, la solución de seguridad más reciente de la industria que combina detección basada en intenciones, puntos de control multisuperficie y un marco de implementación integral para proteger la manera en que los humanos y los agentes de IA utilizan la IA en toda la empresa. Basándose en el primer Marco de Integridad de Agentes de la industria, que define cómo opera un agente de IA con integridad, Proofpoint introduce un modelo de madurez de cinco fases para la implementación, desde el descubrimiento inicial hasta la aplicación en tiempo de ejecución.

A medida que las organizaciones implementan rápidamente agentes de IA autónomos para navegar por la web, acceder a sistemas internos, enviar correos electrónicos, ejecutar código y orquestar flujos de trabajo, riesgos como la escalada de privilegios agéntica y los ataques de inyección de prompt de cero clics se están convirtiendo en amenazas reales. Una sola solicitud de IA puede desencadenar docenas de acciones autónomas en múltiples sistemas, a menudo a la velocidad de la máquina y sin supervisión humana. Las herramientas de seguridad existentes pueden ver el tráfico y los permisos, pero no evalúan si el comportamiento de la IA se alinea con la intención original del usuario. Una investigación de Acuvity, adquirida recientemente por Proofpoint, indica que un 70% de las organizaciones carece de una gobernanza de IA optimizada, y un 50% prevé pérdidas de datos relacionados con la IA en los próximos 12 meses, lo que subraya la necesidad urgente de asegurar los entornos de IA agéntica.

“La IA está ahora integrada en la forma en que se realiza el trabajo, y la seguridad debe evolucionar con ella”, declara Sumit Dhawan, CEO de Proofpoint. “Los humanos y los agentes de IA comparten riesgos similares: ambos pueden ser manipulados y realizar acciones que se desvían del propósito previsto. Sin embargo, la seguridad tradicional nunca se diseñó para validar la intención. Proofpoint se posiciona de manera única como una plataforma de ciberseguridad unificada, construida para proteger a las personas, defender los datos y gobernar los agentes de IA conjuntamente, proporcionando una verificación continua y basada en la intención, que garantiza que el comportamiento se alinea con la política y la intención en el espacio de trabajo agéntico”.

Modelos de detección basados en intención en todas las interacciones de IA

Las herramientas de seguridad tradicionales no tienen visibilidad del contenido semántico de las interacciones de la IA, que es donde a menudo reside el riesgo. Pueden ver el tráfico, las identidades o los permisos, pero no son capaces de determinar si las acciones de una IA son apropiadas en el contexto o si se alinean con la intención del usuario o del agente.

Proofpoint AI Security cierra esta brecha aplicando modelos de detección basados en la intención, evaluando continuamente si el comportamiento de la IA, iniciado por un humano o un agente autónomo, se alinea con la solicitud original, las políticas definidas y el propósito previsto. Al analizar el contexto semántico completo de las interacciones de la IA, la solución señala acciones desalineadas o de alto riesgo en tiempo real, antes de que ocurra el daño, como comunicación no conforme o pérdida de datos.

Protección contra todo el espectro de riesgos de la IA autónoma

Ofrecida a través de una arquitectura unificada para el espacio de trabajo agéntico, Proofpoint AI Security opera en todas las superficies donde se utiliza la IA, que incluyen endpoints, extensiones de navegador y conexiones MCP, brindando a las organizaciones la visibilidad y el control necesarios sobre el uso y los riesgos de la IA. Esto es particularmente crítico en entornos de desarrollo, en los que los asistentes de codificación conectados a agentes, los plugins y las herramientas integradas en MCP están acelerando la adopción y aumentando la necesidad de visibilidad y aplicación de políticas.

A través de estos puntos de control, las organizaciones pueden:

• Descubrir herramientas de IA autorizadas y no autorizadas, como OpenClaw, Ollama, ChatGPT y servidores MCP utilizados por humanos y agentes.
• Observar prompts, respuestas y flujos de datos durante el uso de herramientas de IA.
• Aplicar controles de acceso y barreras de protección en el uso de la IA.
• Implementar una inspección en tiempo de ejecución y aplicar políticas durante las interacciones de IA en vivo.

Ruta estructurada para implementación con el Marco de Integridad de Agentes y el primer modelo de madurez de IA del mercado

Para proporcionar a las empresas una hoja de ruta estructurada para gobernar la IA de forma segura, Proofpoint presenta también el Marco de Integridad de Agentes, una guía completa que define lo que significa para un agente de IA operar con integridad y proporciona un modelo de madurez de cinco fases para la implementación, desde el descubrimiento inicial hasta la aplicación en tiempo de ejecución.

El marco define la Integridad del Agente como la garantía de que un agente de IA opera dentro de los límites de su propósito previsto, permisos autorizados y comportamiento esperado, en cada interacción, llamada a herramienta y acceso a datos. Delinea cinco pilares: alineación de intenciones, identidad y atribución, consistencia del comportamiento, auditabilidad y transparencia operacional, para ayudar a los clientes a poner en práctica la gobernanza de la IA sin necesidad de reestructurar su arquitectura de seguridad existente.

“De los humanos se espera que operen con integridad al usar sistemas empresariales, y los agentes de IA deben someterse al mismo estándar”, apunta Ryan Kalember, vicepresidente ejecutivo de estrategia de ciberseguridad en Proofpoint. “La Integridad del Agente significa asegurar que los agentes de IA actúen dentro de los límites de su propósito previsto, permisos autorizados y comportamiento esperado en cada interacción, llamada a herramienta y acceso a datos. Con Proofpoint AI Security y el Marco de Integridad de Agentes, podemos proporcionar un plan claro para ayudar a las empresas a abordar de forma integral todo el espectro de riesgos que surgen cuando los agentes de IA operan autónomamente en los sistemas empresariales”.

Proofpoint AI Security ya está disponible en todos los mercados globales. Para obtener más información, visita: https://www.proofpoint.com/us/platform/ai-security. 

Accede al Marco de Integridad de Agentes en: https://acuvity.ai/the-agent-integrity-framework-and-maturity-model. 

Lee el blog de Proofpoint: https://www.proofpoint.com/us/blog/corporate-news/intent-design-security-autonomous-ai.

###

Acerca de Proofpoint, Inc. 

Proofpoint, Inc. es líder mundial en ciberseguridad centrada en las personas y los agentes, y protege la forma en que las personas, los datos y los agentes IA se conectan a través del correo electrónico, la nube y las herramientas de colaboración. Proofpoint es un partner de confianza para más de 80 de las empresas de la lista Fortune 100, para más de 10.000 grandes empresas y para millones de organizaciones más pequeñas a la hora de detener amenazas, prevenir la pérdida de datos y crear resiliencia entre las personas y los flujos de trabajo de IA. La plataforma de colaboración y seguridad de datos de Proofpoint ayuda a organizaciones de todos los tamaños a proteger y ayudar a su personal, al tiempo que adoptan la IA de forma segura y con confianza. Más información en www.proofpoint.com.

Conecta con Proofpoint: LinkedIn

Proofpoint es una marca registrada o nombre comercial de Proofpoint, Inc. en los Estados Unidos y/o en otros países. Todas las demás marcas comerciales mencionadas en este documento son propiedad de sus respectivos titulares.