Garantice el uso seguro de la IA por parte de los agentes

Las empresas deben garantizar la seguridad de la IA agéntica, ya que los agentes autónomos pueden realizar acciones independientes en todos los sistemas y los sistemas de seguridad tradicionales no son capaces de verificar si dichas acciones se ajustan al objetivo inicial del agente. Estos agentes operan en entornos de correo electrónico, almacenamiento cloud, CRM, herramientas de desarrollo y bases de datos internas, a menudo a través de API directas o conexiones MCP. Esto genera rutas de acceso persistentes de las que los equipos de seguridad no siempre tienen conocimiento.

Estas son algunas de las principales razones por las que las empresas deben proteger la IA agéntica:

• Despliegue de agentes de IA no autorizados (Shadow IA): los agentes pueden crear o iniciar sesión con cuentas de usuario sin ningún control de seguridad, y se les pueden otorgar permisos amplios y de larga duración.
• Comportamientos no verificables de los agentes: incluso cuando están autorizados, los agentes pueden tomar decisiones que no guardan relación con las tareas que se les han encomendado, eludiendo así los límites establecidos.
• Ampliación de la superficie de ataque: cada herramienta, API y servidor MCP conectado a un agente se integra en la cadena de suministro de IA de la empresa.
• Requisitos normativos y de supervisión: las organizaciones deben demostrar que el comportamiento de la IA está bajo control y es auditable, a medida que evolucionan las normas de gobierno.

Los agentes de IA autónomos entrañan riesgos, ya que actúan de forma independiente en diversas aplicaciones y pueden llevar a cabo acciones que van más allá de la intención del usuario, del alcance autorizado o de los flujos de trabajo previstos. Dado que los modelos de IA agéntica razonan y funcionan siguiendo planes de varias etapas, puede resultar difícil seguir o limitar sus procesos de toma de decisiones en tiempo real.

Los principales riesgos son los siguientes:

• "Desviación" del alcance: puede ocurrir que algunos agentes realicen acciones que no guardan relación con la tarea que se les ha encomendado, aunque cumplan todos los controles de autorización.
• Vías de acceso sin supervisión: Los agentes suelen conectarse a herramientas, API y servidores MCP que generan flujos de datos ocultos y privilegios persistentes.
• Vulnerabilidades de la cadena de suministro de la IA: los servicios externos y las integraciones de terceros pueden crear nuevas superficies de ataque y nuevos riesgos relacionados con las dependencias.
• Desviación del comportamiento: con el paso del tiempo, los agentes pueden desviarse de las normas de conducta establecidas de una forma que los controles manuales de las normas no permiten detectar.
• Falta de transparencia en materia de investigación digital: sin datos de telemetría especializados, las organizaciones no pueden rastrear cómo un agente llegó a una decisión o tomó una medida.

Las empresas deben garantizar la seguridad de la IA agéntica, ya que los agentes autónomos pueden realizar acciones independientes en todos los sistemas y los sistemas de seguridad tradicionales no son capaces de verificar si dichas acciones se ajustan al objetivo inicial del agente. Estos agentes operan en entornos de correo electrónico, almacenamiento cloud, CRM, herramientas de desarrollo y bases de datos internas, a menudo a través de API directas o conexiones MCP. Esto crea rutas de acceso persistentes de las que los equipos de seguridad no siempre tienen conocimiento.

Estas son algunas de las principales razones por las que las empresas deben proteger la IA agéntica:

• Garantiza la coherencia de las intenciones: cada acción del agente puede evaluarse en relación con la solicitud inicial del usuario para evitar cualquier exceso.
• Establece una responsabilidad conductual: los equipos de seguridad pueden comprobar si los agentes han actuado dentro de los límites establecidos mediante un razonamiento por etapas.
• Refuerza la confianza en todos los despliegues: las comprobaciones periódicas de integridad permiten a las empresas desplegar más agentes sin aumentar los riesgos.
• Asegura el cumplimiento normativo: Los marcos de gobernanza exigen la trazabilidad, la explicabilidad y la auditabilidad de los sistemas autónomos.
• Soluciona las deficiencias que los sistemas de seguridad tradicionales no logran subsanar: las autorizaciones por sí solas no bastan para garantizar que las acciones realizadas por un agente se ajusten a la tarea prevista.

Las organizaciones pueden auditar las acciones de los agentes de IA recopilando datos telemétricos de extremo a extremo que permiten rastrear todo el proceso, desde la solicitud del usuario hasta el razonamiento del agente, pasando por la activación de la herramienta y el resultado final. Para que la auditoría sea eficaz, es necesario tener una visión clara de los flujos de trabajo de los agentes, las rutas de acceso a las herramientas y las conexiones MCP.

Los elementos esenciales de la auditabilidad de los agentes incluyen:

• Reconstrucción completa de la transacción: relacione cada etapa del razonamiento del agente y sus acciones con el usuario original.
• Telemetría a nivel de comportamiento: registre los procesos de toma de decisiones, las solicitudes de herramientas y los accesos a los datos en los flujos de trabajo de varias etapas y con varios agentes.
• Comparación entre la intención y la acción: compruebe si cada acción se correspondía con la tarea definida inicialmente por el usuario.
• Inspección a nivel de protocolo: supervise y controle los datos que transitan por las conexiones MCP y las API externas.
• Pistas de auditoría justificables: genere registros detallados adecuados para los controles de cumplimiento, la gestión de incidentes y las declaraciones reglamentarias.