es:
Español
La IA generativa ya no es un concepto futurista, sino un motor cotidiano de productividad. Desde ingenieros de software que escriben código hasta analistas financieros que sintetizan las tendencias del mercado, la IA generativa ayuda a los empleados a actuar más rápido que nunca.
Sin embargo, esta rápida adopción a menudo sobrepasa los protocolos de seguridad, lo que lleva al uso de herramientas de IA no aprobadas. Cuando los empleados utilizan estas herramientas o alimentan grandes modelos de lenguaje (LLM) públicos con datos empresariales sensibles, ponen involuntariamente en peligro a su organización. Incluso utilizando herramientas autorizadas, las empresas se enfrentan a importantes riesgos de fuga de datos internos si las autorizaciones no se controlan estrictamente. Por ejemplo, una herramienta como Microsoft Copilot podría divulgar archivos confidenciales, como carpetas de RR. HH., a cualquier colaborador debido a configuraciones incorrectas de SharePoint.
Recientemente nos reunimos con los responsables de seguridad de dos empresas de servicios financieros (una empresa de tecnología financiera de vanguardia y un fondo de cobertura, o hedge fund, de gran envergadura) para conocer cómo equilibran la búsqueda de la innovación con la urgente necesidad de garantizar la seguridad de los datos. Ambas organizaciones utilizan Proofpoint Data Security para proteger su adopción de la IA generativa.
El motor de la productividad: cómo la IA generativa está transformando el mundo de las finanzas
Para ambas empresas, la IA generativa ha pasado de la fase experimental a convertirse en una herramienta operativa básica.
En la empresa de tecnología financiera, el impacto se nota especialmente en los ámbitos de la ingeniería y la seguridad. "Nuestros desarrolladores utilizan la IA generativa para desarrollar código seguro", afirma el responsable de seguridad de la empresa. "No se limitan a escribir código, sino que investigan vulnerabilidades para reforzar nuestras aplicaciones desde la fase inicial". El equipo de seguridad incluso entrenó a Copilot con la documentación interna para resolver los problemas más rápidamente sin abrir tickets de soporte.
En el mundo de los fondos de cobertura, donde la información es la moneda principal, la IA generativa es un multiplicador de fuerza para la investigación. "Nuestros investigadores generan y validan ideas de inversión sintetizando información procedente de decenas de fuentes", explica el CISO. "Un analista financiero que antes tardaba una semana en recopilar datos, ahora puede hacerlo en un solo día. La creación de aplicaciones internas, que antes llevaba un mes, ahora solo lleva una semana gracias a la IA".
El lado oscuro: riesgos asociados a la IA generativa y a la pérdida de datos
Las herramientas que mejoran la eficiencia también crean importantes "ángulos muertos". Ambas empresas identificaron el uso de herramientas de IA no autorizadas ("Shadow AI") y la exposición de datos por parte de aplicaciones de IA autorizadas, como Copilot, como los principales riesgos para la seguridad.
"En nuestras pruebas iniciales, descubrimos que si OneDrive no está perfectamente configurado, Copilot puede exponer proyectos sensibles que debían permanecer confidenciales. También hemos descubierto 13 000 aplicaciones de terceros conectadas a nuestro inquilino de M365, incluidas aplicaciones optimizadas por IA como Alexa", precisó el responsable de seguridad de la empresa de tecnología financiera. "El riesgo de que un usuario interno negligente divulgue excesivamente datos sensibles es nuestra mayor preocupación".
El fondo de cobertura se enfrenta a un riesgo similar por parte de los proveedores con herramientas y aplicaciones basadas en la inteligencia artificial. "Observamos que la IA está integrada en todo, desde Grammarly hasta las herramientas de búsqueda en línea de comandos", añade el CISO. "Las integraciones de aplicaciones pueden extraer datos de nuestro entorno al entorno del proveedor para su procesamiento. Si los controles de acceso no son independientes y estrictos, la IA puede exponer datos que no debería exponer.
Encontrar el equilibrio adecuado entre innovación y seguridad: la solución de seguridad de datos de Proofpoint
Las dos empresas se dieron cuenta de que un rechazo total de la IA no era viable. Por lo tanto, recurrieron a Proofpoint para crear un "espacio seguro" para la innovación.
1. Visibilidad y gobierno
El fondo de cobertura ha creado un comité de supervisión de la IA, compuesto por equipos jurídicos, de TI, de seguridad y de tratamiento de datos, con el fin de examinar de manera global los riesgos relacionados con la IA. Utilizó los marcos de referencia del NIST y el OWASP para establecer la norma, pero confió en Proofpoint para que le proporcionara la visibilidad necesaria para hacer cumplir dichas normas.
2. Controles de datos adaptativos
La empresa de tecnología financiera bloqueó inicialmente las herramientas de IA públicas a nivel de la capa de red, pero rápidamente adoptó un enfoque más matizado. "Para los empleados que necesitan excepciones, utilizamos Proofpoint Endpoint DLP e ITM", afirma el responsable de seguridad. "En realidad podemos redactar datos sensibles dentro de los mensajes en tiempo real y supervisar comportamientos de riesgo utilizando capturas de pantalla".
El fondo de cobertura utiliza los servicios gestionados de Proofpoint para encargarse de la mayor parte del trabajo. Los analistas de Proofpoint remiten los incidentes de DLP al equipo interno del fondo en función de las necesidades específicas del negocio, asegurándose de que el equipo de seguridad se centre únicamente en los movimientos de datos que presentan mayor riesgo.
3. Seguridad centrada en las personas
Ambas organizaciones coinciden en que la tecnología por sí sola no es la respuesta.
- La empresa de tecnología financiera implementa Proofpoint ZenGuide para la formación en materia de seguridad, dirigiéndose específicamente a los usuarios que se benefician de excepciones para utilizar herramientas públicas de IA generativa como Gemini y Grok.
- El fondo de cobertura forma a las unidades comerciales sobre cómo sus procesos específicos se integran en los marcos de seguridad, modificando los comportamientos antes de que se conviertan en incidentes de seguridad.
En resumen: la seguridad es lo primero
Aunque las ventajas de la IA son innegables (ciclos de desarrollo más cortos, respuesta más rápida a los incidentes y estrategias de inversión más informadas), ambas empresas siguen siendo conscientes de los retos que plantea.
"La seguridad es lo primero", concluye el responsable de seguridad de la empresa de tecnología financiera. "Las aplicaciones de última generación no sirven de nada si caemos en la trampa del ransomware por haber expuesto nuestro código fuente online".
Al asociarse con Proofpoint, estas empresas líderes en servicios financieros se aseguran de que su transición a la IA generativa no sea un salto al vacío, sino un avance calculado, seguro y altamente productivo.
Más información:
¿Desea obtener más información sobre cómo proteger la IA generativa en su organización? Explore las soluciones de seguridad de datos de Proofpoint adaptadas a la IA aquí.
