Come le società di servizi finanziari proteggono l’IA generativa con la soluzione Proofpoint di sicurezza dei dati 

L'IA generativa non è più un concetto futuristico, ma un motore quotidiano di produttività. Dagli sviluppatori di software che scrivono codice agli analisti finanziari che sintetizzano le tendenze del mercato, l’IA generativa aiuta i collaboratori a lavorare più velocemente che mai. 

Tuttavia, questa rapida adozione spesso va più veloce dei protocolli di sicurezza, portando all’utilizzo di strumenti di IA non approvati. Quando i collaboratori utilizzano tali strumenti di IA non approvati o alimentanomodelli linguistici di grandi dimensioni (LLM) pubblici con dati aziendali sensibili, mettono involontariamente in pericolo le loro aziende. Anche quando utilizzano strumenti autorizzati, le aziende affrontano rischi significativi di perdita di dati interni se le autorizzazioni non vengono governate in modo rigoroso. Ad esempio, uno strumento come Microsoft Copilot potrebbe divulgare file sensibili, come  documenti delle risorse umane, a qualsiasi collaboratore a causa di errori di configurazione di SharePoint. 

Recentemente abbiamo parlato con i responsabili della sicurezza di due società di servizi finanziari - una società FinTech all'avanguardia e un fondo speculativo ad alto rischio - per discutere di come bilanciano la spinta all'innovazione con l'urgente necessità di sicurezza dei dati. Entrambe le aziende sfruttano la soluzione Proofpoint Data Security per proteggere il loro percorso con l’IA generativa. 

Il motore della produttività: come l’IA generativa  trasforma la finanza 

Per entrambe le aziende, l’IA generativa è passata dalla fase sperimentale a strumento operativo fondamentale. 

Nella società FinTech, l'impatto è più forte negli ambiti dell'ingegneria e della sicurezza. “I nostri sviluppatori utilizzano l’IA generativa per lo sviluppo di codice sicuro”, afferma il  responsabile della sicurezza dell’azienda. “Non si limitano a scrivere codice, ma conducono  ricerche sulle vulnerabilità per rafforzare le nostre applicazioni sin dalla fase iniziale”. Il team della sicurezza ha persino addestrato Copilot sulla documentazione interna per risolvere le problematiche più rapidamente senza aprire ticket di assistenza. 

Presso il fondo speculativo, dove l'informazione è la valuta principale, l’IA generativa è un moltiplicatore di forza per la ricerca. “I nostri ricercatori generano e verificano le ipotesi di investimento sintetizzando informazioni provenienti da decine di fonti”, spiega il  CISO del fondo speculativo. “Un analista finanziario che prima impiegava una settimana per raccogliere dati ora può farlo in un giorno. La creazione di applicazioni interne richiedeva un mese, ora con l'IA è sufficiente una settimana. 

Il lato oscuro: rischi legati all’IA generativa e alla perdita di dati 

Gli strumenti che favoriscono l'efficienza creano anche punti ciechi importanti. Entrambe le aziende hanno identificato l'uso di applicazioni di IA non autorizzate e l'esposizione dei dati da parte di IA autorizzate, come Copilot, come principali rischi per la sicurezza. 

“Nei nostri test iniziali, abbiamo riscontrato che, se OneDrive non viene configurato in modo ottimale, Copilot può esporre progetti sensibili che dovrebbero rimanere riservati”. Abbiamo anche trovato 13.000 applicazioni di terze parti collegate al nostro tenant M365, comprese applicazioni basate sull'IA come Alexa", ha osservato il responsabile della sicurezza della società FinTech. “Il rischio che un utente interno negligente condivida dati riservati è la nostra preoccupazione principale”. 

Il fondo speculativo affronta un rischio analogo relativo ai fornitori con applicazioni e strumenti ottimizzati all'IA. "Ci rendiamo conto che l'IA è integrata in tutto, da Grammarly agli strumenti di ricerca da riga di comando", afferma il CISO. “Le integrazioni delle applicazioni possono estrarre dati dal nostro ambiente e trasferirli nell'ambiente del fornitore per l'elaborazione. Se i controlli di accesso non sono indipendenti e rigorosi, l'IA può esporre dati che dovrebbero rimanere riservati”. 

Trovare il giusto equilibrio tra innovazione e sicurezza: la soluzione Proofpoint di sicurezza dei dati 

Entrambe le aziende si sono rese conto che un blocco totale dell'IA non era sostenibile. Si sono invece rivolte a Proofpoint per creare uno “spazio sicuro” per l'innovazione. 

1. Visibilità e governance 

Il fondo speculativo ha istituito un comitato di vigilanza dell'IA, composto dai team legali, informatici, di sicurezza e data science, per esaminare i rischi dell'IA da una prospettiva globale. Ha utilizzato i framework del NIST e dell'OWASP per definire lo standard, ma si sono affidati a Proofpoint per garantire la visibilità necessaria ad applicare tali standard. 

2. Controlli adattivi dei dati 

La società Fintech inizialmente ha bloccato gli strumenti pubblici di IA a livello di rete, ma ben presto ha adottato un approccio più articolato. “Per i collaboratori che necessitano di eccezioni, utilizziamo Proofpoint Endpoint DLP e Proofpoint ITM”, afferma il responsabile della sicurezza. “Possiamo effettivamente oscurare i dati sensibili all'interno dei prompt in tempo reale e monitorare i comportamenti a rischio utilizzando la funzionalità di acquisizione delle schermate”. 

Il fondo speculativo utilizza i servizi gestiti di Proofpoint per facilitare le attività più complesse. Gli analisti di Proofpoint inoltrano gli incidenti DLP al team interno del fondo in base a specifici requisiti aziendali, assicurando che il team della sicurezza si concentri solo sugli spostamenti di dati a più alto rischio. 

3. Sicurezza incentrata sulle persone 

Entrambe le aziende concordano sul fatto che la tecnologia da sola non sia la risposta. 

• La società Fintech sta implementando Proofpoint ZenGuide per la formazione di sensibilizzazione alla sicurezza, rivolgendosi in particolare agli utenti che ricevono deroghe per l'utilizzo di strumenti di IA generativa pubblici come Gemini e Grok. 
• Il fondo speculativo forma le sue business unit su come i loro processi specifici si inseriscono nei framework di sicurezza, modificando i comportamenti prima che si trasformino in incidenti di sicurezza. 

In sintesi: la sicurezza viene prima di tutto 

Sebbene i vantaggi dell'IA siano innegabili (cicli di sviluppo più brevi, risposta agli incidenti più rapida e strategie di investimento più informate), entrambe le aziende rimangono perfettamente consapevoli della posta in gioco. 

“La sicurezza viene prima di tutto”, conclude il responsabile della sicurezza della società FinTech. “Le applicazioni innovative non hanno valore se finiamo per cadere vittime del ransomware a causa dell'esposizione del nostro codice sorgente online”. 

Diventando partner di Proofpoint, queste importanti aziende di servizi finanziari assicurano che la loro transizione verso l’IA generativa non sia un salto nel buio, bensì un passo avanti calcolato, sicuro e altamente produttivo. 

Per saperne di più: 

Desideri saperne di più su come proteggere l’IA generativa nella tua azienda? Scopri di più sulle soluzioni Proofpoint di sicurezza dei dati pronte per l’IA qui.