Rischio cyber dell'AI nel cloud: minacce da valutare

Il rischio cyber dell'AI nel cloud non dipende solo dal modello: nasce da come l'azienda lo collega ad account, documenti, sistemi e persone. Quando un assistente cloud può leggere file, aggiornare cartelle o rispondere con dati interni, ogni permesso in più diventa una superficie da controllare. La domanda utile non è se l'AI cloud sia pericolosa in assoluto, ma quali dati e azioni le stiamo affidando.

Account compromessi e accessi eccessivi

Il primo vettore è banale: un account utente compromesso. Se le credenziali di un dipendente danno accesso all'assistente AI e ai documenti collegati, chi le ottiene può interrogare l'AI come se fosse quella persona. Per questo contano l'autenticazione forte, la separazione degli account e la revoca tempestiva quando qualcuno lascia un ruolo.

Il secondo è il permesso eccessivo. Un connettore attivato per comodità può raggiungere più cartelle, mailbox o database del necessario. Con il tempo nessuno ricorda perché quel permesso esiste. Conviene partire dal minimo, concedere accessi per gruppo e rivederli quando cambiano i processi. Il tema dell'accesso non riguarda solo il cloud: vale anche in locale, dove è descritto nella sicurezza dell'intelligenza artificiale aziendale.

Prompt injection e contenuti manipolati

La prompt injection sfrutta il fatto che un modello non distingue in modo affidabile istruzioni e dati. Un documento, una pagina web o un'email può contenere istruzioni nascoste che cambiano il comportamento dell'assistente, ad esempio inducendolo a rivelare informazioni o a eseguire un'azione. È un rischio tipico dei sistemi che leggono contenuti non fidati e hanno accesso a strumenti o dati sensibili.

Le contromisure sono più organizzative che magiche: limitare gli strumenti disponibili, separare lettura e scrittura, richiedere conferma umana prima di azioni rilevanti e trattare l'output come materiale da verificare. Nessun filtro elimina il problema in modo definitivo; riduce l'esposizione e la rende gestibile.

Connettori, log e data leakage

Ogni integrazione con cloud, gestionali, CRM o database amplia ciò che l'AI può vedere e toccare. Serve sapere quali dati entrano, dove vengono conservati i log delle conversazioni, per quanto tempo e chi può consultarli. Il data leakage non richiede un attacco: basta un assistente collegato a una fonte troppo ampia o un utente che incolla un documento riservato nel posto sbagliato.

Per la parte specifica dei rischi introdotti dalla dipendenza dal provider vale il quadro più ampio sulla sicurezza dei sistemi cloud. E per capire come cambia l'esposizione quando la stessa AI gira in locale leggi il confronto tra AI on-premise e cloud aziendale.

Shadow AI

Il canale più difficile da controllare è l'uso non dichiarato. Dipendenti che caricano documenti in strumenti pubblici per fare prima non stanno attaccando l'azienda: stanno risolvendo un problema senza gli strumenti giusti. Vietare senza offrire alternative spinge l'uso ancora più sotto traccia. Serve invece uno strumento autorizzato, semplice, e regole chiare su cosa può essere caricato dove.

Cosa fare, in ordine

• censire gli strumenti AI già usati e i dati che vi transitano;
• ridurre i permessi dei connettori al minimo necessario;
• definire quali azioni richiedono sempre conferma umana;
• registrare e conservare i log con criteri dichiarati;
• formare le persone su documenti, prompt e segnalazione degli errori;
• rivedere periodicamente accessi e integrazioni.

Questi controlli non rendono automaticamente sicuro un sistema. Rendono visibile ciò che altrimenti resterebbe implicito e riducono la dipendenza da un unico fornitore.

Dove entra l'on-premise

Un'infrastruttura privata riduce l'esposizione creata da upload e connettori esterni, ma non elimina il rischio: restano account, permessi, aggiornamenti, backup e supporto remoto da governare. La differenza è che il perimetro e i flussi diventano più verificabili. Per il quadro più ampio sulle alternative al cloud leggi anche dati aziendali su server USA.

Chiedilo a Mirko parte proprio da qui: l'assessment gratuito mappa quali dati entrano nei flussi AI, chi vi accede e quali controlli servono, prima di proporre cloud, infrastruttura privata o una combinazione delle due.