Shadow AI: perché gli account AI personali sono il primo rischio da gestire

La shadow AI comincia quasi sempre da un account AI personale. Un dipendente apre un assistente con la propria email e vi incolla dati di clienti, offerte o ticket. È il primo rischio da gestire perché i dati escono senza che l'azienda lo sappia. La risposta non è vietare l'AI, ma offrire uno strumento aziendale gestito che le persone preferiscano davvero.

La shadow AI è l'uso di strumenti di intelligenza artificiale da parte dei collaboratori senza approvazione né supervisione del reparto IT. Così la definisce l'analisi di IntoTheMinds sulla shadow IA. Il fenomeno deriva dalla shadow IT, cioè l'adozione di tecnologie da parte dei dipendenti senza il controllo dell'IT.

Questa guida è la terza e ultima parte di una serie sull'adozione di Claude Team. La prima parte, «Adozione dell'AI in una piccola azienda: cosa significa e chi la guida», spiega i ruoli. La seconda, «Come far usare davvero Claude al team: i passaggi dell'adozione», descrive il metodo. Qui si parla del perché: cosa cambia per l'azienda, come si misura il risultato, quali rischi comporta non fare nulla e quali limiti restano.

I dati escono nel momento in cui una persona incolla un testo aziendale in uno strumento che l'azienda non gestisce. Può essere un assistente noto aperto con l'email privata, oppure uno strumento che l'IT non conosce affatto. BitMAT osserva che i dipendenti usano sempre più strumenti di IA senza passare dai reparti IT. Questo, secondo l'articolo, rende più complicata la gestione dei dati.

Il fenomeno è diffuso. Secondo lo studio INRIA-Datacraft 2024, citato da IntoTheMinds, il 68% dei dipendenti francesi usa strumenti di IA senza informare la direzione. La quota sale al 75% tra i quadri e all'82% nel settore tecnologico.

Il caso più citato è quello di Samsung. Nel 2023 alcuni dipendenti hanno usato ChatGPT tre volte e hanno trasmesso a OpenAI dati strettamente confidenziali, tra cui codice sorgente dei chip. Nessuno voleva danneggiare l'azienda.

La motivazione, infatti, è quasi sempre il lavoro. Secondo l'articolo di Dave Russell di Veeam su BitMAT, molti lavoratori sperimentano strumenti di IA senza autorizzazione perché cresce la domanda di produttività. Chi incolla un'offerta in un account personale sta cercando di finirla prima.

Un divieto toglie lo strumento ufficiale ma non toglie il bisogno che spinge le persone a usarlo. Secondo Dave Russell, la shadow AI non può essere fermata. Se il lavoro richiede di riassumere, scrivere o classificare più in fretta, qualcuno troverà un modo per farlo.

Alcune grandi aziende hanno scelto il divieto totale di ChatGPT. IntoTheMinds cita, tra le altre, Samsung, JPMorgan Chase, Amazon e Verizon. Lo stesso articolo nota però un dettaglio importante: Samsung, mentre vietava, stava introducendo uno strumento interno. Il divieto aveva senso solo accanto a un'alternativa.

Un divieto, inoltre, non insegna nulla su come usare lo strumento in modo corretto. Sposta soltanto l'uso dove l'azienda vede ancora meno.

Anche ignorare il tema ha un costo. Un articolo di TechFromTheNet, sempre basato sulle analisi di Veeam, avverte che ignorare le regole può esporre i sistemi a ransomware, interruzioni operative e danni alla reputazione. Per una piccola o media impresa la scelta realistica è quindi tra un uso dell'AI nascosto e un uso visibile e governato. Non esiste una terza opzione in cui nessuno la usa.

Uno strumento aziendale gestito porta l'uso dell'AI dentro regole che l'azienda decide e può verificare. Con Claude Team, l'account appartiene all'azienda e non alla persona. Le licenze, chiamate seat, si acquistano e si pagano direttamente ad Anthropic.

Tre fatti cambiano rispetto a un account personale non controllato:

• Su Claude Team, con le impostazioni standard, Anthropic non usa i contenuti dell'azienda per addestrare i modelli.
• L'accesso passa dall'SSO (single sign-on, l'accesso unico con le credenziali aziendali), quindi l'azienda decide chi entra.
• Si possono impostare connector verso i programmi aziendali e limiti di spesa, come prevede il Pilot B descritto da Svennis.

La gestione si estende agli strumenti. La documentazione di Anthropic sui modelli precisa che le impostazioni dell'organizzazione possono bloccare uno strumento supportato. Per esempio, un amministratore può disattivare la ricerca web.

Va detto anche dove stanno i dati. Secondo la pagina di Svennis sull'adozione di Claude Team, i dati di Claude Team sono conservati negli Stati Uniti e possono essere trattati anche in altre regioni: conviene verificarlo sulla pagina aggiornata di Anthropic e riportarlo nella policy aziendale. Il tema è approfondito nel post su perché conta l'account aziendale di Claude Team per dati e regole.

Le persone abbandonano l'account personale quando lo strumento aziendale fa di più, non quando glielo si ordina. Un account personale vede solo ciò che il dipendente incolla. Un Claude Team collegato ai programmi aziendali legge i dati dove già si trovano, con i permessi di chi lo usa.

I collegamenti più utili sono di solito tre. Il CRM, per esempio Zoho CRM, con clienti, trattative e offerte. L'helpdesk, per esempio Zoho Desk, con i ticket. La contabilità, per esempio Zoho Books, con fatture e incassi.

Per ogni collegamento Svennis costruisce una delle quattro forme possibili: un connector, un MCP server, un plugin o una skill. Una skill è una procedura che Claude svolge ogni volta allo stesso modo, con istruzioni, casi di test e un collega responsabile. Svennis mostra le opzioni con il loro costo e il cliente sceglie.

Il punto di partenza conta più della tecnologia. In Svennis, all'inizio di un'adozione chiediamo a ogni reparto per quali compiti usa già un assistente AI e con quale account, e scegliamo i primi connector proprio su quei compiti. Così lo strumento aziendale sostituisce quello personale nel lavoro che le persone fanno già, invece di aggiungere un'abitudine nuova.

Un esempio concreto mostra la differenza meglio di una regola. Immagini una responsabile commerciale che deve preparare un'offerta per un cliente storico entro sera.

Con l'account personale

La responsabile apre l'assistente con la propria email privata. Copia dal CRM lo storico delle trattative, le condizioni di pagamento e le ultime email del cliente. Incolla tutto e chiede una bozza. Il risultato può essere buono, ma l'azienda non sa che quei dati sono usciti. Non sa nemmeno se l'account resterà attivo quando la persona cambierà lavoro.

Con Claude Team

La responsabile entra in Claude Team con l'SSO aziendale. Il connector a Zoho CRM le consente di chiedere a Claude lo storico del cliente senza copiare nulla. La policy AI, cioè il documento che stabilisce quali dati possono entrare in Claude e quali azioni richiedono un'approvazione, prevede che i dati commerciali siano ammessi. Prevede anche che l'invio dell'offerta al cliente resti una decisione umana.

La bozza arriva nello stesso tempo, o prima, perché i dati non vanno raccolti a mano. La differenza è che ora l'azienda sa quali informazioni sono state usate, da chi e in quale strumento. È esattamente la visibilità che chiede Dave Russell: sapere quali dati si hanno, dove stanno, chi li usa e come si muovono tra i sistemi.

Prima di distribuire i seat conviene fissare pochi controlli, ciascuno con un responsabile. La tabella riassume quelli che servono per sostituire gli account personali senza creare nuovi punti ciechi.

Controllo	Cosa si decide	Chi se ne occupa
Policy AI	Quali dati possono entrare in Claude e quali azioni richiedono un'approvazione	Direzione, con chi tratta i dati personali
Accesso con SSO	Chi riceve un seat e con quali credenziali entra	IT o amministratore di Claude Team
Connector	Quali programmi Claude può leggere: CRM, helpdesk, contabilità	IT, con i responsabili di reparto
Limiti di spesa	Il tetto di consumo per evitare sorprese in fattura	Amministrazione
Strumenti abilitati	Per esempio se lasciare attiva la ricerca web	Amministratore
Referente Claude	Chi mostra gli esempi riusciti e raccoglie le domande ripetute	Un collega, circa un'ora a settimana

La policy viene prima di tutto il resto, perché dice al team cosa è permesso nello strumento nuovo. Per scriverla, è utile la guida su la policy AI aziendale da preparare prima del primo progetto. Questa impostazione segue anche i passi che Russell indica ai team IT: progetti pilota, insiemi di dati limitati e regole chiare per classificare le informazioni sensibili.

Il risultato si misura confrontando poche metriche prima e dopo l'introduzione dello strumento aziendale. Le metriche vanno fissate prima del lancio, altrimenti ogni miglioramento diventa un'impressione.

Quattro metriche bastano per una piccola o media impresa:

• La quota del team che lavora con il seat aziendale invece che con account personali.
• Il tempo medio per un compito ricorrente, come una bozza d'offerta o la risposta a un ticket.
• Gli errori trovati in revisione nei testi prodotti con Claude.
• Il costo mensile, cioè seat più eventuale consumo degli agenti.

Sul costo i dati sono chiari. I seat di Claude Team si pagano direttamente ad Anthropic. Il consumo di un agente AI lo fattura il fornitore scelto, tra Anthropic, AWS, Google Cloud o Microsoft, a consumo. I limiti di spesa impostati all'avvio tengono questa voce sotto controllo.

Anche il tempo del team è un costo. Per l'Adozione Claude Team, la pagina di Svennis indica circa mezza giornata del team, distribuita su due settimane, più circa un'ora a settimana per il referente. Il Pilot B viene valutato per iscritto a 30 giorni, ed è il momento giusto per confrontare le metriche. Per scegliere il primo processo da misurare è utile il post su come scegliere il primo progetto AI in azienda.

Per un'azienda italiana la shadow AI è anche un tema di conformità, non solo di sicurezza. Tre riferimenti lo rendono concreto.

Il primo è l'AI Act, il regolamento europeo sull'intelligenza artificiale. Il testo, con gli obblighi per chi utilizza sistemi di AI, è consultabile nell'AI Act annotato in italiano. Un account personale non lascia traccia di come il personale usa l'AI, uno strumento aziendale con un referente e una policy scritta sì. L'articolo 4 dell'AI Act chiede inoltre a chi usa l'AI di adottare misure per sostenere l'alfabetizzazione in materia di AI del personale. Non chiede un certificato, ma con gli account personali è difficile mostrare quali misure l'azienda ha preso.

Il secondo è il GDPR. IntoTheMinds ricorda che prevede sanzioni fino a 20 milioni di euro o, per le imprese, fino al 4% del fatturato mondiale totale annuo dell'esercizio precedente, se superiore. Dati personali di clienti incollati in un account privato sono un trattamento che l'azienda non controlla.

Il terzo sono le autorità di controllo. BitMAT riporta che in tutto il mondo chiedono trasparenza su come i dati vengono gestiti nei sistemi di IA. In passato le normative si concentravano soprattutto sui dati gestiti dagli esseri umani. Oggi alle aziende viene chiesto sempre più spesso di saper spiegare come i modelli di IA utilizzano i dati. L'articolo cita come esempi il Digital Operational Resilience Act dell'UE, che si applica al settore finanziario, e le leggi regionali sulla privacy negli Stati Uniti.

Uno strumento aziendale riduce la shadow AI ma non la azzera. Qualcuno continuerà a provare strumenti nuovi, e Russell ricorda che il fenomeno non può essere fermato. L'obiettivo realistico è che il lavoro con dati aziendali passi dallo strumento gestito.

Restano almeno tre limiti da dichiarare:

• Lo strumento non mette ordine nei dati. BitMAT nota che molte aziende raccolgono dati in modo disorganizzato da sistemi ibridi e multicloud senza monitorarne la sicurezza. Claude collegato a un CRM disordinato restituisce risposte disordinate.
• La localizzazione dei dati va accettata con consapevolezza. I dati di Claude Team sono conservati negli Stati Uniti e possono essere trattati anche altrove, come indicato sopra.
• Le persone hanno bisogno di tempo per imparare. IntoTheMinds riporta l'opinione di Ethan Mollick: servono almeno 4 ore di lavoro su questi strumenti per iniziare a capirli davvero. Lo stesso articolo cita un 72% di francesi che ritiene di non avere conoscenze sufficienti.

Per questo un seat da solo non basta. Senza policy, collegamenti utili e un referente, l'account aziendale rischia di restare vuoto mentre quello personale continua a essere usato.

Il primo passo è fare quello che Dave Russell chiama un «reality check»: capire come l'AI viene già usata. Le azioni pratiche, in ordine, sono queste:

1. Chiedere a ogni reparto quali assistenti AI usa, con quale account e per quali compiti.
2. Individuare quali dati aziendali passano da quegli account: clienti, ticket, fatture.
3. Scrivere la policy AI con le regole sui dati e sulle approvazioni.
4. Scegliere i primi collegamenti a CRM, helpdesk o contabilità sui compiti emersi al punto 1.
5. Fissare le metriche e la data di verifica.

Se vuole capire da dove partire, il questionario sulla prontezza della Sua azienda per l'AI aiuta a ordinare le priorità.

Svennis fa questo lavoro con l'Adozione Claude Team in due settimane, per team fino a 250 persone su Claude Team o Enterprise. Il percorso del sito ha quattro passi: il Workshop, poi il Pilot Claude A, un agente AI su Claude per un processo, oppure il Pilot Claude B, Claude Team per tutto il team. Seguono l'Activation del reparto e la gestione mensile. I prezzi pubblicati sono sulla pagina del servizio, mentre i seat restano un acquisto diretto da Anthropic.