Chatbot e agenti AI: la critica di Signal sulla privacy che non puoi ignorare

Quando chiedi a ChatGPT di riscrivere un'email, sai esattamente cosa succede: il chatbot legge la tua richiesta e risponde. Ma quando un agente AI decide autonomamente di accedere alla tua posta, al tuo calendario, ai tuoi file per completare un compito senza che tu gliene dia il permesso ogni volta, il gioco cambia completamente. È su questa distinzione che Meredith Whittaker, presidente di Signal, ha acceso i riflettori, lanciando un allarme che merita attenzione: gli agenti AI non sono amici, sono backdoor.

Chi è Meredith Whittaker

Whittaker è presidente di Signal, l'app di messaggistica crittografata che milioni di persone usano proprio per proteggere le proprie conversazioni. Prima di Signal, ha lavorato a Google come ricercatrice di AI e policy, lasciando l'azienda nel 2021 dopo aver criticato pubblicamente le pratiche di trasparenza e accountability nel settore. Non è una voce che parla di sfuggita: è qualcuno che ha visto dall'interno come funzionano i sistemi AI e come vengono gestiti i dati degli utenti.

La differenza che conta: chatbot vs. agenti

Prima di capire la critica di Whittaker, occorre chiarire cosa distingue un chatbot da un agente AI. Un chatbot è reattivo: tu fai una domanda, lui risponde. ChatGPT, Claude, Gemini sono chatbot. Rimangono entro i confini della conversazione e non accedono a nulla se non al testo che digiti.

Un agente AI, invece, è proattivo. Non aspetta solo risposte: prende decisioni, accede a strumenti, sistemi e credenziali per completare compiti in autonomia. Immagina un agente che, quando gli chiedi "organizza la mia settimana", accede da solo al tuo calendario, legge le email importanti, modifica appuntamenti, contatta persone. Secondo IBM, gli agenti AI rappresentano il passo successivo ai chatbot e si distinguono proprio per questa capacità di agire, non solo di rispondere.

Questa autonomia è il cuore della preoccupazione di Whittaker. Quando un agente accede ai tuoi sistemi, ha bisogno di credenziali, permessi, accesso a dati sensibili. E qui emerge il parallelo con una backdoor: una porta di servizio che consente l'accesso senza che tu debba autorizzare ogni singola azione.

Il problema della privacy e del controllo

La critica di Whittaker non è astratta. Oggi, molte aziende tech stanno investendo pesantemente negli agenti AI. Microsoft, Google, OpenAI, Amazon stanno tutti sviluppando versioni di agenti che possono integrarsi con i tuoi servizi: email, documenti, file, sistemi aziendali. La promessa è chiara: automazione e produttività.

Ma il costo è altrettanto concreto: quando un agente AI ha accesso ai tuoi dati, chi controlla davvero cosa fa? Come sai se sta leggendo solo ciò che serve, o se sta raccogliendo informazioni per altri scopi? Come verifichi che le sue azioni rispettano la tua privacy?

Secondo fonti di ricerca nel settore, il salto concettuale è reale: il problema non è la tecnologia in sé, ma come viene gestita l'identità e i permessi degli agenti. Se progettati male, possono diventare esattamente quello che Whittaker descrive: una backdoor che aggira il controllo dell'utente.

Perché questa critica arriva ora

Non è un caso che Signal, un'azienda costruita sulla premessa che la privacy è un diritto, sollevi questa questione proprio quando gli agenti AI stanno per diventare mainstream. Nel 2024-2025, le grandi tech company hanno iniziato a integrare agenti nei loro ecosistemi. Windows Copilot, Google Gemini con accesso ai tuoi servizi, OpenAI con i suoi agenti: tutti richiedono accesso profondo ai tuoi sistemi.

La domanda che Whittaker pone è semplice ma radicale: abbiamo davvero scelto di dare loro questo accesso, o glielo stiamo dando per default perché è comodo?

Cosa aspettarsi nei prossimi mesi

Ci sono alcuni indicatori da tenere d'occhio. Primo, come le grandi tech company risponderanno a questa critica. Cercheranno di implementare controlli di granularità maggiore sui permessi degli agenti? O continueranno con il modello "accesso ampio per comodità"?

Secondo, come i regolatori (in particolare l'UE con il suo AI Act) affronteranno il tema degli agenti autonomi. Le normative attuali sulla privacy e l'IA sono pensate soprattutto per chatbot e sistemi di classificazione, non per agenti che agiscono in autonomia.

Terzo, se altre aziende focalizzate sulla privacy (come DuckDuckGo, Proton, o startup emergenti) inizieranno a sviluppare alternative agli agenti delle big tech, con controlli più stretti.

La critica di Whittaker non è un "no" agli agenti AI. È un avvertimento: prima di farli entrare nei nostri sistemi, decidiamo insieme come controllarli. Perché la differenza tra uno strumento utile e una backdoor è spesso solo una questione di trasparenza e permessi.