Claude AI ha cancellato dati: 3 motivi per cui l’AI può diventare un rischio per la tua azienda

Claude AI ha cancellato dati: 3 motivi per cui l’AI può diventare un rischio per la tua azienda

Secondo diverse ricostruzioni pubblicate online, PocketOS — startup americana attiva nel software per società di noleggio auto — ha subito un incidente causato da un agente AI utilizzato in ambito sviluppo.

L’agente lavorava tramite Cursor ed era basato su Claude di Anthropic. Doveva risolvere un problema tecnico, ma avrebbe eseguito una chiamata API distruttiva su Railway, cancellando il database di produzione e i backup accessibili.

Il punto non è demonizzare Claude, Cursor o l’AI. Il punto è un altro: quando un sistema automatico ha permessi troppo ampi, può sbagliare molto più velocemente di una persona.

Il problema non è usare l’AI.
Il problema è usarla senza limiti e non avere backup realmente immutabili

Cosa è successo davvero nel caso PocketOS, Cursor e Claude

Nel caso PocketOS, secondo quanto riportato, l’agente AI non è stato “hackerato”. Non si parla di un attacco esterno classico, né di un malware. Il problema nasce da un uso operativo dell’AI con accesso a risorse reali.

L’agente avrebbe interpretato male il contesto, trovato un token API con permessi troppo estesi e lanciato un comando distruttivo sull’infrastruttura. In pochi secondi, un errore di valutazione è diventato un problema di produzione.

La parte più interessante non è solo la cancellazione dei dati. È il fatto che anche i backup accessibili dalla stessa logica operativa siano stati coinvolti. Questo rende il caso un esempio perfetto di un rischio che molte aziende sottovalutano: avere backup presenti, ma non davvero protetti.

In parallelo, un altro caso ha riguardato Belo, fintech che secondo le ricostruzioni ha visto sospesi oltre 60 account Claude per un falso positivo legato alle policy di utilizzo. Anche qui la lezione è simile: se un processo critico dipende da un solo fornitore o da una sola piattaforma, basta un blocco automatico per fermare un’azienda.

1. L’AI può agire più velocemente di quanto tu possa controllare

Un errore umano spesso lascia tempo per accorgersi di qualcosa: un dubbio, una richiesta di conferma, una verifica, una seconda opinione.

Un agente AI invece può leggere, decidere, chiamare un’API, modificare configurazioni o cancellare dati in pochi secondi. Se ha permessi troppo ampi, il danno può essere immediato.

Se l’AI può toccare dati critici, deve avere limiti chiari.
Soprattutto quando può compiere azioni irreversibili.

2. Un solo sistema non deve mai poter compromettere tutto

Nel business, “uno” è spesso il numero più pericoloso.

• Un solo sistema critico
• Un solo account amministrativo
• Un solo fornitore da cui dipende tutto
• Un solo ambiente senza separazione tra test e produzione
• Un solo backup nello stesso punto dei dati originali

Se tutto dipende da un unico punto, basta un errore — umano, tecnico o automatico — per fermare l’azienda.

3. Il backup non serve se può essere cancellato insieme ai dati

Molte aziende pensano di essere protette perché “hanno il backup”.

Ma la domanda vera è un’altra:

Se qualcuno cancella i dati, può cancellare anche i backup?

Se la risposta è sì, allora non hai una vera strategia di continuità.
Hai solo una copia vulnerabile.

Claude AI ha cancellato dati: 3 motivi per cui l’AI può diventare un rischio per la tua azienda

Il punto non è smettere di usare Claude, Cursor o strumenti AI. Il punto è usarli dentro un modello sicuro.

• Permessi limitati
• Conferma manuale per azioni irreversibili
• Ambienti separati tra test e produzione
• Monitoraggio degli accessi
• Backup immutabile in cloud

Usare l’AI è corretto. Usarla senza una rete di sicurezza, invece, può trasformare un vantaggio competitivo in un problema operativo.

La soluzione: backup immutabile in cloud

Per questo Ventunocento propone servizi di backup immutabile in cloud: una copia dei dati separata dall’infrastruttura aziendale, progettata per non essere modificata o cancellata anche in caso di compromissione dei sistemi locali.

• Backup cloud isolato dall’ambiente operativo
• Dati non modificabili né cancellabili per il periodo definito
• Protezione anche in caso di credenziali compromesse
• Ripristino possibile anche quando il backup locale non è più utilizzabile
• Maggiore continuità operativa in caso di errore, ransomware o cancellazione accidentale

Il backup immutabile è l’ultima linea di difesa.
Quando tutto il resto fallisce, deve esistere ancora una copia pulita da cui ripartire.

Usare l’AI sì. Ma con una rete di sicurezza.

L’intelligenza artificiale può accelerare processi, sviluppo, analisi e produttività. Ma più diventa operativa, più deve essere gestita con regole chiare.

Claude AI ha cancellato dati: 3 motivi per cui l’AI può diventare un rischio per la tua azienda è un titolo volutamente forte, ma il messaggio è semplice:
se un sistema può modificare o cancellare dati, devi sempre prevedere cosa succede quando qualcosa va storto.

Non si tratta di avere paura dell’AI.
Si tratta di usarla senza darle la possibilità di distruggere tutto in pochi secondi.