Il Garante della Privacy mette al bando DeepSeek: ecco i motivi

lentepubblica.it

Il tema dell’utilizzo dell’Intelligenza Artificiale continua a far discutere: “dalla Cina con furore” è arrivato il nuovo sistema DeepSeek che tuttavia, tra dubbi in materia di privacy e sicurezza, è già stato bandito dal nostro Garante.

È probabilmente uno degli argomenti più indagati, sui quali si cercano più informazioni e più attenzionati del momento, il tema dell’Intelligenza Artificiale già da diversi mesi ormai, anima dibattiti televisivi e chiacchierate tra amici, affolla le pagine dei giornali.

Come potrebbe, dunque, non fare notizia il lancio sul mercato del primo sistema di AI tutto made in China.

L’esordio stupefacente sul mercato di DeepSeek

DeepSeek, così si chiamano Il chatbot e la società cinese di intelligenza artificiale che sviluppa modelli linguistici di grandi dimensioni (LLM) open source, cioè gratuiti per l’utente finale ed aperti allo sviluppo e all’implementazione degli utenti, è di proprietà e finanziata esclusivamente dal fondo speculativo cinese High-Flyer.

Testato da esperti del settore nei giorni scorsi, quelli del suo esordio sui mercati il sistema aveva stupito diversi tecnici e analisti per il suo senso dell’umorismo definito da alcuni ‘agghiacciante’, la capacità di generare testi sia di prosa che di poesia e la perfezione della lingua italiana, tale da consentire la comprensione anche di termini dialettali di uso comune o di linguaggio colloquiale.

Nel giro di poche ore dal lancio però, oltre alla curiosità degli appassionati e al clamore del mercato, che ha risposto in prima battuta in maniera molto positiva all’ingresso di DeepSeek, in Italia e in tutto il mondo si sono mosse le autorità a tutela degli utenti e soprattutto quelle garanti di privacy e di protezioni dati personali.

Il Garante della Privacy mette al bando DeepSeek: ecco i motivi

E così è arrivato lo stop del Garante per la protezione dei dati personali Italiano che ha bloccato DeepSeek sul mercato Italiano, in poche ore è arrivata la decisione dell’azienda, che ha deciso di togliere la sua app degli store digitali di Apple e Google, lasciando invece operativo il sito e le app precedentemente installate.

In un comunicato ufficiale diffuso dal Garante si legge come l’autorità abbia operato «in via d’urgenza e con effetto immediato, la limitazione del trattamento dei dati degli utenti italiani nei confronti di Hangzhou Deepseek Artificial Intelligence e di Beijing Deepseek Artificial Intelligence, le società cinesi che forniscono il servizio di chatbot Deepseek».

Molti gli elementi, secondo l’analisi dell’autorità garante, che hanno fatto dubitare della sicurezza dei nostri dati e in genere della nostra privacy, messi a rischio se decidessimo di usare questo servizio di intelligenza artificiale. Vediamoli nel dettaglio.

Deepseek esplicita, nel testo della policy privacy pubblicata sul proprio sito, come i dati vadano a finire su server cinesi e che li utilizzerà per condividerli con molteplici soggetti, di certo per finalità commerciali ma anche di sicurezza pubblica. La lecita domanda è che ruolo riveste il Governo cinese in questo passaggio di dati, li potrebbe utilizzare? La risposta è scontata, poiché per legge il Governo di Pechino prevede la condivisione dei dati raccolti e vincola la possibilità stessa di operare sul mercato all’accettazione di tale condivisione, inolttre  Deepseek si è visto censurare nelle risposte alcuni temi politicamente sensibili.

Tipologia di dati raccolti

Rispetto alla tipologia dei dati raccolti, come fanno la maggior parte delle interfacce social che utilizziamo quotidianamente, si legge come DeepSeek raccolga informazioni su profilo, ma anche tutto ciò che l’utente produrrà nell’interazione e nel contatto col chatbot, i testi che scriverà e gli audio, file, ogni risultati di interazione sarà dunque processato ed utilizzato, di certo per far ‘crescere ed imparare il sistema di AI, ma con quali tutele?

Ovviamente saranno raccolti tutti i classici dati utilizzati dai concorrenti già sul mercato come l’indirizzo IP, identificatori del dispositivo, lingua del sistema e modelli di utilizzo e le informazioni attraverso i cookie che abbiamo imparato a conoscere, dei tracciatori che si ‘attaccano’ e registrano quello che andiamo a fare in rete, per utilizzarlo per analisi, sicurezza e miglioramento del servizio.

Il tema della sicurezza

Proprio il tema ‘sicurezza’ è l’altra grande preoccupazione sollevata da tecnici, analisti e dal nostro Garante. Grossi dubbi sull’accesso al sistema da parte dei minori, seppure si legge anche che il servizio è destinato a utenti a partire dai 18 anni e che qualora risultino acquisite informazioni personali di utenti con età inferiore ai 14 anni senza il consenso, DeepSeek cercherà di eliminarle, non si registrano sistemi di controllo per impedire l’accesso ai minori.

Stesso problema si era posto, in avvio di ChatGpt , il più noto sistema di AI, al quale erano state richieste delle correzioni. Insomma, davvero molti, allo stato attuale i punti oscuri che sembrano non tenere conto delle normative europee e le limitazione a tutela dati degli utenti italiani seguono la risposta arrivata dalle aziende cinesi che gestiscono il servizio, che è stata ritenuta «del tutto insufficiente».

Cronologie chat esposte e contenuti potenzialmente dannosi

Se l’azienda cinese DeepSeek ha promosso il proprio sistema comq quello che porterà un vero ‘cambio di passo’ nel mpondo dell’Intelligenza artificiale, lanciando un modello che sostiene di essere più economico di ChatGpt di OpenAI e di consumare meno energia, gli studiosi del tutto il mondo – e concorrenti – si sono lanciati all’arrembaggio del sistema per metterne a nudo tutte le criticità ed i pericoli possibili. I ricercatori della società di sicurezza cloud Wiz hanno inoltre scoperto come un database di DeepSeek lasciasse esposte online le cronologie delle chat intercorse con gli utenti e altre informazioni sensibili, secondo un rapporto pubblicato mercoledì.

Uno studio pubblicato proprio in queste ore ad opera dell’azienda statunitense Enkrypt AI, specializzata in sicurezza e conformità dell’intelligenza artificiale, in un Paese che, notoriamente, sta facendo una violenta battaglia commerciale ed economica contro tutto ciò che è ‘made in China’, ha rilevato che DeepSeek-R1 ha una probabilità undici volte maggiore di generare contenuti dannosi rispetto al modello O1 di OpenAI.

Questo studio avrebbe rilevato che l’83 per cento dei test hanno prodotto risultati discriminatori riscontrando pregiudizi in materia di razza, sesso, salute e religione.

Aggirati i test sui contenuti pericolosi?

Ancora più inquietante il dato secondo cui nel 45 per cento dei test sui contenuti pericolosi, si riscontri come DeepSeek-R1 risulti in grado di aggirare i protocolli di sicurezza e abbia generato guide alla pianificazione criminale, informazioni su armi illegali e propaganda estremista. Inoltre, sempre secondo questo studio,  avrebbe una probabilità più che tripla di produrre contenuti Cbrn – acronimo tecnico che indica agenti chimici, biologici, radiologici e nucleari –  rispetto al modello Claude-3 Opus di O1 e Antropic.

Proprio gli autori di questo studio, hanno diramato un comunicato stampa ufficiale a firma di Sahil Agarwal, Ceo di Enkrypt AI, che ha affermato “DeepSeek-R1 offre notevoli vantaggi in termini di costi, ma questi sono accompagnati da seri rischi. I risultati della nostra ricerca rivelano importanti lacune in termini di sicurezza che non possono essere ignorate” che prosegue  “I nostri risultati rivelano che le vulnerabilità di sicurezza di DeepSeek-R1 potrebbero trasformarsi in uno strumento pericoloso, sfruttabile da criminali informatici, reti di disinformazione e persino da chi ha ambizioni di guerra biochimica. Questi rischi richiedono un’attenzione immediata”.

Scenari futuri

Intanto non vengono solo da oltreoceano le resistenze che DeepSeek dovrà superare, problemi anche sul fronte interno, dove il ministero del Digitale di Taiwan, già in bilico per il mancato riconoscimento dell’autorità cinese, ha dichiarato venerdì che i dipartimenti governativi non dovrebbero utilizzare il modello di DeepSeek, poiché il prodotto cinese rappresenta un problema di sicurezza.

Ross Burley, cofondatore dell’Ong Centre for Information Resilience con sede nel Regno Unito ha invitato a cautela e controllo, affermando come “I precedenti della Cina dimostrano che la sua tecnologia è un’estensione della sua strategia geopolitica”.

In Europa come l’autorità italiana per la protezione dei dati ha avviato un’indagine su Hangzhou DeepSeek Artificial Intelligence e Beijing DeepSeek Artificial Intelligence per verificare il rispetto delle norme europee sui dati, anche le autorità belghe, francesi e irlandesi per la protezione dei dati hanno fatto lo stesso, avviando loro indagini per richiedere informazioni a DeepSeek sull’elaborazione e l’archiviazione dei dati degli utenti.

The post Il Garante della Privacy mette al bando DeepSeek: ecco i motivi appeared first on lentepubblica.it.