data Archivi — Antonio Savarese

25 Febbraio 202425 Febbraio 2024

AI , attenzione al data poisoning

Il data poisoning è un tipo di attacco informatico che prende di mira i modelli di apprendimento automatico (machine learning) manipolando i loro dati di addestramento. L’obiettivo di questi attacchi è manipolare il comportamento del modello introducendo, modificando o eliminando punti dati nel set di addestramento. Questo può portare il modello a prendere decisioni o previsioni errate una volta implementato.

Ci sono due tipi principali di attacchi di data poisoning:

1. **Attacchi mirati (Targeted Attacks)**: Questi hanno lo scopo di influenzare il comportamento del modello per input specifici, come ad esempio far sì che un sistema di riconoscimento facciale non riconosca un determinato individuo, senza degradare significativamente le sue prestazioni complessive[1].

2. **Attacchi non mirati (Nontargeted Attacks)**: Questi cercano di ridurre l’accuratezza, la precisione o il richiamo (recall) generale del modello aggiungendo rumore o punti dati irrilevanti, degradando così le sue prestazioni su vari input[1].

Il successo di un attacco di data poisoning dipende dalla capacità dei dati avvelenati di evitare il rilevamento durante la pulizia dei dati o il pre-processing, e dall’efficacia dell’attacco nel degradare le prestazioni del modello[1].

Il data poisoning può avere gravi implicazioni, specialmente poiché sempre più aziende si affidano a sistemi di intelligenza artificiale e apprendimento automatico. Può essere utilizzato per vari scopi malevoli, inclusi la disinformazione, le truffe phishing, l’alterazione dell’opinione pubblica o il discredito di individui o marchi.

Per proteggersi dal data poisoning, le organizzazioni possono impiegare robusti filtri dei dati, addestramento avversario, convalida degli input, monitoraggio e trasparenza del modello per identificare e mitigare l’impatto dei dati avvelenati.

Citations:
[1] Data Poisoning: The Essential Guide | Nightfall AI Security 101 https://www.nightfall.ai/ai-security-101/data-poisoning
[2] What is Data Poisoning & Why Should You Be Concerned? https://internationalsecurityjournal.com/data-poisoning/
[3] Papers with Code – Data Poisoning https://paperswithcode.com/task/data-poisoning

Quali sono alcuni esempi di attacchi basati sul data poisoning?

Esempi di attacchi di Data Poisoning includono:

1. **Sistemi di rilevazione di anomalie di rete**: Gli aggressori possono introdurre dati che riducono l’accuratezza dei modelli utilizzati per identificare attività di rete sospette, rendendo più difficile per il sistema riconoscere le vere minacce[1].

2. **Filtri antispam**: Gli attacchi di Data Poisoning possono essere diretti contro i filtri antispam, ad esempio, manipolando i dati in modo che il sistema non riconosca tentativi di accesso non autorizzati o violazioni della privacy[4].

3. **Sistemi di guida autonoma**: Un attacco di Data Poisoning potrebbe essere condotto su di un segnale stradale di “stop” semplicemente appiccicandoci sopra un adesivo, inducendo il sistema di AI dell’automobile ad interpretare erroneamente il segnale[7].

4. **Sistemi di underwriting assicurativo basati su AI**: Gli attacchi potrebbero portare a valutazioni di rischio errate, influenzando le decisioni su prezzi e coperture[2].

Per proteggere i modelli di AI dal Data Poisoning, è fondamentale adottare tecniche di difesa e strumenti di minimizzazione del rischio, come una buona tutela delle backdoor di accesso ai sistemi e lo sviluppo di AI più resilienti all’inquinamento dei dati[5].

Citations:
[1] Data poisoning, un pericolo per tutte le intelligenze artificiali – Cyber Security 360 https://www.cybersecurity360.it/outlook/data-poisoning-pericolo-ai/
[2] Che cos’è il data poisoning https://www.repubblica.it/tecnologia/2020/10/29/news/che-cos-e-il-data-poisoning-299481018/
[3] Avvelenare i modelli di AI: il Data Poisoning https://www.dirittoegiustizia.it
[4] Intelligenza artificiale e data poisoning: come “avvelenare” i dati https://www.diritto.it/intelligenza-artificiale-data-poisoning-avvelenare/
[5] Cos’è il Data Poisoning e come si può combattere? – WitIt https://www.witit.it/cose-il-data-poisoning-e-come-si-puo-combattere/
[6] Luca Andreola – Avvelenare i modelli di AI: il Data Poisoning – LinkedIn https://it.linkedin.com/posts/lucaandreola_avvelenare-i-modelli-di-ai-il-data-poisoning-activity-7163125709471789058-VDJ6
[7] Cos’è il Data Poisoning e perché merita immediata attenzione? https://www.ainewnormal.com/cultura/%5B8%5D-po.html
[8] toxicity data – Traduzione in italiano – Dizionario Linguee https://www.linguee.it/inglese-italiano/traduzione/toxicity+data.html

16 Maggio 2018

Facebook pubblica per la prima volta i dati di applicazione dei propri Standard della Comunità

Spesso ci viene chiesto come decidiamo quali contenuti sono permessi su Facebook – e quanti sono quelli che violano i nostri Standard. Sono anni, infatti, che abbiamo degli Standard della Comunità che spiegano cosa può trovare spazio su Facebook e cosa no e, tre settimane fa per la prima volta, abbiamo anche pubblicato le linee guida interne che utilizziamo per applicare quegli standard.

Oggi, all’interno del Report sull’applicazione degli Standard della Comunità, comunicheremo in aggiunta i numeri legati all’applicazione di questi Standard, in modo da permettere a tutti di giudicare il nostro operato.

Alex Schultz, il nostro Vice Presidente di Data Analytics, ha spiegato dettagliatamente come misuriamo ciò che succede su Facebook nel blog Hard Question e in questa guida per Comprendere il Report sull’applicazione degli Standard della Comunità. È comunque importante sottolineare che si tratta di un lavoro in continua evoluzione e che la nostra metodologia potrebbe cambiare.

[amazon_link asins=’1980302863,8890341939,8863108455,8820385287,8890341912′ template=’ProductCarousel’ store=’antoniosavare-21′ marketplace=’IT’ link_id=’606cae54-58da-11e8-8a86-45127048dc96′]

Questo report include informazioni e dati relativi all’applicazione dei nostri Standard tra ottobre 2017 e marzo 2018 e copre sei aree: violenza esplicita, nudo (adulti), atti sessuali, propaganda terroristica, incitamento all’odio, spam e account falsi. I numeri illustrano:

Quanti contenuti che violano i nostri Standard sono stati visti dalle persone;
Quanti contenuti abbiamo rimosso;
Quanti contenuti abbiamo rilevato in modo proattivo utilizzando la nostra tecnologia, prima che le persone che utilizzano Facebook li segnalassero.

La maggior parte delle azioni che intraprendiamo per rimuovere contenuti contrari ai nostri Standard, riguarda gli account falsi e la grande quantità di spam che generano. Ad esempio:

Abbiamo rimosso 837 milioni di contenuti di spam nel primo trimestre del 2018 – quasi il 100% dei quali sono stati trovati e contrassegnati prima che qualcuno li segnalasse;
La chiave per combattere lo spam è rimuovere gli account falsi che lo diffondono. Nel primo trimestre 2018 abbiamo disattivato circa 583 milioni di account falsi – la maggior parte dei quali bloccati entro pochi minuti dalla loro creazione. Questo si aggiunge ai milioni di tentativi di creazione di account falsi che ogni giorno sventiamo su Facebook. Complessivamente stimiamo che, durante questo periodo di tempo, fossero ancora falsi circa il 3-4% degli account attivi di Facebook.

In merito alle altre tipologie di contenuti che violano i nostri Standard:

Abbiamo rimosso 21 milioni di contenuti di nudo di adulti o pornografici nel primo trimestre del 2018, il 96% dei quali rilevati dalla nostra tecnologia prima di essere segnalati. Stimiamo, comunque, che su ogni 10.000 contenuti visualizzati su Facebook, 7-9 visualizzazioni abbiano riguardato contenuti che violavano i nostri Standard su nudo e pornografia.
Per argomenti delicati come la violenza esplicita e l’incitamento all’odio, la nostra tecnologia ancora non riesce a funzionare in maniera del tutto efficace ed è necessario l’intervento dei nostri team di revisione. Abbiamo rimosso o etichettato come potenzialmente pericolosi circa tre milioni e mezzo di contenuti violenti nei primi tre mesi del 2018, l’86% dei quali identificati dalla nostra tecnologia prima che venissero segnalati. Abbiamo, inoltre, rimosso due milioni e mezzo di contenuti che incitavano all’odio, il 38% dei quali sono stati rilevati direttamente dalla nostra tecnologia.

Come sottolineato da Mark durante F8, abbiamo ancora molto lavoro da fare per prevenire gli abusi. In parte è perché l’intelligenza artificiale, pur essendo una tecnologia promettente, è ancora molto lontana dall’essere efficace per molti contenuti che violano i nostri Standard, perché il contesto è ancora molto importante. Ad esempio, l’intelligenza artificiale non è ancora sufficiente per identificare se qualcuno sta incitando all’odio o se sta semplicemente descrivendo qualcosa che ha vissuto per denunciare pubblicamente il problema. Più in generale, come spiegato la settimana scorsa, la tecnologia necessita di un gran numero di dati di supporto per riuscire a riconoscere modelli significativi di comportamento, che noi spesso non abbiamo per lingue meno diffuse o per i casi che non vengono segnalati spesso. Inoltre, in molte aree – anche se si tratta di spam, pornografia o account falsi – ci scontriamo con avversari sofisticati che cambiano continuamente tattica per eludere i nostri controlli, il che significa che dobbiamo continuamente cambiare e adattare i nostri sforzi. Questo è il motivo per cui stiamo investendo in modo consistente in un numero maggiore di persone e in una tecnologia migliore per rendere Facebook più sicuro per tutti.

Ed è anche il motivo per cui pubblichiamo queste informazioni. Riteniamo che una maggior trasparenza permetta di accrescere il senso di responsabilità nel tempo e che la pubblicazione di queste informazioni ci possa spingere a migliorare più rapidamente. Si tratta degli stessi dati che utilizziamo per valutare internamente il lavoro fatto – e adesso ognuno potrà vederli per giudicare i nostri progressi. Non vediamo l’ora di ricevere i vostri feedback.

28 Marzo 2018

FACEBOOK RENDE LE IMPOSTAZIONI E GLI STRUMENTI DI GESTIONE DELLA PRIVACY PIÙ FACILI DA TROVARE

Facebook ha annunciato importanti cambiamenti, ecco di seguito il loro Comunicato Stampa.

—

La privacy è una priorità per Facebook e lavoriamo ogni giorno per aiutare le persone a comprendere meglio i nostri strumenti.

Sappiamo che dobbiamo rendere le nostre impostazioni sulla privacy più facili da capire, trovare e utilizzare. Come ha sottolineato Mark Zuckerberg la scorsa settimana, faremo tutto il possibile per proteggere le tue informazioni e limitare gli usi impropri della piattaforma.

[amazon_link asins=’8891901482,8892106295,8821762130,8820384612,8857905918,8857906884′ template=’ProductCarousel’ store=’antoniosavare-21′ marketplace=’IT’ link_id=’0066aeed-3297-11e8-ad41-6734dadcca1e’]

Nelle prossime settimane introdurremo quindi diverse misure per offrirti un controllo più semplice sulle tue impostazioni della privacy. La maggior parte di questi aggiornamenti sono previsti da tempo e gli eventi degli ultimi giorni non fanno che sottolinearne l’importanza.

Ecco i primi esempi:

Un unico menù per trovare e gestire tutte le impostazioni della privacy.
Una sezione dedicata alla privacy, alla sicurezza e alle preferenze pubblicitarie denominata “Menù di scelta rapida sulla privacy”.
Semplici strumenti per trovare, scaricare ed eliminare i tuoi dati Facebook in una sezione chiamata “Accesso alle tue informazioni”.

Un unico menù per trovare e gestire tutte le impostazioni della privacy

Abbiamo ridisegnato su mobile tutte le impostazioni della privacy in un unico menù. In questo modo, invece di avere le impostazioni distribuite su quasi 20 schermate diverse, sono ora a portata di mano, in un unico luogo.

Una sezione dedicata alla privacy, alla sicurezza e alle preferenze pubblicitarie: “Menù di scelta rapida sulla privacy”
Le persone hanno chiesto che le informazioni sulla loro privacy, la sicurezza e le preferenze pubblicitarie siano più facilmente accessibili. Con il nuovo menù di scelta rapida sulla privacy, disponibile in un’unica interfaccia mobile, è ora più facile e veloce gestire tutte le impostazioni.

Da questo menù di scelta rapida puoi:

Assicurarti della sicurezza del tuo account: puoi migliorare la protezione del tuo account con diverse opzioni, come l’autenticazione a due fattori. Se attivi questa funzione, verrai avvisato se qualcuno tenta di accedere al tuo account da un dispositivo o browser che non usi abitualmente. Ti verrà inoltre chiesto di confermare se sei stato tu a provare ad accedere.
Controllare le tue informazioni personali: puoi controllare tutti i contenuti che hai condiviso, ma anche cancellarli se lo desideri, inclusi i post condivisi e quelli ai quali hai aggiunto delle reazioni, ma anche richieste di amicizia che hai inviato e altre ricerche che hai fatto tramite Facebook.
Controllare gli annunci pubblicitari che ognuno vede: gestire le informazioni che Facebook utilizza per mostrare le pubblicità; le preferenze legate alla pubblicità spiegano esattamente come funzionano le pubblicità e le varie opzioni disponibili per l’utente.
Scegliere chi può vedere i tuoi post e le tue informazioni del profilo: sei tu che decidi cosa condividere su Facebook. In questa sezione puoi scegliere chi può visualizzare i tuoi post e le informazioni del profilo.

Strumenti per trovare, scaricare e cancellare i tuoi dati Facebook: “Accedi alle tue informazioni”
Alcune persone vogliono eliminare elementi che hanno condiviso in passato, mentre altri sono semplicemente curiosi di sapere quali informazioni Facebook ha a disposizione.

Per questo motivo oggi annunciamo il lancio dello strumento “Accedi alle tue informazioni”, un modo sicuro per accedere e gestire qualunque informazione, come post, reazioni, commenti e ricerche precedenti. È qui che puoi eliminare tutto ciò che non desideri più vedere nella tua timeline o nel profilo.

Inoltre, stiamo rendendo più semplice scaricare i propri dati condivisi con Facebook. È possibile scaricarne una copia sicura e anche spostarla in un altro servizio. Questo include foto caricate, contatti aggiunti all’account, post sul diario e altro ancora.

29 Gennaio 201829 Gennaio 2018

L’Enterprise Data Management è essenziale per affrontare il GDPR

Con l’avvicinarsi del 25 maggio 2018, data fissata per l’entrata in vigore del GDPR (General Data Protection Regulation), è sempre maggiore la pressione all’interno delle organizzazioni, praticamente tutte, chiamate a conformarsi al regolamento.

Per adempiere alla normativa è infatti necessario interpretare e ‘scaricare a terra’ principi e indicazioni, definendo una roadmap e un framework attuativi concreti e sostenibili. Il regolamento impone infatti di dichiarare un percorso di consolidamento del sistema di protezione dei dati personali, partendo dalla definizione del perimetro, dall’analisi delle minacce a cui sono sottoposti i dati, fino alla esplicitazione delle misure organizzative e tecnologiche adottate a copertura dei rischi.

“Non basta però dire cosa si fa. Bisogna anche fare quello che si è detto,” sostiene Alberto Scavino, CEO di Irion, software house specializzata nell’Enterprise Data Management. “Le misure dichiarate devono essere implementate e organizzate in un sistema codificato di gestione dei dati personali, che ha molti punti in comune con la conformità a normative già attive in diversi settori, come il Finance, e con le migliori pratiche di governo del patrimonio informativo”.

Questa analogia è una grande opportunità in termini di efficienza e sostenibilità: gli stessi metodi, tecniche e strumenti di data management e data governance possono e devono essere estesi per coprire esigenze di conformità al GDPR.

Il ruolo dell’enterprise data management

Un approccio proattivo, integrato e coerente necessita di un solido supporto strumentale, ovvero di un sistema di [amazon_textlink asin=’B01MTBKS2U’ text=’Enterprise Data Management’ template=’ProductLink’ store=’antoniosavare-21′ marketplace=’IT’ link_id=’95920948-04fe-11e8-87c1-93c7eeda07d2′] in grado di assicurare la flessibilità e la dotazione funzionale necessarie a coprire i requisiti di differenti finalità di gestione dei dati.

Una piattaforma in grado di esplorare il system landscape (data discovery) per creare una mappa dei dati, categorizzarli in base alle singole tipologie e finalità di impiego, valutare i rischi connessi, configurare ed eseguire le regole di dismissione dei dati, verificarne l’esattezza eventualmente attivando le opportune azioni di rettifica. Per salvaguardare le informazioni può rivelarsi necessario lo sviluppo di una delle misure per la protezione dei dati suggerite dalla normativa stessa, la pseudonimizzazione, attraverso tecniche di [amazon_textlink asin=’1546377972′ text=’data masking.’ template=’ProductLink’ store=’antoniosavare-21′ marketplace=’IT’ link_id=’84b5eef3-04fe-11e8-8086-4f162dc340be’] La piattaforma deve inoltre disporre delle funzionalità necessarie a garantire una risposta efficace e tempestiva all’esercizio da parte degli interessati dei propri diritti (consenso, rettifica, oblio, portabilità) al verificarsi di violazioni (data breach), ai requisiti di reportistica regolamentare (es. registro dei trattamenti).

Ma lo strumento è solo uno dei fattori abilitanti: è necessario impiegarlo in modo corretto, con il supporto di professionisti del dato, per valorizzarne tutte le caratteristiche sulla base di un metodo concreto applicabile a differenti esigenze gestionali.

La piattaforma EDM, gli add-on RTG e i relativi servizi professionali abilitanti di Irion danno una risposta completa e integrata a queste esigenze, fornendo un potente ambiente integrato di governo e gestione dei dati con tutte le feature necessarie a coprire i requisiti tecnici introdotti dal GDPR: data quality, data discovery, data governance, gestione di business glossary e metadata, data masking, master data management e workflow management. Il tutto, arricchito da potenti funzionalità di autodocumentazione e di reporting, costituisce una risposta completa e modulare, basata su una chiara visione del percorso di adeguamento alla normativa e al suo presidio in esercizio.

Per approfondire tematiche connesse al regolamento, Irion ha inoltre creato il gruppo LinkedIn GDPR Italia, attraverso il quale è possibile entrare in contatto con Manager che si occupano della “protezione dei dati personali”: un luogo d’incontro virtuale dove condividere esperienze o confrontarsi con altri esperti, facendo chiarezza sulle indicazioni normative e trovando spunti, idee o soluzioni utili.

10 Ottobre 201710 Ottobre 2017

Data Dollar: una moneta che si basa sul valore dei dati personali diventa un nuovo metodo di pagamento

Kaspersky Lab, ha creato un pop-up shop in cui i dati personali o meglio, i Data Dollar, sono l’unica moneta utilizzabile. L’obiettivo è dimostrare che i dati hanno un valore economico che può essere utilizzato per gli acquisti nei negozi del futuro.

Il Data Dollar Store è stato creato e allestito da Kaspersky Lab in Old Street a Londra, nel cuore della capitale della tecnologia. I clienti si sono messi in coda molto presto per aggiudicarsi le stampe esclusive del noto street artist Ben Eine, ma sono rimasti molto sorpresi di fronte al modo con cui avrebbero dovuto pagare le opere d’arte, veniva in effetti chiesto a loro di rinunciare alle proprie fotografie personali o ai video e utilizzarli come metodo di pagamento per gli acquisti. Dopo la sorpresa iniziale hanno però acconsentito favorendo l’aumento della valuta Data Dollar. Il Data Dollar Store, è stato ideato per far crescere negli utenti la consapevolezza del valore effettivo dei dati personali e attirare altri player di mercato ad unirsi a questa attività utilizzando il simbolo del Data Dollar. Per l’occasione è stato realizzato un video.

Tenuto conto che la quantità di dati personali continua a crescere in modo esponenziale, possiamo dire che le persone, in modo del tutto inconsapevole, portano con sè ogni giorno una vera e propria miniera d'oro fatta di 
monete preziose che non subiscono l’influenza dei tassi di cambio o della posizione geografica. 
Secondo Kaspersky Lab, la mancanza di consapevolezza rispetto al valore effettivo dei propri dati personali è 
un ostacolo enorme che impedisce alle persone di compredere quanto sia necessario proteggere i propri dati.
La speranza è che attraverso i Data Dollar questa consapevolezza possa aumentare e rendere quindi più sicura
 l'esperienza online di tutti.

“Per noi il Data Dollar è principalmente un mezzo per sensibilizzare gli utenti sul valore dei dati”, afferma Morten Lehn, General Manager Italy di Kaspersky Lab. “Quindi, se un sito web offre dei servizi gratuitamente, ma chiede in cambio i dati personali dei clienti per monetizzare il proprio servizio, dovrebbe utilizzare il simbolo del Data Dollar per dimostrare che si sta verificando una forma di scambio”, continua Lehn.

[amazon_link asins=’8811682479,074947985X,8838662916,B06XWN7VCQ,B01J0RYDPQ’ template=’ProductCarousel’ store=’antoniosavare-21′ marketplace=’IT’ link_id=’06828932-ad7b-11e7-9229-d34717296eb0′]

Kaspersky Lab ha dimostrato che fare acquisti in un pop-up store temporaneo di Londra utilizzando i dati come
valuta può funzionare. Il negozio che è stato aperto per due giorni ha attirato diversi clienti che volevano 
aggiudicarsi ad ogni costo le stampe esclusive e le opere d'arte di Ben Eine, il noto street artist. 
I clienti erano convinti che avrebbero fatto una normalissima esperienza di shopping e che quindi dopo aver 
osservato i prodotti e scelto quelli da acquistare sarebbero andati alla cassa  per pagarli con del denaro. 
Quello che è accaduto invece è che al momento del pagamento ai clienti è stato chiesto di pagare in Data 
Dollars, la nuova valuta creata da Kaspersky Lab e che consiste nei dati personali dei clienti contenuti 
all’interno del loro smartphone: immagini, video o testi.

Morten Lehn ha aggiunto: “È facile dimenticarsi della quantità enorme di dati che condividiamo quotidianamente. La sensazione di perdita che si prova quando i dati personali vengono sottratti contro la nostra volontà, diventa molto più realistica quando qualcuno prende il nostro smartphone e davanti ai nostri occhi, scorre tutti i nostri dati decidendo quali prendere. L’effetto di questa esperienza di acquisto, che abbiamo potuto esplorare grazie al Data Dollar Store, è stata per noi molto interessante. Secondo un sondaggio globale, anche se il 29% delle persone in tutto il mondo è stato vittima di un attacco informatico, il 39% non protegge i propri dispositivi dagli attacchi.

Le persone dovrebbero dare ai propri dati lo stesso valore che danno al denaro. Visto che i dati personali hanno valore e possono essere utilizzati come mezzo di scambio o per fare acquisti è importante proteggerli facendo di tutto per evitare che vengano rubati o persi”.