Rendere punibile la diffusione non consensuale di immagini sessualmente esplicite generate con l’Intelligenza Artificiale è una delle quattro proposte di riforma normativa presentate da Terre des Hommes Italia per arginare i rischi della violenza online, anche alla luce delle nuove tecnologie.
Dialogo, oggi, con Federica Giannotta, Responsabile Advocacy e Programma Italia di Terre Des Hommes.

Iniziamo con lo spiegare quali sono le principali forme di violenza online subite dai minori.

Abbiamo, innanzitutto, il cyberbullismo.
Si tratta di un attacco alla persona svolto con la finalità di mortificare.
Non tocca solo la fisicità di un individuo ma anche il lato caratteriale di un soggetto che, magari, è schivo o non emerge e, di conseguenza, si trova al centro di un attacco di gruppo.
C’è il revenge porn che avviene prevalentemente a danno delle ragazze ed è un tema per la quale queste ultime esprimono una grande preoccupazione.
In questo caso ci troviamo innanzi all’utilizzo di immagini intime che vengono fatte circolare senza autorizzazione.
C’è il catcalling, commenti a sfondo sessuale non graditi e non richiesti rivolti alle ragazze.
Altri problemi sono la sottrazione e il furto di identità, la violenza psicologica e l’attacco verbale che può essere spot o perpetrata e, quindi, finalizzata all’annientamento dell’identità della persona, a minarne le fondamente.

Dal punto di vista psicologico, quali conseguenze possono derivare a coloro che subiscono queste forme di violenza?

Come Terre des Hommes abbiamo visto che la prima conseguenza è la perdita lenta e inesorabile della propria autostima.
A questo, in alcuni casi,  può seguire anche una sintomatologia fisica: attacchi d’ansia, panico, sentirsi non a posto all’interno di una dimensione di relazione con gli altri e, quindi, il voler rifuggire da situazioni di contatto con i pari.
Nei casi più estremi il ragazzo o la ragazza si chiudono in casa e si arriva a non voler più frequentare determinati ambiti quali la scuola o un qualunque contesto di relazione con i propri pari.
In sintesi, la prima ripercussione è la lesione dell’autostima che portata agli estremi si può esprimere con problematiche di carattere fisico che sono sintomatologia di un malessere profondo e di natura psicologica.

Secondo voi, quali sono le fondamenta di queste violenze?

Dipende sempre dalle situazioni.
Sicuramente fattori importanti sono la fragilità di chi subisce, ma anche di coloro che attaccano.
Che siano digital o off line i bulli mascherano insicurezza e incapacità di avere relazioni equilibrate, sono ragazzi o ragazze che riescono a esprimere se stessi solo attraverso la sopraffazione e la prevaricazione.
La debolezza dell’altro è vista come un punto d’attacco.
Si attacca dove si pensa di avere più forza ma è una forza apparente, non reale che nasconde una grande fragilità.


Il 60% dei giovani vorrebbero una maggiore regolamentazione della rete. Questa è una dimostrazione della loro consapevolezza. È un buon segno.

Sì, è un buon segno perché c’è consapevolezza di come questo non vada ad inficiare la loro libertà dell’utilizzo di strumenti rappresentati dai social.
Non sentono tutto questo come una minaccia ma come una possibile strada per essere più tutelati.
Anche i più piccoli sono, spesso, esposti a immagini che non sono adatte alla loro età e non hanno mezzi per poterle cancellare e non esservi sottoposti.
Vi sono, purtroppo, anche queste situazioni e, quindi, un controllo maggiore e una responsabilità maggiore delle piattaforme comincia ad essere compresa dai ragazzi e, tutto sommato, non percepita come un problema.

Attualmente abbiamo una giurisprudenza rivolta, appunto, alla tutela del minore. Una giurisprudenza che, a quanto pare, è debole. Cosa prevede e quali sono i suoi limiti?

Diciamo che, attualmente, alcune  lacune normative riescono ad essere colmate, o aggirate in parte dal lavoro dei giudici.
Faccio riferimento, ad esempio, alla necessità di individuare con certezza la giurisdizione e la competenza territoriale per i reati commessi online
In questo ad oggi i magistrati possono ricorrere a criteri supplettivi che permettono di individuare la soluzione però la norma non ci aiuta.
Proprio per questo nella nostra proposta di riforma normativa chiediamo che nel caso di reato commesso online si identifichi come luogo del reato quello dove ha residenza la vittima e quello deve anche essere il principio guida per stabilire la competenza di quale tribunale.
Un altro limite è che le piattaforme possono non collaborare, il giudice chiede e i dati non vengono forniti. Nel momento in cui parte un’indagine di questo tipo la collaborazione delle piattaforme social è ancora troppo poca.
A riguardo noi chiediamo che per legge sia previsto l’obbligo da parte della piattaforma di fornire tutti i dati identificativi utili per individuare il soggetto quando il giudice per le indagini preliminari vuole perseguire quella data persona.
Altro punto debole è che, attualmente, non risulta possibile informare una piattaforma del fatto che vi sia un contenuto illegale e che si vuole fare rimuovere questo contenuto.
Fino a poco tempo fa le piattaforme rispondevano che questa rimozione non era di loro competenza e che occorreva scrivere una mail, o una comunicazione alla sede centrale che, spesso, si trova all’estero e, di conseguenza, il nostro utente da difendere non aveva dall’altra parte qualcuno che si prendesse in carico questa segnalazione.
Al momento, il Digital Service Act che è entrato in vigore a livello europeo e quindi è arrivato anche in Italia dal febbraio di quest’anno, prevede che ci sia un punto di contatto con la piattaforme.
Ad oggi, però, non ci risulta che questo meccanismo sia stato, effettivamente, messo in atto.
Dunque, una persona non può ancora scrivere, o segnalare un contenuto illecito con la certezza che il tutto verrà preso in carico da un referente in Italia che, a quel punto, dovrà valutare e eliminare il contenuto se illegale.
Questo limita di molto la difesa di una persona.

Come mai questo ritardo nella messa in atto?

Il Digital Service Act doveva entrare in vigore in tutti i  Paesi Membri entro febbraio.
Tra  le varie disposizioni del Digital c’è anche quella di cui abbiamo parlato poc’anzi e noi stiamo monitorando che le piattaforme adempiano a questo loro obbligo.
Il punto è che se io non ho dall’altra parte qualcuno a cui posso scrivere in Italia, io non riesco a fare in modo che la piattaforma sia formalmente messa a conoscenza di un problema.
La legge dice che se la piattaforma è messa formalmente a conoscenza del fatto che c’è un problema deve fare qualcosa, ma se mi sfugge e non posso comunicarle il contenuto pericoloso, quest’ultima può evitare di rispondere alla mia segnalazione.
Il Digital Service Act impone l’attivazione di un punto di contatto.
Noi stiamo monitorando che questi punti di contatto vengano attuati.

Il fatto che non sempre si riesce a garantire la punibilità di chi compie un reato è, quindi, collegato a tutto ciò che ci siamo detti fin’ora.

Esatto, si archivia per questo motivo: la piattaforma non collabora e io non riesco a procedere.
Oppure, se non riesco a stabilire dove è commesso il reato e a risolvere questo aspetto, non ho la possibilità di procedere.
Se la piattaforma non risponde alla segnalazione, non ho dall’altra parte qualcuno che si prenda carico della verifica di quanto fatto presente.La mia difesa diventa molto debole.

Si crea un circolo vizioso da quanto mi sta dicendo…

Sì, va a crearsi un sistema per cui diventa complesso se non, a volte, infattibile la difesa.
Faccio l’esempio delle  challenge che non possono essere definite reato perché sono accompagnate da cartelli che dicono di non fare quella cosa, ma in realtà ti stanno invitando a farlo.
Questo è il tipico contenuto pericoloso per cui, se io, da madre vedo che mio figlio è finito su un sito che propone questa cosa  e vorrei comunicarlo alla piattaforma perché pericolosissimo, non ho ancora modo di farlo.
Dal punto di vista giudiziario non la posso attaccare perché non è istigazione al suicidio: è una challenge, vuoi fare una cosa sopra le righe? Bene, ma a tuo rischio e pericolo. Io non ti sto dicendo di farlo.
Il contenuto pericoloso però c’è e su un bambino può avere un effetto devastante.

Si spera sempre nella coscienza di chi mette online…

Certa gente non si fa scrupoli, cerca le visualizzazioni, vuole essere seguito.
Solleticano la curiosità, però su alcuni soggetti hanno una presa pericolosa perché, magari, sono ragazzini che hanno bisogno di compiere questi atti per sentirsi forti e si attaccano a qualcosa che può sembrare non pericoloso.
Torniamo al discorso di prima: vengo attaccato e minato nella mia credibilità, o autostima e, allora, cerco di mostrare la mia forza in altro modo, facendomi attirare da sfide pericolose.
A volte, lo si fa, semplicemente, perché si crede molto in se stessi e si pensa di non avere difficoltà a superare qualunque tipo di prova e, questo, è tipico degli adolescenti, fa parte della crescita dell’essere umano voler superare i propri limiti.

So che come Terre Des Hommes avete proposto una serie di riforme alla normativa vigente.
Entriamo nel merito.

Sì, come accennavo prima da un lato abbiamo chiesto di intervenire prevedendo l’obbligatorietà di collaborazione da parte delle piattaforme.
Ad esempio, se un giudice per le indagini preliminari vuole richiedere la collaborazione delle piattaforme perché sta indagando nei confronti di una persona che si cela dietro un nickname, deve ottenerla e  deve ottenere i dati identificativi di colui che ha commesso il reato.
Il secondo punto è quello della competenza territoriale e giurisdizionale.
Occorre individuare il luogo di commissione del reato online e quale tribunale deve intervenire e giudicare nel merito.
Per Terre des Hommes questo luogo è quello ove risiede o ha domicilio o dimora la vittima del reato. Lo stesso vale per l’individuazione della competenza del tribunale.
Altro elemento di collaborazione richiesto alla Piattaforme è la creazione di un punto di contatto cui chiunque, non soltanto l’autorità giudiziaria, possa rivolgersi per segnalare un contenuto illecito.
Questo passaggio è fondamentale perché nel momento in cui la Piattaforma viene messa a conoscenza di un contenuto illecito, è costretta ad intervenire, ma se, per assenza di tale punto di contatto, non è possibile raggiungere la Piattaforma e comunicarlo, essa può disinteressarsi del problema.
Oggi, per fortuna, questo obbligo è stato previsto dal Digital Service Act, ma da qui ad avere un repentino adeguamento della Piattaforme ci vuole tempo e quindi Terre des Hommes sta monitorando se e come questo obbligo sarà rispettato. Perché da qui passa il primo livello di tutela di una vittima.
Ultima proposta di riforma era per noi quella della creazione di un Autority terza composta  a tecnici che in tempi brevissimi possa decidere in modo collegiale entro 48/70 ore circa il contenuto pericoloso e l’eventuale rimozione.
 Il Digital Service Act però oggi prevede qualcosa di simile, anche se non identico e che – non siamo certi – soddisfi l’esigenza di piena tutela dell’utenza.
Esso infatti impone per ogni Paese europeo la creazione di una Autority locale che dialoghi con un’ Autority europea centralizzata con il mandato di monitorare l’effettivo adeguamento delle piattaforme a questi obblighi.
Il Digital porta con sé tante cose: piano di monitoraggio, prevenzione dei rischi e strumenti che come piattaforma sono stati messi in atto per tutelare i vari target di popolazione che usano la piattaforma stessa.
Da quanto abbiamo saputo, questo tipo di competenza è stata data all’Autorità garante  per la concorrenza e il mercato.

 A livello di statistiche, cosa può dirmi circa il numero di giovani che subiscono queste forme di violenza?

Noi possiamo attenerci ai dati che, come Terre Des Hommes, raccogliamo in prima persona dal nostro Osservatorio indifesa.
Nel 2023 abbiamo intervistato 4100 ragazzi delle scuole secondarie di secondo grado in tutta Italia.
È da qui che è uscita la nostra percentuale.
Il 65% di loro ha subito una forma di violenza, online, off line, fisica o psicologia. La forma di violenza maggiormente diffusa è quella di tipo psicologico, riportata dal 70% dei ragazzi e delle ragazze.
Inoltre il 40% dei partecipanti all’Osservatorio ci dice che considera il web un luogo pericoloso. Sanno riconoscere pericoli come appunto il cyberbullismo, il revenge porn, il furto di identità, l’adescamento da parte di estranei.

Voi vivete a stretto contatto con i giovani, con le nuove generazioni. Cosa vedete, cosa riuscite a osservare?

Innanzi tutto, vediamo che c’è una grande predisposizione a mettersi in gioco e a parlare di queste tematiche.
Abbiamo visto centinaia di ragazzi partecipare agli incontri che organizziamo, incontri in cui, c’è molto interesse da parte loro a raccontarsi.
Si percepisce la loro volontà di navigare liberamente e sicurezza in rete perché questa è una dimensione presente nel loro quotidiano.
Sicuramente, infine, abbiamo riscontrato una forte fragilità che si esprime nei numeri.
Se il 70% dei giovani ha vissuto qualcosa di negativo nella relazione con i pari, racconta una fragilità che esprime in queste forme di prevaricazione.
È importante riuscire a portare l’argomento non in modo schematico, ma riuscire a entrare in confidenza con i ragazzi.
Noi, da anni, abbiamo una collaborazione aperta con ScuolaZoo – One Day e con loro abbiamo sperimentato forme di assemblee plenarie con tre/quattrocento ragazzi in cui è possibile costruire un ambiente di fiducia e parità e, sulla base, di questo abbiamo ascoltato le loro  storie e parlato della percezione che questi giovani vivono o hanno vissuto.

Per concludere le chiedo: c’è altro che vorrebbe aggiungere?

Seguite il nostro lavoro che, quotidianamente,  svolgiamo nelle scuole attraverso l’Osservatorio.