Rapporto sulla trasparenza

Rimozioni ai sensi della legge per la tutela dei diritti sui social network

La legge per la tutela dei diritti sui social network (NetzDG) è entrata in vigore in Germania il 1° ottobre 2017. La legge ha imposto una procedura efficace e trasparente per gestire i ricorsi per la rimozione dei contenuti illeciti definiti nella legge NetzDG e impone ai social network di pubblicare un rapporto sulla trasparenza su base semestrale. Tuttavia, a causa del primato del Regolamento sui servizi digitali (DSA) dell'Unione Europea, la legge NetzDG non verrà applicata a YouTube a partire dal 25 agosto 2023.

I rapporti ancora disponibili qui forniscono dati sulla nostra organizzazione e sulle procedure, sui volumi dei reclami e dei contenuti rimossi. I rapporti forniscono anche informazioni generali sulle norme e sulle prassi di rimozione. Tieni presente che i rapporti disponibili qui non contengono le informazioni attuali su questi argomenti e potrebbero essere obsoleti.

Rimozione dei contenuti da YouTube in base alla legge per la tutela dei diritti sui social network

La legge per la tutela dei diritti sui social network (Netzwerkdurchsetzungsgesetz, NetzDG) obbliga i social network con più di due milioni di utenti registrati in Germania ad applicare una rimozione a livello locale dei contenuti (come ad esempio un video o un commento) "chiaramente illegali" entro 24 ore dal reclamo relativo a contenuti illegali ai sensi della legge NetzDG (di seguito semplicemente "reclamo" o "reclamo ai sensi della legge NetzDG"). Qualora la legalità/illegalità non sia evidente, il provider ha normalmente fino a sette giorni di tempo per prendere una decisione in merito alla richiesta. In casi eccezionali potrebbe occorrere più tempo, ad esempio se viene chiesto l'intervento degli utenti che hanno caricato i contenuti, utenti per i quali i video o i commenti sono memorizzati su YouTube (utenti che caricano video) o se la decisione viene rimandata a un Joint Industry Body accreditato come istituto di autoregolamentazione. Per poter essere idonei alla rimozione ai sensi della legge NetzDG, i contenuti devono rientrare in uno dei 22 statuti del Codice penale tedesco (StGB) a cui fa riferimento la legge NetzDG (§ 1 (3), NetzDG). Esaminiamo tutti i reclami ai sensi della legge NetzDG in base ai reati contemplati nel § 1 (3) della legge NetzDG. Se identifichiamo i contenuti come illegali ai sensi del § 1 (3) della legge NetzDG, verranno bloccati a livello locale. Se i contenuti violano chiaramente le nostre Norme della community di YouTube globali, procediamo a rimuoverli a livello globale.

La Legge sulla lotta all'estremismo di destra e ai reati generati dall'odio ha esteso l'elenco dei reati contemplati nel § 1 (3) della legge NetzDG a livello di contenuti. Ad esempio, il reato di disturbo della quiete pubblica con minaccia di commettere un crimine (§ 126) e il reato di ricompensa e approvazione di un crimine (§ 140) sono stati modificati in modo da includere anche il reato di provocare gravi lesioni personali (§ 224). Inoltre, il 1° febbraio 2022 ai reati contemplati dalla legge NetzDG è stato aggiunto il § 189 StGB (profanazione della memoria dei defunti). Queste estensioni e aggiunte introducono ulteriori termini legali ambigui nei controlli da eseguire, il che aumenta maggiormente il rischio di decisioni errate.

La legge NetzDG inoltre richiede ai social network di creare e pubblicare un rapporto sulla gestione di tali reclami (Rapporto sulla trasparenza) su base semestrale. Ottemperiamo a questa obbligazione con la pubblicazione di questo rapporto. Aggiorniamo questo rapporto per i periodi da gennaio a giugno e da luglio a dicembre di ogni anno. Il rapporto predefinito disponibile qui riguarda il periodo del rapporto tuttavia, gli utenti possono anche visualizzare i dati dei precedenti periodi del rapporto. Al termine del rapporto è possibile scaricarne la versione attuale.

Osservazioni generali su come gestiamo i contenuti presumibilmente illegali

Oggi vengono caricate su YouTube più di 500 ore di video al minuto e ciò ne fa la più grande collezione vivente di cultura umana mai assemblata in un unico luogo: una community in cui persone di tutto il mondo possono creare e condividere idee e opinioni. YouTube deve assicurarsi che gli utenti rispettino le regole necessarie a tutelare l'intera community. Le nostre Norme della community vietano alcune categorie di materiali, tra cui contenuti sessualmente espliciti, incitamento all'odio o alla violenza, molestie e spam. Se i contenuti violano le nostre Norme della community, li rimuoviamo o ne limitiamo l'accesso a livello globale. Grazie all'impiego di un framework "uomini + macchina", YouTube ha fatto notevoli progressi nel far rispettare le nostre norme. Per scoprire di più, consulta il nostro Rapporto sull'applicazione delle Norme della community di YouTube.

Rispettiamo la legge tedesca e le altre leggi locali. Quando riceviamo reclami che chiedono la rimozione di un contenuto presumibilmente illecito, li esaminiamo con attenzione. In presenza di violazioni delle leggi locali, blocchiamo a livello locale i contenuti identificati come illeciti. È lo stesso approccio che adottiamo con altre richieste di natura legale di rimozione dei contenuti. Come spieghiamo dettagliatamente nel presente report, decidere se un contenuto è illecito nei termini stabiliti dalle leggi locali può essere una delle decisioni più difficili che i revisori di YouTube devono prendere in ambito giuridico.

Gli sforzi di YouTube per creare una community globale online coinvolgente non potrebbero avere successo senza l'impegno di un team interdisciplinare, composto tra gli altri da esperti di norme, avvocati, ingegneri, product manager, analisti di dati, revisori dei contenuti, analisti di procedure, analisti delle minacce emergenti e molti altri. Inoltre anche i contributi degli utenti della community globale, delle ONG, dei governi e dei partner di settore, tra cui le società dell'industria tecnologica, svolgono un ruolo fondamentale nel rendere YouTube una piattaforma adatta a utenti e creator di tutto il mondo.

Elementi segnalati

Questi dati includono solo i reclami che riguardano i contenuti ritenuti illegali ai sensi della sez. 1 paragrafo 3 NetzDG (tuttavia, non sono inclusi i reclami ricevuti tramite i canali di segnalazione, i quali chiaramente non portano a una valutazione secondo la legge NetzDG).

Il termine "reclamo" si riferisce ai singoli elementi del presente Rapporto sulla trasparenza. Se più elementi (ad esempio, più video o commenti) sono soggetti a un reclamo ai sensi della legge NetzDG, conteggeremo un reclamo per elemento. Se, ad esempio, riceviamo un reclamo ai sensi della legge NetzDG contenente tre diversi video, conteggeremo rispettivamente tre reclami, ovvero un reclamo per ogni elemento segnalato. Pertanto, nel presente report, conteggeremo ciascun reclamo su un video o commento come elemento a sé stante. Di conseguenza i grafici sotto, segnati come elementi, forniscono dati sul numero di reclami relativi agli elementi segnalati durante il periodo del report semestrale.

Numero totale di elementi segnalati
193.131
Il numero riportato sopra mostra il numero totale di elementi che ci sono stati segnalati durante il periodo del report.

Numero totale di elementi segnalati in base all'autore della richiesta

Elementi segnalatiUtenteEnte020.00040.00060.00080.000100.000120.000140.000130.55962.572
EntityElementi segnalati
Utente130.559
Ente62.572

Il grafico riportato sopra mostra il numero di elementi segnalati durante il periodo del report in base all'autore della richiesta (utenti e agenzie responsabili della segnalazione). Questi dati sono basati sull'auto-identificazione al momento della segnalazione e non possiamo verificare se un utente che seleziona "Agenzia responsabile della segnalazione" sia effettivamente affiliato a un'agenzia.

Elementi segnalati in base alla causa del reclamo

Elementi segnalatiPrivacyDiffamazione o insultiAzioni dannose o pericoloseContenuti di natura sessualeContenuti di stampo terroristico o…Incitamento all'odio o estremismo…Violenza010.00020.00030.00040.00050.00060.0006.51933.52925.40032.68313.58456.92924.487
CategoryElementi segnalati
Privacy6.519
Diffamazione o insulti33.529
Azioni dannose o pericolose25.400
Contenuti di natura sessuale32.683
Contenuti di stampo terroristico o anticostituzionali13.584
Incitamento all'odio o estremismo politico56.929
Violenza24.487

Il grafico riportato sopra mostra il numero di elementi che ci sono stati segnalati durante il periodo del report in base al motivo del reclamo. Questo grafico rispecchia il motivo fornito dall'autore del reclamo al momento della segnalazione.

Volume degli elementi rimossi

I grafici che seguono mostrano il numero di elementi che sono stati rimossi o bloccati in seguito a un reclamo ai sensi della legge NetzDG durante il periodo del report.

Elementi totali rimossi
30.870
Il numero riportato sopra mostra il numero di elementi che sono stati rimossi o bloccati durante il periodo del report.

Elementi rimossi in base all'autore della richiesta

Elementi rimossiUtenteEnte02.5005.0007.50010.00012.50015.00017.50020.00022.50025.00022.8877.983
EntityElementi rimossi
Utente22.887
Ente7.983

Il grafico riportato sopra mostra il numero di elementi rimossi o bloccati durante il periodo del report in base all'autore della richiesta (utenti e agenzie responsabili della segnalazione). Questi dati sono basati sull'auto-identificazione al momento della segnalazione e non possiamo verificare se un utente che seleziona "Agenzia responsabile della segnalazione" sia effettivamente affiliato a un'agenzia.

Elementi rimossi in base al motivo del reclamo

Elementi rimossiPrivacyDiffamazione o insultiAzioni dannose o pericoloseContenuti di natura sessualeContenuti di stampo terroristico o…Incitamento all'odio o estremismo…Violenza02.0004.0006.0008.00010.00012.0003745.7904.9133.0161.77111.8123.194
CategoryElementi rimossi
Privacy374
Diffamazione o insulti5.790
Azioni dannose o pericolose4.913
Contenuti di natura sessuale3.016
Contenuti di stampo terroristico o anticostituzionali1.771
Incitamento all'odio o estremismo politico11.812
Violenza3.194
Il grafico riportato sopra mostra il numero di elementi rimossi o bloccati durante il periodo del report in base al motivo del reclamo. Questo grafico rispecchia il motivo fornito dall'autore del reclamo al momento della segnalazione, che potrebbe non coincidere con il motivo effettivo della rimozione o del blocco.

Applicazione delle Norme della community e statuti NetzDG a confronto

Rimozione locale (NetzDG)Rimozione globale (CG)PrivacyDiffamazione o insultiAzioni dannose o pericoloseContenuti di natura sessualeContenuti di stampo terroristico o…Incitamento all'odio o estremismo…Violenza02.0004.0006.0008.00010.00012.000572159511308491263175.5754.8183.0051.46311.3213.168
CategoryRimozione locale (NetzDG)Rimozione globale (CG)
Privacy57317
Diffamazione o insulti2155.575
Azioni dannose o pericolose954.818
Contenuti di natura sessuale113.005
Contenuti di stampo terroristico o anticostituzionali3081.463
Incitamento all'odio o estremismo politico49111.321
Violenza263.168
Il grafico riportato sopra mostra un confronto tra gli elementi bloccati a livello locale in quanto hanno commesso uno dei reati contemplati dalla legge NetzDG e gli elementi rimossi a livello globale a causa di una violazione delle nostre Norme della community. In questo contesto, gli elementi possono violare sia le nostre Norme della community sia i reati contemplati dalla legge NetzDG. Le colonne blu nel grafico rappresentano gli elementi che sono stati bloccati localmente solo a causa di una violazione per i reati contemplati nella legge NetzDG. Le colonne rosse rappresentano gli elementi rimossi a livello globale per violazione della legge NetzDG e delle Norme della community o solo per violazioni delle Norme della community.
Reclami ai sensi della legge NetzDGCiclo di report attualeCiclo di report precedente (6 mesi fa)Ciclo di report precedente (12 mesi fa)
Numero totale di elementi segnalati193.131233.440282.858
Numero totale di elementi rimossi/bloccati30.87032.15050.717
Percentuale di elementi segnalati rimossi/bloccati15,98%13,77%17,93%

La tabella riportata sopra mostra il confronto tra il numero totale di elementi segnalati ai sensi della legge NetzDG, il numero totale di elementi bloccati o rimossi e la percentuale di elementi segnalati bloccati o rimossi nel periodo del report attuale e nei due periodi del report precedenti.

Enti segnalanti verificati

EnteElementi di cui è stata richiesta la rimozioneElementi rimossi
Eco00
FSM10
jugendschutz.net1812

Questa tabella mostra il numero di elementi che abbiamo ricevuto dalle agenzie responsabili della segnalazione dell'area ai sensi della legge NetzDG e che hanno un mandato legale per elaborare immagini pedopornografiche (CSAI) in base ad accordi con l'Ufficio federale di polizia criminale (BKA) e l'Agenzia federale per la protezione dei minori e dei giovani nei media (BzKJ), Eco, Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e.V. e Jugendschutz.net. I dati nella tabella mostrano la prima decisione associata a un determinato report. I dati non mostrano lo stato finale di un elemento segnalato nel periodo del report.

Ottenere informazioni dagli autori delle richieste e dagli utenti che caricano i contenuti

La legge NetzDG consente ai social network di contattare l'utente che carica video in caso di dichiarazioni controverse o altre circostanze di fatto. Tuttavia, per ottenere una risposta ragionevole, è necessario che l'autore della richiesta presenti un reclamo dettagliato e giustificato da un punto di vista legale del motivo per cui la dichiarazione in questione è presumibilmente falsa. Poiché la maggior parte dei reclami legali relativi alla legge NetzDG non è adeguatamente motivata (anche in seguito a un'espressa richiesta di maggiori informazioni da parte di YouTube), in questi casi mancano i presupposti per contattare chi ha caricato i video.

Interazioni con l'utente che ha caricato i contenuti
0
Numero totale di elementi inoltrati all'utente che ha caricato i contenuti in modo che possa consultare il report in questione.
Reclami incompleti
5.234
Numero totale di elementi per cui abbiamo avuto bisogno di maggiori informazioni dall'autore della richiesta.

Richieste di consulenze esterne

Alcuni casi nell'ambito della legge penale sono complessi e richiedono approfondite conoscenze legali specifiche. In queste circostanze potremmo richiedere la collaborazione di enti esterni, ad esempio un consulente o un'istituzione di autoregolamentazione con competenze specifiche relative alla legge NetzDG.

Istituti di autoregolamentazione
12
Numero totale di elementi inoltrati a un istituto di autoregolamentazione. Le decisioni dell'istituto di autoregolamentazione "FSM" sono disponibili qui.
Consulenza esterna
2
Numero totale di elementi per i quali abbiamo richiesto una consulenza esterna per prendere una decisione.

Numero di contenuti identificati come illeciti ai sensi della legge NetzDG

Esaminiamo tutti i reclami ai sensi della legge NetzDG in merito ai contenuti illegali ai sensi della suddetta legge per stabilire se i contenuti segnalati violano uno dei reati contemplati dalla legge NetzDG (§ 1 (3), NetzDG).

Numero totale di elementi non conformi alla legge NetzDG
7.000

Il numero riportato sopra indica il numero di elementi rimossi o bloccati durante il periodo del report che abbiamo classificato come illeciti in uno dei reati contemplati dalla legge NetzDG.

Tempi di elaborazione dei contenuti identificati come illeciti ai sensi della legge NetzDG

I grafici in questa sezione mostrano il numero totale di elementi rimossi o bloccati e identificati come illeciti in base a uno dei reati contemplati dalla legge NetzDG durante il periodo del report secondo i tempi di elaborazione. I tempi di elaborazione corrispondono alla quantità di tempo che trascorre tra la ricezione di una segnalazione e la rimozione e il blocco degli elementi segnalati.

Tempi di elaborazione in base all'autore della richiesta

EnteUtenteMeno di 24 oreMeno di 48 oreMeno di una settimanaPiù lungo05001.0001.5002.0002.5003.0003.5004.0004.5002.0251576454.15934221830
TimeEnteUtente
Meno di 24 ore2.0254.159
Meno di 48 ore157342
Meno di una settimana64218
Più lungo530

Il grafico riportato sopra mostra, al contrario dei report precedenti, soltanto i tempi di elaborazione degli elementi rimossi o bloccati e che sono stati identificati come illeciti secondo uno dei reati elencati nella legge NetzDG durante il periodo del report in base all'autore della richiesta (utenti e agenzie responsabili della segnalazione). Il menu a discesa sotto il grafico contiene dati relativi ai tempi di elaborazione di tutti gli elementi rimossi o bloccati nei periodi del report precedenti. Nota: questi dati sono basati sull'auto-identificazione al momento della segnalazione e non possiamo verificare se un utente che seleziona "Agenzia responsabile della segnalazione" sia effettivamente affiliato a un'agenzia. I tempi di elaborazione potrebbero superare i sette giorni a causa di problemi tecnici, nei casi più complessi in cui richiediamo una consulenza esterna o quando sono coinvolte lingue rare.

Tempi di elaborazione in base al motivo del reclamo

Meno di 24 oreMeno di 48 oreMeno di una settimanaPiù lungoPrivacyDiffamazione o insultiAzioni dannose o pericoloseContenuti di natura sessualeContenuti di stampo terroristico o…Incitamento all'odio o estremismo…Violenza05001.0001.5002.0002.5003.000
MotivoMeno di 24 oreMeno di 48 oreMeno di una settimanaPiù lungo
Privacy883192
Diffamazione o insulti2.2401495230
Azioni dannose o pericolose18036300
Contenuti di natura sessuale154950
Contenuti di stampo terroristico o anticostituzionali59043310
Incitamento all'odio o estremismo politico2.5512351293
Violenza38124160
MotivoMeno di 24 oreMeno di 48 oreMeno di una settimanaPiù lungo
Privacy883192
Diffamazione o insulti2.2401495230
Azioni dannose o pericolose18036300
Contenuti di natura sessuale154950
Contenuti di stampo terroristico o anticostituzionali59043310
Incitamento all'odio o estremismo politico2.5512351293
Violenza38124160

I grafici riportati sopra mostrano i tempi di elaborazione degli elementi rimossi o bloccati e che abbiamo identificato come illeciti da uno dei reati contemplati dalla legge NetzDG nel periodo del report in base al motivo del reclamo. I grafici mostrano il motivo fornito dall'autore della richiesta al momento della segnalazione, che potrebbe non coincidere con il motivo effettivo della rimozione o del blocco.

Percentuale di elementi rimossi o bloccati entro 24 ore da un reclamo relativo alla legge NetzDG e identificati come illeciti ai sensi della legge NetzDG.

Divulgazione di informazioni ai fini della ricerca

0
Il numero riportato sopra indica il numero di volte in cui YouTube ha divulgato informazioni ai sensi del § 5a della legge NetzDG relativo ai ricercatori.

Richieste dati utenti

Enti statali, tribunali e parti di cause civili chiedono regolarmente alle società che si occupano di tecnologia e comunicazione di fornire dati sugli utenti. In questo report, forniamo informazioni sul numero e sul tipo di richieste che riceviamo dai governi.

Meccanismi, notifiche, metodi di segnalazione e valutazione

YouTube cerca di bilanciare e preservare le "quattro libertà": libertà di espressione, libertà di informazione, libertà di cogliere le opportunità e libertà di appartenenza. L'applicazione delle nostre Norme della community e/o della legge bilancia queste libertà e aiuta a tutelare la community di YouTube. Trovare il giusto equilibrio non è un compito facile, specialmente per una piattaforma globale che opera in società in cui si applicano standard diversi riguardo alla libertà d'espressione.

Meccanismi per inviare reclami relativi a contenuti presumibilmente illegali ai sensi della legge NetzDG

Per gli utenti residenti in Germania, YouTube offre un servizio facilmente riconoscibile, direttamente accessibile e sempre disponibile per segnalare reclami nell'ambito della legge NetzDG. La procedura per l'invio di reclami ai sensi della legge NetzDG per gli utenti che eseguono l'accesso è intuitiva e integrata direttamente nel flusso di segnalazione, disponibile sotto ogni video e accanto a ogni commento (tre puntini). L'autore della richiesta deve fare clic sulla casella di controllo "Ritengo che l'accesso a questi contenuti debba essere limitato ai sensi della legge per la tutela dei diritti sui social network". Si aprirà un breve modulo web che permette all'autore della richiesta di aggiungere i dettagli.

YouTube offre anche un modulo web legale di NetzDG, sia per utenti che eseguono l'accesso al servizio sia per gli utenti che non lo eseguono, disponibile direttamente tramite il link Reclami ai sensi del NetzDG nel menu principale di YouTube e tramite il marchio editoriale di YouTube (pagina di contatto disponibile per tutti gli utenti in Germania).

In qualità di persona non addetta ai lavori, l'utente medio probabilmente rischia di confondersi quando si ritrova a confrontarsi con una serie completa di reati complessi o potrebbe desistere dal segnalarli. L'utente medio non è in grado di capire e citare i passaggi del Codice penale tedesco rilevanti per l'invio di un reclamo legale ai sensi della legge NetzDG. Inoltre, alcuni contenuti segnalati potrebbero rientrare in più di uno dei reati elencati. Ad esempio, un video che cerca di reclutare nuovi membri o sostenitori per un'organizzazione criminale o terroristica (§ 129, 129a StGB) in genere contiene simboli quali una bandiera, il che potrebbe essere punibile ai sensi delle sezioni §§ 86, 86a StGB; inoltre potrebbe configurare il reato di preparazione di un grave attacco violento ai danni della nazione in base al § 89a StGB. Queste preoccupazioni, già evidenziate nei precedenti report, sono state notevolmente rafforzate dalle modifiche introdotte dalla Legge sulla lotta all'estremismo di destra e ai reati generati dall'odio. Ad esempio, una minaccia ai sensi del § 241 del Codice penale può attuarsi anche "tramite terze parti" qualora la comunicazione al destinatario sia parte dell'intento dell'autore del reato. I reati di minaccia (§ 126 StGB e § 241 StGB), pertanto, mancano di definizione e selettività, specialmente quando i rispettivi contenuti vengono pubblicati sui social network.

Perciò, per agevolare la procedura di reclamo e aiutare gli utenti a segnalare i contenuti che ritengono possano essere illegali ai sensi della legge NetzDG, nel nostro servizio di segnalazione NetzDG abbiamo creato sette categorie di contenuti che corrispondono, riflettono e categorizzano in modo comprensibile per un pubblico generale i 22 reati pertinenti. Questo approccio inoltre ci permette di dare una descrizione più concreta (soprattutto per i non addetti ai lavori) dei reati, dalla formulazione spesso astratta e dall'ambito di applicazione molto ampio. Ad esempio, il § 140 StGB condanna l'approvazione e la remunerazione di diversi atti illeciti, come tradimento, omicidio e altri gravi reati, come crimini di guerra, lesioni personali gravi (come minimo), determinati reati a danno del pubblico, nonché determinati reati gravi a sfondo sessuale e così via. La nostra esperienza con le procedure di notifica dei contenuti dimostra che gli utenti apprezzano questo approccio concreto e accessibile per inviare reclami efficaci sui contenuti illegali. Il catalogo del § 126 del Codice penale a cui si riferisce il § 140 del Codice penale è stato ampliato a sua volta. Inoltre, per l'alternativa dell'approvazione nel § 140 del Codice penale, non è neppure più necessario che l'atto in questione sia già stato commesso o che si sia almeno tentato di commetterlo in maniera punibile. La tecnica di fare riferimento ai cataloghi dei reati, nonché la valutazione nidificata dei reati, sovraccaricano ulteriormente di informazioni i non addetti ai lavori, in particolare a causa delle minacce orientate al futuro. L'approccio concreto e accessibile utilizzato finora continuerà presumibilmente a far sì che gli obiettivi della legge NetzDG vengano tenuti in considerazione nel miglior modo possibile.

Queste categorie, nonché i corrispondenti reati trattati al § 1 (3) NetzDG segnalabili tramite selezione, sono:

Incitamento all'odio o estremismo politico

  • § 130 StGB: incitamento all'odio
  • § 166 StGB: diffamazione di religioni e associazioni religiose o ideologiche

Contenuti di stampo terroristico o anticostituzionali

  • § 86 StGB: diffusione di materiale propagandistico relativo a organizzazioni incostituzionali
  • § 86a StGB: uso di simboli riconducibili a organizzazioni incostituzionali
  • § 89a StGB: organizzazione di un grave reato violento che mette in pericolo la nazione
  • § 91 StGB: incitamento a commettere un grave reato violento che metta in pericolo lo Stato
  • § 100a StGB: contraffazione
  • § 129 StGB: formazione di organizzazioni criminali o terroristiche
  • § 129a StGB: formazione di organizzazioni terroristiche
  • § 129b StGB: organizzazioni criminali o terroristiche all'estero; confisca e sequestro estesi
  • § 140 StGB in relazione con § 138 (1) StGB: approvazione e remunerazione di determinati reati elencati in § 138 (1) StGB
  • § 269 StGB: falsificazione di dati forniti come prove

Violenza

  • § 131 StGB: diffusione di rappresentazioni di violenza

Azioni dannose o pericolose

  • § 111 StGB: istigazione pubblica al crimine
  • § 126 StGB: violazione della quiete pubblica con la minaccia di commettere reati
  • § 140 StGB in relazione con § 126 (1) StGB: approvazione e remunerazione dei reati elencati in § 126 (1) StGB
  • § 241 StGB: minacce di commissione di reati

Diffamazione o insulti

  • §185 StGB: insulti
  • §186 StGB: diffamazione
  • §187 StGB: diffamazione intenzionale

Privacy

  • § 201a StGB: violazione della privacy personale a mezzo di fotografie

Contenuti di natura sessuale

  • § 184b StGB: diffusione, reperimento e possesso di pedopornografia
  • § 140 in relazione con i paragrafi da § 176 a § 178: approvazione e remunerazione di determinati reati elencati nei paragrafi da § 176 a § 178

In base alla nostra esperienza di lunga data sulla segnalazione dei contenuti, siamo convinti del fatto che lo scopo legale della legge NetzDG nel suo complesso sia supportato al meglio e possa essere raggiunto tramite queste categorie.

Ulteriori informazioni

Misure per informare l'autore della richiesta e l'utente che ha caricato il video

Quando riceviamo un reclamo ai sensi della legge NetzDG tramite le procedure di segnalazione descritte sopra, l'autore della richiesta riceverà un'email di conferma con un numero di riferimento che attesta che abbiamo ricevuto il reclamo e lo esamineremo.

Dopo aver esaminato un reclamo ai sensi della legge NetzDG, inviamo all'autore del reclamo un'email con informazioni sulla decisione che abbiamo preso ai sensi della legge NetzDG e le relative motivazioni. Questa notifica contiene anche informazioni relative alla possibilità di presentare un reclamo penale alle forze dell'ordine e viene indicato che è possibile trovare ulteriori informazioni a questo link, una pagina di assistenza del Ministero federale della giustizia e della tutela dei consumatori all'indirizzo hilfe-info.de. Se YouTube non concorda con un reclamo ai sensi della legge NetzDG relativo a un video, la notifica conterrà anche un link tramite il quale l'autore del reclamo potrà presentare una richiesta di riconsiderazione della decisione ai sensi della legge NetzDG.

Se, in risposta a un reclamo ai sensi della legge NetzDG, blocchiamo i contenuti a seguito di una delle violazioni contemplate dalla legge NetzDG, invieremo all'utente che ha caricato il video una notifica via email con informazioni relative al blocco. Se un video è stato bloccato, la notifica contiene anche un link tramite il quale l'utente che ha caricato il video può inviare una richiesta di riconsiderazione della decisione ai sensi della legge NetzDG. Se un video è stato rimosso per violazione delle Norme della community, l'utente che lo ha caricato riceverà una notifica con un link per richiedere una revisione della decisione relativa alle Norme della community.

Quando un video viene rimosso in base alle Norme della community o bloccato a causa di una legge locale, mostriamo un avviso pubblico al posto del video, per informare gli utenti che il video non è più disponibile.

Altri metodi di segnalazione

Reclami per contenuti illegali. Come spiegato in precedenza, abbiamo creato strumenti di segnalazione aggiuntivi per permettere agli utenti di segnalare i contenuti che presumibilmente violano gli statuti della legge NetzDG (reclami NetzDG): un modulo web direttamente disponibile per tutti gli utenti tramite il link Reclami ai sensi della NetzDG nel menu principale di YouTube o tramite il marchio editoriale di YouTube o ancora, per gli utenti che eseguono l'accesso facendo clic sulla casella di controllo NetzDG che è integrata nel flusso di segnalazione tedesco, come descritto sopra. Questi canali per la segnalazione consentono agli utenti di identificare gli elementi discutibili e fornire le motivazioni per un reclamo per contenuti illegali. Queste informazioni sono necessarie per poter esaminare adeguatamente le richieste e prendere provvedimenti appropriati. Se vengono forniti motivi poco chiari o insufficienti a giustificare una rimozione legale a livello locale, potremmo chiedere all'autore della segnalazione di inviarci ulteriori informazioni.

Offrire un flusso di segnalazione intuitivo e facile da usare accanto al contenuto comporta la ricezione di un grande numero di clic e di reclami. Tuttavia, le segnalazioni degli utenti non sono sempre affidabili. Molte sono fuori tema o non adeguatamente motivate, quindi non è possibile prendere provvedimenti al riguardo. Altri utenti inviano reclami senza fornire alcuna spiegazione del motivo per cui credono che il contenuto sia illecito e questo è particolarmente problematico nei casi in cui un contenuto non sia chiaramente illecito.

Oltre ai meccanismi per inviare reclami ai sensi della legge NetzDG, da anni forniamo moduli web legali agli utenti di YouTube indipendentemente da NetzDG (ad esempio, per reclami sui diritti della persona, per violazione del copyright, relativi al marchio e così via). Il processo di rimozione legale non è stato introdotto con la legge NetzDG. Questo si collega strettamente ai nostri meccanismi di segnalazione esistenti per le presunte violazioni delle Norme della community e per i reclami per contenuti illegali.

Segnalazione da parte di persone fisiche. Abbiamo un sistema di segnalazione che permette agli utenti che eseguono l'accesso al servizio di avvisarci della presenza di contenuti che potrebbero violare le nostre Norme della community. Questo sistema di segnalazione è disponibile sotto ogni video e accanto a ogni commento. L'utente può scegliere tra diverse categorie di contenuto il motivo della segnalazione. A meno che non venga selezionata la casella di spunta NetzDG, queste segnalazioni vengono valutate esclusivamente in base alle nostre Norme della community. Si tratta di un sistema di autoregolamentazione volontaria che esula da qualsiasi obbligo legale. Abbiamo anche sviluppato un programma chiamato "Segnalatore attendibile" per fornire procedure solide e strumenti efficaci per la segnalazione di più contenuti alle organizzazioni particolarmente efficaci nel segnalare contenuti che violano le nostre Norme della community. Le segnalazioni dei Segnalatori attendibili vengono valutate esclusivamente in base alle Norme della community. I Segnalatori attendibili sono ONG e agenzie governative con esperienza e che solitamente effettuano segnalazioni accurate, motivo per il quale le loro segnalazioni sono un valido contributo per il sistema generale. Informazioni dettagliate sul programma Segnalatore attendibile sono disponibili nel Rapporto sull'applicazione delle Norme della community di YouTube.

Corrispondenze individuate automaticamente. Il sistema per l'applicazione delle norme di YouTube si avvia nel momento in cui un utente carica un video. YouTube utilizza sistemi tecnologici per evitare i ricaricamenti di contenuti di cui è già stata accertata la violazione, anche tramite l'uso di hash (o "fingerprint"). Gli hash sono impronte digitali univoche di video e immagini che ci aiutano a prevenire che vengano ricaricate le corrispondenze esatte dei video rimossi a causa di violazioni delle nostre Norme della community. Per alcuni contenuti, come le immagini pedopornografiche (CSAI, child sexual abuse images) o i video per il reclutamento da parte di organizzazioni terroriste, YouTube utilizza inoltre un database di hash condiviso con i partner del settore per aumentare il volume di contenuti che possono essere individuati dalle nostre macchine nel momento in cui vengono caricati.

Segnalazioni automatiche. Nel giugno del 2017 abbiamo iniziato a implementare la tecnologia di machine learning per segnalare contenuti di estremismo violento da sottoporre a revisione umana. YouTube utilizza l'intero corpus di video già esaminati e rimossi per estremismo violento per addestrare la tecnologia di machine learning a segnalare nuovi contenuti che potrebbero violare le Norme della community. Utilizzare le decisioni prese da persone fisiche per addestrare la tecnologia di machine learning permette ai sistemi di applicazione delle norme di adattarsi e migliorare nel tempo. Poiché abbiamo riscontrato risultati positivi, abbiamo iniziato ad applicare questa procedura anche ad altre aree delicate, tra cui la tutela dei minori o l'incitamento all'odio. Tuttavia, abbiamo constatato che questi sistemi sono più efficaci quando esiste un obiettivo chiaramente definito che costituisce un'infrazione in ogni contesto. I meccanismi automatici non possono sostituire il giudizio umano nelle sue sfumature. Per ulteriori informazioni, consulta il nostro Rapporto sull'applicazione delle Norme della community di YouTube.

Processo di valutazione

Segnalazione in base alle Norme della community. Le Norme della community di YouTube globali sono regole chiare e generiche, disponibili qui. Si tratta di linee guida che si sono evolute nel tempo parallelamente alla crescita di YouTube e ai cambiamenti nel comportamento degli utenti. Per poter aprire un canale YouTube è necessario accettare le suddette norme.

Esaminiamo gli elementi che sono stati segnalati (come precedentemente indicato) ai sensi delle nostre Norme della community, che vietano tra i vari aspetti: nudità o contenuti di natura sessuale; contenuti pericolosi o dannosi; contenuti che incitano all'odio; contenuti violenti o espliciti; molestie o cyberbullismo; minacce e rischi per i bambini.

YouTube garantisce l'applicazione coerente delle Norme della community tramite un insieme più dettagliato e dinamico di norme interpretative. Ad esempio, le Norme della community vietano contenuti che promuovono il terrorismo. Se un gruppo terroristico crea un nuovo ramo, le linee guida interne sull'applicazione delle norme possono essere aggiornate con informazioni su quel gruppo specifico, in modo che i revisori abbiano istruzioni necessarie per rimuovere i contenuti che lo promuovono. YouTube non comunica sempre questo tipo di aggiornamenti al pubblico perché, così facendo, sarebbe più facile per gli utenti senza scrupoli eludere il rilevamento.

Durante la revisione dei contenuti segnalati i team possono vedere il contesto della pubblicazione, ad esempio la descrizione dei video, gli altri contenuti caricati su quel canale e i metadati (titoli, tag o didascalie). Queste informazioni relative al contesto sono spesso fattori importanti per la valutazione delle intenzioni di chi ha caricato il contenuto. I nostri strumenti per la revisione inoltre acquisiscono il timestamp del momento in cui il video è stato segnalato e i nostri moduli web chiedono all'autore della richiesta di inserirlo. Questo permette ai nostri revisori di concentrarsi sui momenti più problematici del video.

Abbiamo stabilito delle eccezioni alle Norme della community per i materiali a scopo didattico, documentaristico, scientifico o artistico (EDSA: educational, documentary, scientific, artistic). I video e i commenti che rientrano in queste eccezioni sono fondamentali per capire il mondo e raccontare i fatti storici, che si tratti di documentare guerre o espressioni artistiche che potrebbero includere nudità. Per questo motivo le linee guida per l'applicazione delle norme di YouTube dedicano una particolare attenzione ad aiutare i revisori a individuare le eccezioni EDSA quando esaminano i video segnalati. Tuttavia, nonostante le linee guida ben articolate, stabilire quali video costituiscono eccezioni EDSA può essere una delle decisioni più difficili nell'ambito dell'applicazione delle norme che un revisore di YouTube debba prendere.

In generale, i nostri team di revisori rimuovono un contenuto a livello globale se viola le nostre Norme della community. I nostri team possono anche intraprendere una delle seguenti azioni alternative:

  • Limiti di età. Alcuni video non violano le nostre norme e non sono illegali, ma potrebbero non essere appropriati per tutte le fasce di pubblico. In questi casi, quando il nostro team di revisori riceve una notifica relativa a questo tipo di contenuti, può applicare un limite di età al video. I video con limiti di età non sono visibili agli utenti che non hanno eseguito l'accesso, che hanno meno di 18 anni o hanno attivato la Modalità con restrizioni. Se prendiamo questa decisione, informiamo l'utente che ha caricato il video inviando un'email in cui viene spiegato che il video è stato sottoposto a limiti di età e che è possibile presentare ricorso contro questa decisione. Scopri di più.
  • Funzionalità limitate. Se i nostri team di revisione stabiliscono che un video rappresenta un caso limite ai sensi delle nostre norme, alcune funzionalità potrebbero essere disattivate. I video di questo tipo continuano a essere disponibili su YouTube, ma vengono posizionati dietro a un messaggio di avviso e alcune funzionalità vengono disattivate, ad esempio condivisione, commenti, video consigliati e Mi piace. Inoltre, questi video non sono idonei per la monetizzazione. Se prendiamo questa decisione, informiamo l'utente che ha caricato il video inviando un'email in cui viene spiegato che il video avrà soltanto funzionalità limitate e che è possibile presentare ricorso contro questa decisione. Scopri di più.
  • Video bloccati come privati. Se viene riscontrato che un video viola le nostre norme sui metadati ingannevoli, potrebbe essere bloccato come privato. In questo caso il video non sarà visibile al pubblico. Se uno spettatore ha il link al video, quest'ultimo risulterà non disponibile. Se prendiamo questa decisione, informiamo l'utente che ha caricato il video inviando un'email in cui viene spiegato che il video non è più pubblico e che è possibile presentare ricorso contro questa decisione. Scopri di più.

In caso di abusi ripetuti o di violazioni gravi, potremmo penalizzare l'utente disattivando alcune funzioni o eliminando il suo account. In gran parte dei casi, la prima violazione delle nostre Norme della community comporterà un avvertimento. La regola generale prevede che l'account venga chiuso dopo tre avvertimenti, ma potremmo decidere di chiudere un account alla prima infrazione, in caso di violazioni gravi, ad esempio relative al terrorismo.

Reclami per contenuti illegali. Quando riceviamo una richiesta legale, i nostri team di revisione esaminano la stessa dal punto di vista legale sulla base delle informazioni contenute, compresa l'obiezione sollevata dall'autore della richiesta. Inoltre, si tiene conto anche del contesto in cui sono stati prodotti i contenuti segnalati (ad esempio, metadati, titoli e così via). Se mancano informazioni importanti da una richiesta, ad esempio l'identità di una persona in una denuncia per diffamazione, il team contatterà l'autore della richiesta per ulteriori informazioni necessarie alla valutazione legale. Se i contenuti sono identificati come illeciti, verranno bloccati a livello locale.

Reclami ai sensi della legge NetzDG. Dato il nostro processo di revisione, quando riceviamo una richiesta riguardante la legge NetzDG, il nostro team di revisori specializzati nella legge NetzDG (vedi la sezione Team di revisori), che analizza il contesto dei contenuti segnalati, valuta i contenuti a fronte dei reati contemplati nella legge NetzDG. Se i contenuti violano chiaramente le Norme della community, il team di revisori della legge NetzDG li rimuove a livello globale. Di conseguenza, possiamo applicare due decisioni ai contenuti segnalati ai sensi della legge NetzDG. Ciò può comportare la rimozione dei video a livello globale qualora violi solamente le nostre Norme o violi anche le leggi tedesche. Qualora non vi sia alcuna violazione delle Norme, ma il video venga considerato illegale ai sensi del § 1 (3) della legge NetzDG o di altre normative locali, quest'ultimo sarà bloccato a livello locale.

La valutazione dei reclami spesso non è facile. Non è facile determinare alcuni reati penali persino per gli avvocati, ad esempio la falsificazione di dati forniti come prove (§ 269 StGB). Per dare un altro esempio, l'intera categoria dedicata a diffamazione e insulti è un'area in cui negli ultimi decenni è stata prodotta una vasta giurisprudenza, in particolare a partire dall'entrata in vigore della Costituzione tedesca. Perciò, nell'ambito della diffamazione e degli insulti, solo una minoranza di casi è chiaramente illegale. I tribunali tardano anni per stabilire se una parte di contenuto è illegale o meno e tribunali diversi raggiungono conclusioni diverse. Ad esempio, la Corte costituzionale federale tedesca ha ribaltato sentenze della Corte federale di giustizia, mostrando più volte la necessità di condurre complesse valutazioni comparate e che la legalità di un contenuto dipende fortemente dai fattori di ogni caso specifico. A differenza di quanto accade nei procedimenti penali, i social network non hanno sempre a disposizione tutte le informazioni necessarie. Inoltre, non c'è alcun procedimento principale in cui vengono richieste norme probatorie. In questi casi stabilire la legalità di un contenuto è estremamente difficile e in genere deve essere un tribunale a prendere questa decisione.

Queste considerazioni sono suffragate dalla pratica: molti ricorsi relativi all'area della diffamazione e degli insulti nell'ambito della legge NetzDG non vengono inviati dalla persona interessata, ma da terze parti che credono che questa persona potrebbe sentirsi diffamata. Il procedimento legale per queste infrazioni però richiede un ricorso in prima persona ("Antragsdelikt") e tramite il social network non siamo in grado di stabilire se chi ha presentato il ricorso alle autorità incaricate dell'applicazione della legge pertinente è la persona interessata, perché non abbiamo la possibilità di verificare l'identità dell'autore della richiesta.

Le richieste relative alla legge NetzDG vengono esaminate dal nostro team NetzDG in due turni, sette giorni a settimana, 365 giorni l'anno per permettere una rimozione globale o un blocco locale dei contenuti come applicabile entro i limiti temporali della legge NetzDG. Se un reclamo è palesemente infondato, all'autore viene inviata una notifica immediata in base ai requisiti legali (vedi la sezione "Misure per informare l'autore della richiesta e l'utente che carica contenuti ai sensi della legge NetzDG"). Se il contenuto non rappresenta palesemente una violazione delle Norme della community di YouTube o degli statuti penali pertinenti, è altrimenti complesso o non è chiaramente correlato alla Germania, il revisore dei contenuti ai sensi della legge NetzDG responsabile inoltra il reclamo al livello superiore per richiedere la revisione ed eventuali azioni appropriate da parte di revisori dei contenuti esperti. Le richieste complesse vengono trasferite al team legale di YouTube che, se in dubbio, inoltra a sua volta i casi difficili o limite al reparto legale di Google Germany GmbH, che a sua volta ha la facoltà di inoltrare i casi particolarmente complessi a una società legale esterna specializzata in diritto penale. Questa procedura richiede in genere fino a sette giorni.

Per assicurarci che il team NetzDG operi in base alle aspettative e applichi le Norme della community di YouTube e le disposizioni riguardanti i reati penali ai sensi della legge NetzDG in modo corretto e coerente, abbiamo implementato una rigorosa procedura di valutazione della qualità. Durante il periodo del report abbiamo campionato in media circa il 30% dei contenuti rivisti della settimana precedente. Il volume per la valutazione della qualità potrebbe variare da una settimana all'altra in base al numero di reclami ricevuti. Durante questo processo il team di revisione della qualità valuta le decisioni prese da ciascun revisore dei contenuti, fornisce un feedback individuale ed esegue un'analisi globale dei risultati della revisione della qualità. Il campione selezionato rappresenta la base per una panoramica settimanale della qualità dei dati. I revisori della qualità sono un team distinto all'interno del team NetzDG, formato da personale esperto con precedenti esperienze lavorative nella revisione dei contenuti e una solida esperienza con gli statuti penali indicati nella legge NetzDG e con le Norme della community di YouTube. Durante le riunioni settimanali con il team legale di YouTube e il team NetzDG, non solo discutiamo degli ultimi risultati di valutazione della qualità, ma ci calibriamo anche su casi particolarmente interessanti, difficili e complessi. Inoltre vengono presentati e attentamente analizzati eventuali tendenze degne di nota, argomenti più discussi del momento e sviluppi della giurisprudenza per garantire un approccio coerente in tutto il team NetzDG. Quando opportuno, perfezioniamo le norme di rimozione per adattarci, ad esempio, ad aggiornamenti alle Norme della community di YouTube e agli sviluppi della giurisprudenza. In tali casi, a tutti i membri del team NetzDG vengono fornite nuove linee guida e, se appropriato, materiali per la formazione.

Ricorsi

Ricorsi contro decisioni ai sensi della legge NetzDG: se identifichiamo un video che è stato segnalato tramite un reclamo ai sensi della legge NetzDG come illecito per uno dei reati contemplati dalla legge NetzDG, l'utente che ha caricato il video riceve un messaggio simile con un link al modulo per presentare ricorso contro la decisione. Lo stesso vale per l'autore della richiesta se il reclamo è stato rifiutato perché non abbiamo rilevato una violazione per i reati contemplati dalla legge NetzDG.

Se viene presentato un ricorso ai sensi della legge NetzDG, un membro del team addetto alla legge NetzDG che non ha preso la decisione originale effettuerà una nuova revisione, che manterrà o rivedrà la decisione originale in merito a una violazione per i reati contemplati dalla legge NetzDG. Il risultato di questa ulteriore revisione verrà comunicato via email.

Ricorsi per violazione delle Norme della community: quando YouTube prende provvedimenti su un video che viola le nostre Norme della community, informa l'utente che lo ha caricato dell'azione che è stata intrapresa e delle sue motivazioni. Forniamo all'utente una descrizione, un link tramite il quale può scoprire di più sulla rimozione dei contenuti e un link a una procedura di ricorso che consenta di rivalutare i contenuti in base alle nostre Norme della community. Da tempo consentiamo agli utenti di presentare un ricorso se credono che i loro contenuti non violino le Norme della community. Il processo è spiegato nel dettaglio qui. I ricorsi e i reintegri delle Norme della community fanno parte del report sull'applicazione delle Norme della community di YouTube. È possibile accedere a dati dettagliati su questa pagina web.

Team di revisori

Anche se la tecnologia è diventata molto utile nell'individuare alcuni tipi di contenuti controversi, ad esempio riconoscendo rapidamente e su vasta scala oggetti e modelli all'interno di immagini, video e audio, gli esseri umani riescono a valutare meglio il contesto di una pubblicazione. Gli algoritmi non sono sempre in grado di stabilire la differenza tra propaganda terroristica e filmati sui diritti umani o tra incitamento all'odio e commedie provocatorie. Spesso è necessario che siano persone fisiche a prendere la decisione definitiva.

Le revisioni delle segnalazioni ai sensi delle Norme della community e di altre notifiche vengono effettuate dai nostri sistemi tecnologici unitamente a dipendenti Google e fornitori esterni. Abbiamo un efficace framework di revisione della qualità per assicurarci che il nostro staff internazionale prenda sempre le decisioni giuste in merito ai contenuti segnalati. Riceviamo inoltre feedback regolari sul loro operato. I nostri team di revisori sono formati da migliaia di persone dislocate in tutto il mondo che parlano correntemente diverse lingue e valutano con attenzione le segnalazioni 24 ore su 24, sette giorni su sette e 365 giorni l'anno. In questi team ci sono diverse persone che parlano tedesco.

Alcuni membri del team che si occupano di reclami legali parlano tedesco e hanno una formazione giuridica specifica con una laurea in giurisprudenza. Questi esperti, che conoscono perfettamente le leggi locali, collaborano con i consulenti Google locali. Google ha un vasto team di consulenti legali dislocati in tanti paesi europei. Questi vengono coinvolti a seconda della necessità nell'analisi legale dei contenuti che ci vengono segnalati. I team potrebbero anche richiedere ulteriore consulenza legale a consulenti esterni locali.

Team NetzDG. Per le richieste ai sensi della legge NetzDG, abbiamo creato un team specializzato presso un fornitore di servizi esterno in Germania (team NetzDG). Il numero di revisori dei contenuti può variare in base al volume di richieste ai sensi della legge NetzDG. Durante il periodo del report, 77 membri del team NetzDG hanno lavorato sulle richieste ai sensi della legge NetzDG. Il team comprendeva 61 revisori di contenuti (tra cui revisori di contenuti esperti), supervisionati da cinque leader e supportati da sei revisori della qualità e due formatori.

Per garantire molteplicità culturale, i nostri revisori provengono da esperienze professionali diverse, parlano più lingue e sono di età diverse, che vanno dai 21 ai 55 anni durante il periodo del report. Tutti i membri del team NetzDG parlano fluentemente tedesco; gran parte di loro è di madrelingua tedesca. Tutti i membri del team NetzDG parlano anche inglese; di questi, da uno a 30 parlano una o più delle seguenti lingue: turco, russo, spagnolo, bulgaro, italiano, giapponese, serbo, curdo e ucraino. Questo approccio si rivela utile per valutare un potenziale collegamento alla Germania in una lingua straniera. Durante il periodo del report, un quarto (25%) dei membri del team NetzDG era in possesso di una laurea di primo o secondo livello o di un'abilitazione ufficiale in campi come scienze politiche, traduttologia, scienze della comunicazione, economia aziendale, discipline sanitarie, ingegneria industriale, archeologia o scienze della formazione. Un membro del team ha conseguito un dottorato di ricerca. Circa il 40% del team ha completato la formazione come commerciante al dettaglio, cuoco, ha fatto pratica nei settori industriale, impiegatizio, dei viaggi, dell'editoria o dell'edilizia oppure in campi come l'informatica e le tecnologie multimediali, la gestione della logistica, l'ingegneria meccanica o le tecnologie alimentari.

Il team NetzDG segue una formazione sulla valutazione dei reati pertinenti ai sensi della legge NetzDG e delle Norme della community di YouTube almeno una volta ogni sei mesi.

Ogni membro del team NetzDG riceve una formazione generale preliminare su tutte le Norme della community di YouTube e le procedure e tutti i nostri sistemi tecnici, oltre a formazione di tipo legale sui reati ai sensi della legge NetzDG. Oltre alla formazione preliminare, generalmente teniamo corsi semestrali di aggiornamento obbligatori di natura legale sulla legge NetzDG. I corsi di aggiornamento sono tenuti in lingua tedesca da parte di un team, in genere formato da avvocati esterni e membri dei team legali di YouTube e Google Germany GmbH. Grazie a una strategia organizzata su più turni per diversi gruppi teniamo questi corsi in diverse sessioni per assicurarci che tutti i membri del team, inclusi i responsabili del team, i revisori della qualità e i formatori, possano ricevere la formazione e avere l'opportunità di discutere domande ed esempi (raccolti in precedenza). Inoltre, teniamo corsi di formazione di natura legale ad hoc in base alle necessità; questi sono organizzati dal team legale di YouTube con l'assistenza di membri del reparto legale di Google Germany GmbH. Utilizziamo un modello "train-the-trainer": teniamo prima i corsi per i formatori designati per il team NetzDG che poi hanno il compito di formare il resto del team. Sia i corsi di aggiornamento sia i corsi di formazione di natura legale ad hoc trattano di sviluppi attuali, tendenze, nuovi casi della giurisprudenza e tipi di richieste del precedente semestre difficili da valutare. Organizziamo corsi di formazione di natura legale ad hoc, ad esempio su tematiche come la diffamazione religiosa, i contenuti violenti e gli insulti rivolti a personaggi pubblici e politici.

Il team NetzDG inoltre beneficia di frequenti corsi di aggiornamento sulle Norme della community. Questi corsi di aggiornamento riguardano i nuovi sviluppi e le tendenze pertinenti per il team, ad esempio l'incitamento all'odio e la tutela dei minori. Inoltre, c'è una formazione specializzata per aree specifiche, ad esempio per i contenuti relativi ad armi, sfide e scherzi pericolosi e rischiosi, sicurezza digitale e contenuti ingannevoli. La formazione basata sulle Norme della community è tenuta da responsabili dell'applicazione delle norme unitamente ai membri del team legale di YouTube. Inoltre, il team NetzDG riceve aggiornamenti settimanali e urgenti, quando pertinente, sulle Norme della community.

Ai membri del team NetzDG sono offerti importanti programmi di benessere e supporto psicologico, tra sessioni regolari o su richiesta di formazione e consulenze individuali tenute da un team dedicato di psicologi, terapeuti e formatori di lingua tedesca. Il team ha accesso alla consulenza 24 ore al giorno, sette giorni su sette tramite una linea telefonica di supporto. Forniamo anche servizi a supporto delle esigenze del benessere, tra cui aree per le pause e uno spazio privato dedicato a sessioni di consulenza individuale. Questa è una costante in tutti i programmi di benessere che offriamo ai revisori su Google e YouTube. Inoltre, il team ha diritto a tariffe ridotte per abbonamenti fitness e nelle palestre.

Partecipazione ad associazioni di settore

YouTube è rappresentato da Google presso le seguenti associazioni rilevanti per quel che riguarda la legge NetzDG:

FSM ed eco gestiscono linee telefoniche di assistenza che i consumatori possono chiamare per effettuare segnalazioni che vengono successivamente inoltrate ai nostri team di revisori per la valutazione. Qualsiasi sia l'esito, inviamo un feedback dettagliato sulle nostre decisioni alla linea telefonica da cui è partita la segnalazione.

Crediamo che la collaborazione sia fondamentale. Lavoriamo a stretto contatto con gruppi della società civile la cui missione è eliminare completamente l'incitamento all'odio e la discriminazione, così come con i governi per comprendere meglio i contesti locali e sviluppare soluzioni diversificate. Rivediamo spesso insieme ai nostri esperti e ai nostri collaboratori le nostre pratiche relative all'applicazione delle norme. Inoltre invitiamo le ONG a partecipare ai nostri laboratori locali o al di fuori dei confini nazionali, dove offriamo una formazione sugli aggiornamenti dei nostri prodotti e delle nostre norme, insegniamo loro a utilizzare i servizi Google e le misure di sicurezza, così come a discutere le ultime sfide e le questioni principali.

Ulteriori misure per la protezione e il supporto delle vittime di contenuti illegali

Google e YouTube affrontano vari tipi di iniziative e progetti per combattere l'incitamento all'odio online e sostengono le vittime di contenuti illegali.

L'Impact Challenge sulla Sicurezza di Google.org è un fondo da 10 milioni di euro a sostegno delle organizzazioni di tutto il mondo che si occupano di sfide legate all'odio, all'estremismo e alla sicurezza dei minori, sia online sia offline. Con il finanziamento di progetti nuovi ed esistenti in tutta Europa, Google spera di supportare iniziative contro l'odio e l'estremismo, nonché di aiutare i giovani a diventare cittadini digitali fiduciosi. I vincitori includono le organizzazioni con sede in Germania Gefangene helfen Jugendlichen e.V. e HateAid. Con la donazione, HateAid punta a migliorare l'assistenza offerta alle vittime di incitamento all'odio e di reati online relativi all'odio, creare resilienza tra gli utenti vittime di queste esperienze e consentire loro di tornare online in modo che non si sentano messi a tacere. Al fine di ridurre i tassi di recidivismo tra i giovani tedeschi vulnerabili, il team di Gefangene helfen Jugendlichen fornisce ai giovani assistenza e programmi professionali, incluse visite nelle carceri e discussioni con ex detenuti in modo che i giovani vulnerabili conoscano i danni reali che questi crimini sono in grado di causare.

Per molti anni, Google si è impegnata a promuovere l'alfabetizzazione mediatica, sostenendo giovani e utenti di tutte le età e supportando gli insegnanti con risorse in classe. Cerchiamo costantemente di sensibilizzare gli utenti in merito ai meccanismi di segnalazione e di informarli in merito alle norme, alle impostazioni e agli strumenti di benessere digitale offerti da Google e YouTube.

Dal 2013 Google fornisce finanziamenti e supporto all'Associazione tedesca per l'autoregolamentazione volontaria dei fornitori di servizi di media digitali (FSM e. V.) per creare e sviluppare ulteriormente il compendio di risorse didattiche Medien in die Schule, che include programmi di lezione su formazione di opinioni online, contrasto all'incitamento all'odio, realtà contro finzione nei media, alfabetizzazione informativa.

Nel 2009, YouTube, in collaborazione con i partner locali e il patrocinio della Cancelliera Merkel, ha lanciato per la prima volta l'iniziativa "361 Grad Respekt", che è andata in onda più volte (nel 2010 la Ministra della famiglia ha assunto il patrocinio del progetto) tra il 2009 e il 2014 ed è stata poi ripresa con il nome di #NichtEgal nel 2016 con due repliche (2016 e 2018). Queste iniziative miravano a promuovere un comportamento rispettoso sia online sia offline e incoraggiavano i giovani a prendere posizione contro l'odio e la discriminazione con concorsi video e workshop.

Finanziata da una donazione del gruppo filantropico di Google, Google.org, l'Associazione tedesca per l'autoregolamentazione volontaria dei fornitori di servizi di media digitali (FSM e. V.) ha lanciato il progetto "Weitklick" a maggio 2020, che mira a sviluppare una piattaforma ad apprendimento misto per formare gli insegnanti sul fenomeno della disinformazione e su come affrontare questo problema in classe, oltre a mettere in contatto personale didattico, scuole e giornalisti.

Continuiamo a investire in una rete globale di oltre 300 accademici, partner governativi e ONG in tutto il mondo che apportano competenze preziose ai nostri sistemi di applicazione delle norme, come ad esempio le tedesche Amadeu Antonio Foundation, Nummer gegen Kummer e Violence Prevention Network.

Meccanismi automatici

Al fine di garantire l'applicazione delle Norme della community, YouTube si basa su un framework "uomini + macchina" per segnalare i contenuti inappropriati e consentire una valutazione basata sulle Norme della community. Le segnalazioni basate su potenziali violazioni delle Norme della community possono provenire dai sistemi di segnalazione automatica di YouTube, dai membri del programma Trusted Flagger (ONG, enti statali e privati) o da utenti della più ampia community di YouTube.

YouTube ha sempre utilizzato una combinazione di revisori e tecnologia per gestire i contenuti in violazione sulla piattaforma e nel 2017 ha iniziato ad applicare una tecnologia di machine learning più avanzata per segnalare i contenuti da far esaminare ai team di revisori. Questa combinazione di tecnologia di rilevamento intelligente e di revisori altamente qualificati ha consentito a YouTube di applicare in modo coerente i criteri con una velocità maggiore.

I computer consentono a YouTube di segnalare i contenuti da esaminare su larga scala, aiutandoci a rimuovere milioni di video in violazione prima che qualcuno li guardi. Inoltre, l'investimento di YouTube nel machine learning per velocizzare la rimozione dei contenuti sta dando i suoi frutti in aree ad alto rischio e con volumi bassi (come l'estremismo violento) e in aree con volumi elevati (come lo spam).

Puoi accedere a dati aggiornati sulla rimozione nel Rapporto sull'applicazione delle Norme della community di YouTube qui.

In realtà, implementare il machine learning significa aumentare il numero di persone che recensiscono contenuti, e non diminuirlo. I nostri sistemi si basano sulla revisione umana per valutare se i contenuti violano le nostre norme.

Quando rileviamo un video che viola le nostre norme, lo rimuoviamo e applichiamo un avvertimento nei confronti del canale. Chiudiamo interi canali se sono dedicati alla pubblicazione di contenuti vietati dalle Norme della community o se contengono un'unica violazione grave, come lo sfruttamento sessuale di minori. La maggior parte dei tentativi di abuso proviene da malintenzionati che tentano di caricare spam o contenuti per adulti.

Per scoprire di più su come stiamo combattendo questo tipo di contenuti e sull'impatto del nostro investimento, fai clic qui.

Inoltre, abbiamo creato strumenti che consentono ai creator di moderare i commenti sui loro video. Ad esempio, i creator possono decidere di sospendere per la revisione tutti i commenti o di sospendere automaticamente quelli che includono link o potrebbero includere contenuti offensivi. Oltre un milione di creator utilizza questi strumenti per moderare i commenti del proprio canale.

Spiegazione delle disposizioni dei Termini di servizio relative all'ammissibilità della distribuzione di contenuti su YouTube

I Termini di servizio di YouTube sono chiaramente strutturati e includono, tra le altre cose, la sezione "Contenuti e comportamento", in cui vengono spiegati agli utenti quali contenuti e quali comportamenti non sono consentiti sulla piattaforma, usando un linguaggio facile da capire. I Termini di servizio stabiliscono espressamente che l'utilizzo del Servizio è regolato dai Termini di servizio, dalle Norme della community di YouTube, dalle Norme di YouTube, dalle Norme sulla sicurezza e dal copyright (collettivamente, il "Contratto"). In base ai Termini di servizio, non è possibile pubblicare contenuti che violano il Contratto o la legge. Le Norme della community incorporate nel Contratto sono strutturate in modo chiaro e comprensibile e includono cinque aree: spam e pratiche ingannevoli, contenuti sensibili, contenuti violenti o pericolosi, prodotti regolamentati e disinformazione. Ognuna di queste aree è suddivisa in ulteriori sezioni contenenti rispettive norme. Ognuna di queste norme inizia con una descrizione generale dei contenuti non consentiti su YouTube e le relative motivazioni. Sotto l'intestazione "Cosa significano queste norme per te", gli utenti ricevono informazioni sull'impatto del loro comportamento sulla piattaforma. In genere, segue una sottosezione "Esempi" che elenca esempi specifici di contenuti non consentiti su YouTube ai sensi delle norme. Infine, nella sezione "Cosa succede se i contenuti violano queste norme", gli utenti ricevono informazioni sulle possibili conseguenze delle violazioni. Pertanto, queste disposizioni regolano l'ammissibilità della distribuzione di contenuti su YouTube con un design e un linguaggio facilmente comprensibili. Contengono descrizioni dettagliate dei comportamenti inammissibili e aggiungono esempi ostensivi. Le disposizioni sono facili da trovare, sono formulate in modo chiaro ed esaustivo e, pertanto, soddisfano i requisiti di §§ 307 (1), 308 e 309 BGB. Le disposizioni di queste norme si basano su criteri oggettivi e verificabili e, pertanto, soddisfano gli standard della giurisprudenza pertinente. Inoltre, gli utenti vengono informati in dettaglio sul modo in cui vengono avvisati di eventuali violazioni dei Termini di servizio o delle Norme della community, oltre alle modalità e alle sedi in cui possono presentare dichiarazioni o azioni di ricorso.

Esempi di reclami

Durante ogni periodo del rapporto, raccogliamo una serie di esempi che mostrano efficacemente le decisioni che abbiamo preso riguardo a contenuti presumibilmente illegali per fornire un quadro dei contenuti regolamentati dalla NetzDG e dei tipi di contenuti che ci è stato chiesto di rimuovere.

Periodo
gen 2018-giu 2018
Tipo
Impossibile prendere provvedimenti legali.

Un video musicale che mostrava un uomo nudo che usciva dall'oceano è stato segnalato più volte per contenuti sessualmente espliciti illegali.

Periodo
gen 2018-giu 2018
Tipo
Impossibile prendere provvedimenti legali.

Un discorso di Angela Merkel sul fatto che l'Islam faccia parte della Germania è stato segnalato per incitamento all'odio e contenuto terroristico perché, secondo gli autori della richiesta, Merkel avrebbe messo in pericolo il paese e scatenato una catastrofe in Germania.

Periodo
gen 2018-giu 2018
Tipo
Impossibile prendere provvedimenti legali.

Un video di Jan Böhmermann in cui il comico critica e fa satira su un gruppo di estrema destra è stato segnalato più volte per incitamento all'odio, violenza, spam, diffamazione e insulti.

Periodo
gen 2018-giu 2018
Tipo
Impossibile prendere provvedimenti legali.

Un commento di apprezzamento sulle "coccole a casa" è stato segnalato nella categoria "atti dannosi e pericolosi".

Periodo
gen 2018-giu 2018
Tipo
Consulenza esterna

Un video mostra un noto "predicatore d'odio" islamico tedesco che esorta alla "dua" e al "ṭawāf"; in sottofondo si sentono i concitati "takbīr" dei presenti. Il video è stato segnalato numerose volte come non conforme alla legge NetzDG per contenuti terroristici. Siccome la Da'wa può avere altre interpretazioni oltre alla mera propaganda e nel video non è riscontrabile propaganda, i consulenti esterni hanno stabilito che il video è legale.

Rimozioni ai sensi della legge per la tutela dei diritti sui social network

Google fornisce le informazioni relative alle rimozioni, alle norme e alle procedure contenute in questa segnalazione in conformità con la legge per la tutela dei diritti sui social network.

Scarica il rapporto

Archivio segnalazioni di YouTube
Contenuti di stampo terroristico o anticostituzionali
Incitamento all'odio o estremismo politico
Contenuti di stampo terroristico o anticostituzionali
Incitamento all'odio o estremismo politico
Contenuti di stampo terroristico o anticostituzionali
Incitamento all'odio o estremismo politico
Contenuti di stampo terroristico o anticostituzionali
Incitamento all'odio o estremismo politico