È sempre più difficile per il governo segnalare segretamente i tuoi post sui social

It is increasingly difficult for the government to secretly report your social media posts

Mentre la polizia israeliana soffocava le proteste palestinesi per le strade di Gerusalemme Est nel maggio 2021, un’agenzia separata tentava la sua operazione online. Il Dipartimento di Cybercrime del Ministero della Giustizia di Israele ha inviato alle aziende di social media elenchi di migliaia di account utente che voleva rimuovere per violazione delle politiche dei servizi con i loro post sulle proteste. Un ex dipendente di Twitter afferma che l’azienda ha sospeso alcuni degli account segnalati dall’agenzia israeliana per l’uso di linguaggio odio o di molestie. Ma il personale delle politiche ha stabilito che la maggior parte erano semplicemente palestinesi e altre persone che tweettavano commenti che, sebbene critici verso Israele, non violavano alcuna regola.

Il dipartimento cibernetico israeliano è un esempio di ciò che gli studiosi delle piattaforme online chiamano unità di segnalazione internet: un team governativo creato per spingere i servizi online ad agire contro i contenuti che non gradisce. Un’ampia gamma di unità di segnalazione internet è stata lanciata da paesi di tutto il mondo, poiché i governi di ogni tipo si confrontano con le piattaforme online. Le aziende tecnologiche spesso danno priorità alle richieste delle unità di segnalazione internet nelle code di moderazione, a discapito dei critici che sostengono che queste unità possono riflettere motivazioni politiche e spesso aggirano gli ostacoli legali progettati per prevenire una censura ingiusta.

Dopo un decennio di crescita principalmente senza restrizioni, le unità di segnalazione internet stanno ora affrontando nuovi controlli e bilanciamenti negli Stati Uniti e nell’Unione Europea.

Questo mese, un giudice federale della Louisiana ha emesso un’ingiunzione preliminare che vieta a 41 funzionari dell’amministrazione Biden e al loro personale di 10 diverse agenzie degli Stati Uniti di avvisare le aziende di social media sui contenuti ritenuti violare i termini d’uso del servizio. Il divieto ha limitato gravemente l’influenza della Casa Bianca sulle piazze digitali attraverso le unità di segnalazione informali delle agenzie e ha costretto il Dipartimento di Stato a rinviare un incontro pianificato con Meta per condividere informazioni sulla lotta alla disinformazione all’estero.

Nell’UE, le unità di segnalazione saranno soggette a nuovi requisiti di trasparenza in base a una disposizione del vasto Digital Services Act che entrerà in vigore l’anno prossimo.

La decisione e la legge sono le prime interruzioni significative della complicità che esiste tra le piattaforme online e gli enti governativi e altre organizzazioni che pattugliano il web per sopprimere silenziosamente i commenti sfavorevoli. Ma sebbene i gruppi per i diritti umani che promuovono la libertà di espressione abbiano applaudito le nuove iniziative, avvertono anche che le unità di segnalazione internet e le decisioni di moderazione che promuovono potranno continuare largamente senza controlli o divulgazioni adeguate.

Le unità di segnalazione internet sono emerse per la prima volta intorno al 2010 nel Regno Unito, quando servizi come Facebook e YouTube erano sotto pressione da parte delle autorità antiterrorismo per gestire meglio i contenuti generati da estremisti islamici violenti. Le aziende che cercavano di instaurare migliori relazioni con i governi hanno generalmente accettato le richieste e hanno persino nominato le unità di segnalazione internet come “segnalatori fidati”, i cui rapporti sui contenuti non idonei venivano esaminati più rapidamente rispetto a quelli degli utenti standard.

Il numero e l’attività delle unità di segnalazione si sono rapidamente espansi. Le aziende hanno anche aggiunto organizzazioni della società civile come segnalatori fidati. Le autorità di paesi come Germania e Francia hanno utilizzato questa tattica per sopprimere l’estremismo politico di destra sui social media nel periodo successivo al 2010 e poi la disinformazione sulla salute durante la pandemia.

Le unità di segnalazione non sono sempre entità formali o ben organizzate e i loro compiti variano, ma si è consolidato un processo comune: scegliere un argomento da monitorare, come la disinformazione politica o l’antisemitismo, cercare contenuti problematici e segnalarli alle aziende tramite hotline dedicate, lettere fisiche, relazioni personali con insider o i pulsanti “segnala questo” disponibili per tutti gli utenti. Le unità possono segnalare solo attività che sembrano criminali, ma alcune segnalano contenuti che sono legali ma vietati dalle regole della piattaforma, come la nudità o gli account bot.

Spesso, secondo gli esperti, la conformità delle piattaforme è volontaria perché le richieste non sono legalmente vincolanti e gli utenti di solito non vengono informati su chi ha segnalato il loro contenuto. I gruppi per i diritti umani hanno a lungo espresso preoccupazione per il fatto che le unità di segnalazione internet aggirino efficacemente i processi legali, scambiando velocità e semplicità con trasparenza e controlli sull’abuso di potere, mentre spingono le segnalazioni degli utenti in secondo piano.

Di solito, le aziende di social media possono sentire una notevole pressione ad agire sulle richieste delle unità di segnalazione internet perché opporsi potrebbe portare a regolamentazioni che aumentano i costi dell’attività, secondo diversi esperti e quattro ex membri del personale delle politiche delle aziende tecnologiche che hanno gestito tali richieste. È comune che politici e gruppi influenti richiedano canali diretti per aumentare le preoccupazioni sui contenuti e che le piattaforme li forniscono.

Gli equilibri di potere stabiliti offline si riflettono nei programmi. L’Autorità Palestinese, uno dei piccoli gruppi di governo in contrasto con Israele, “non ha la forza o il rapporto con Meta per gestire un’unità di segnalazione internet efficace”, afferma Eric Sype del gruppo per i diritti dei palestinesi 7amleh. Meta, TikTok e Twitter non hanno risposto alle richieste di commento per questa storia e YouTube ha rifiutato di commentare.

Le unità di segnalazione internet sono state contestate in passato. Nel 2021, l’anno in cui Israele si è scontrato con i manifestanti a Gerusalemme Est e ha contattato aziende come Twitter, la Corte Suprema del paese ha respinto una sfida all’unità del Ministero della Giustizia. La corte ha definito il lavoro “cruciale per la sicurezza nazionale e l’ordine sociale” e ha permesso che continuasse perché i querelanti non potevano dimostrare un danno diretto. Quell’anno, l’unità di segnalazione internet ha inviato quasi 6.000 richieste alle aziende tecnologiche, comprese oltre 1.300 a Twitter, per la rimozione volontaria o la restrizione di contenuti come “elogio del terrorismo” e disinformazione sul vaccino Covid, secondo le comunicazioni annuali del governo israeliano e un’analisi del Dipartimento di Stato degli Stati Uniti. Quasi 5.000 richieste sono state accettate, secondo i dati. L’ambasciata d’Israele a Washington, DC, non ha risposto alla richiesta di commento.

L’Oversight Board indipendente di Meta, un organo di appello per questioni spinose di moderazione dei contenuti, ha anche reagito. L’anno scorso l’azienda aveva rimosso una traccia di UK drill-music su richiesta della polizia di Londra per preoccupazione che il riferimento alla sparatoria nella canzone potesse incitare alla violenza. L’organismo ha annullato la rimozione, affermando che Meta non aveva prove sufficienti di una minaccia credibile, e ha rimproverato l’azienda per aver accettato richieste informali delle forze dell’ordine in modo “caotico e opaco”. Ha chiesto a Meta di pubblicare tutte queste richieste, una richiesta che il co-presidente dell’Oversight Board Michael McConnell e la membro Suzanne Nossel hanno ripetuto in articoli separati questo mese. Meta sul suo sito web afferma di essere al lavoro su questo, ma non è sicuro di quanto tempo ci vorrà, perché centralizzare tutte le richieste è complicato.

La sentenza del tribunale federale statunitense di questo mese che ha vietato agli ufficiali dell’agenzia di fare richieste di rimozione ha inflitto il colpo più duro finora agli IRU. È arrivata dopo che due stati conservatori e diversi utenti dei social media hanno intentato una causa sostenendo che la Casa Bianca stava violando la protezione del Primo Emendamento contro la censura governativa esercitando pressioni su Facebook e Twitter per inserire etichette informative sui post e sospendere o vietare account. I contenuti controversi riguardavano il dubbio sulle mascherine Covid, i vaccini, l’origine del virus e i lockdown.

Il giudice Terry Doughty ha stabilito che gli attori sarebbero probabilmente riusciti a dimostrare che un bombardamento di richieste di rimozione tramite e-mail e chiamate da parte della Casa Bianca e dei funzionari delle agenzie federali ha costretto le aziende dei social media a prendere posizione, configurando una pratica nota come pressione. Ha accusato l’amministrazione di prendere di mira “il discorso conservatore sfavorevole” e ha fatto riferimento a richieste informali ma talvolta intense via e-mail. Una diceva: “Non posso sottolineare abbastanza quanto sia importante risolvere questo immediatamente. Rimuovete subito questo account”.

Scrisse Doughty: “Gli imputati hanno ‘incoraggiato significativamente’ le aziende dei social media a tal punto che le decisioni (delle aziende) dovrebbero essere considerate decisioni del governo”.

Il divieto di Doughty, che è ora sospeso mentre la Casa Bianca fa appello, cerca di stabilire i limiti di condotta accettabile per gli IRU governativi. Fornisce un’eccezione per gli ufficiali che continuano a segnalare alle aziende dei social media attività illegali o questioni di sicurezza nazionale. Emma Llansó, direttore del Progetto per la Libera Espressione presso il Center for Democracy & Technology a Washington, DC, afferma che ciò lascia molte questioni irrisolte, perché la linea tra una protezione ponderata della sicurezza pubblica e una soppressione ingiusta dei critici può essere sottile.

Anche il nuovo approccio dell’UE agli IRU sembra compromesso per alcuni attivisti. Il Digital Services Act (DSA) richiede a ciascuno dei membri dell’UE di designare un regolatore nazionale entro febbraio che accetti le richieste da parte delle agenzie governative, delle organizzazioni non profit, delle associazioni industriali o delle aziende che desiderano diventare “trusted flaggers” in grado di segnalare direttamente a Meta e ad altre piattaforme di medie e grandi dimensioni contenuti illegali. Le segnalazioni dei “trusted flaggers” devono essere esaminate “senza ritardo ingiustificato”, pena sanzioni fino al 6% del fatturato annuo globale dell’azienda.

La legge mira a rendere le richieste degli IRU più accurate, nominando un numero limitato di organizzazioni di segnalazione attendibili con competenze in diverse aree di contenuti illegali come il discorso dell’odio razzista, beni contraffatti o violazioni del copyright. E le organizzazioni dovranno divulgare annualmente quante segnalazioni hanno presentato, a chi e i risultati.

Ma le divulgazioni avranno delle lacune significative, perché includeranno solo le richieste relative a contenuti illegali in uno stato dell’UE, permettendo che le segnalazioni di contenuti segnalati unicamente per violazione dei termini di servizio rimangano invisibili. Anche se alle aziende tecnologiche non viene richiesto di dare priorità alle segnalazioni di contenuti segnalati per violazione delle regole, nulla impedisce loro di farlo. E le piattaforme possono ancora lavorare con “trusted flaggers” non registrati, preservando essenzialmente le pratiche oscure di oggi. Il DSA richiede alle aziende di pubblicare tutte le loro decisioni sulla moderazione dei contenuti su un database dell’UE senza “ritardi ingiustificati”, ma l’identità del segnalatore può essere omessa.

“Il DSA crea una nuova struttura parallela per i ‘trusted flaggers’ senza affrontare direttamente le preoccupazioni in corso con i flaggers effettivamente esistenti come gli IRU”, afferma Paddy Leerssen, ricercatore postdottorato presso l’Università di Amsterdam, coinvolto in un progetto di analisi continua del DSA.

Due funzionari dell’UE che lavorano sull’applicazione del DSA, parlando a condizione di anonimato perché non autorizzati a parlare con i media, affermano che la nuova legge mira a garantire che tutti i 450 milioni di residenti dell’UE beneficino della capacità dei “trusted flaggers” di inviare avvisi accelerati alle aziende che potrebbero non collaborare con loro altrimenti. Sebbene la nuova designazione di “trusted flagger” non sia stata pensata per le agenzie governative e le autorità di ordine pubblico, nulla impedisce loro di presentare domanda, e il DSA menziona specificamente le unità di rinvio su Internet come possibili candidati.

Gruppi per i diritti umani sono preoccupati che se i governi partecipano al programma dei “trusted flaggers”, potrebbe essere utilizzato per soffocare un discorso legittimo in virtù di alcune delle leggi più draconiane del blocco, come il divieto dell’Ungheria (attualmente oggetto di un ricorso in tribunale) sulla promozione delle relazioni omosessuali nei materiali educativi. Eliška Pírková, responsabile globale della libertà di espressione presso Access Now, afferma che sarà difficile per le aziende tecnologiche resistere alla pressione, anche se i coordinatori degli stati possono sospendere i “trusted flaggers” ritenuti inappropriati. “È la totale mancanza di salvaguardie indipendenti”, dice. “È piuttosto preoccupante”.

Twitter ha impedito ad almeno un’organizzazione per i diritti umani di presentare alla sua coda di segnalazioni di massima priorità un paio di anni fa perché aveva presentato troppe segnalazioni erronee, afferma l’ex dipendente di Twitter. Ma abbandonare un governo potrebbe essere più difficile. L’ambasciata dell’Ungheria a Washington, DC, non ha risposto a una richiesta di commento.

Tamás Berecz, direttore generale di INACH, una coalizione globale di gruppi non governativi che combattono l’odio online, afferma che alcuni dei suoi 24 membri dell’UE stanno considerando la possibilità di richiedere lo status ufficiale di segnalatore di fiducia. Ma hanno delle preoccupazioni, tra cui se i coordinatori in alcuni paesi approveranno le domande delle organizzazioni il cui valore non coincide con quello del governo, come un gruppo che monitora i discorsi di odio anti-gay in un paese come l’Ungheria, dove il matrimonio tra persone dello stesso sesso è vietato. “Non sappiamo davvero cosa succederà,” dice Berecz, lasciando spazio a un po’ di ottimismo. “Per ora, sono felici di far parte di un programma di fiducia non ufficiale”.