AFP via Getty Images
Tempo di lettura stimato: 21'
Amnesty International ha accusato le autorità statunitensi di usare intenzionalmente sistemi automatizzati basati sull’intelligenza artificiale contro cittadine e cittadini di nazionalità straniera o che sono a favore dei diritti delle persone palestinesi.
L’organizzazione per i diritti umani ha preso in esame documenti pubblici del dipartimento per la Sicurezza interna (US Department of Homeland Security, Dhs) e altre informazioni diventate pubbliche, come bandi di assegnazione e valutazioni concernenti la privacy. È così giunta alla conclusione che prodotti basati sull’intelligenza artificiale, come Babel X, prodotto da Babel Street, e Immigration OS, prodotto da Palantir, sono in grado di effettuare monitoraggio e sorveglianza di massa e di esprimere valutazioni sulle persone, che spesso sono di nazionalità non statunitense.
La ricerca di Amnesty International ha inoltre segnalato che questi prodotti sono usati dal governo statunitense per individuare persone migranti, richiedenti asilo e rifugiate e, in ultima analisi, corrono un alto rischio di essere utilizzati nell’ambito del programma “Catturare e revocare”, che consiste nella revoca di tutti i visti concessi alle studenti e gli studenti stranieri che partecipano a proteste pro-Palestina.
“È profondamente preoccupante che il governo statunitense impieghi tecnologie invadenti basate sull’intelligenza artificiale nel contesto di un programma di espulsioni di massa e di repressione delle espressioni in favore delle persone palestinesi, realizzando così un sistema di violazioni dei diritti umani. Queste tecnologie consentono alle autorità di rintracciare rapidamente e prendere di mira studenti e altri gruppi marginalizzati con una velocità e un’ampiezza senza precedenti. Ne derivano arresti illegali ed espulsioni di massa, un clima di paura e un effetto raggelante ancora più diffuso tra le comunità migranti e tra le studenti e gli studenti internazionali nelle scuole e nei campus universitari”, ha dichiarato Erika Guevara Rosas, alta direttrice delle ricerche e delle campagne di Amnesty International.
Il programma “Catturare e revocare” si basa su una combinazione di controlli delle attività sui social media, verifiche sulla validità dei visti e valutazioni automatizzate delle minacce costituite dalle persone straniere, studenti internazionali compresi. I prodotti basati sull’intelligenza artificiale di Babel Street e Palantir hanno un ruolo importante nell’identificazione delle persone, dei loro comportamenti e dei loro movimenti, in un modo più rapido e su scala maggiore, ai fini della valutazione sulla revoca dei loro visti.
Attraverso le sue analisi dei contenuti pubblicati sui social media, Babel X valuta le “emozioni” e le probabili intenzioni delle persone utenti basandosi sul loro comportamento online. Sia Babel X che Immigration OS possono svolgere ricognizioni e analisi automatizzate sui dati usando degli algoritmi e aggregando informazioni pubbliche e private nonché tutta una serie di dati contenuti negli archivi del governo.
Ad esempio, Babel X è usato per effettuare scansioni, basate sull’intelligenza artificiale, sui social media per evidenziare contenuti collegati al “terrorismo”. Le autorità statunitensi possono usare queste informazioni per decidere se revocare il visto a una persona. Quando una decisione del genere viene presa, funzionari dell’Agenzia per l’immigrazione e le dogane (Immigration and Customs Enforcement, Ice) vengono incaricati di arrestarla ed espellerla.
Le tecnologie probabilistiche usate per trarre conclusioni sulle intenzioni delle persone hanno enormi margini di errore, possono essere viziate da discriminazione e pregiudizi e rischiano di descrivere falsamente come antisemitismo contenuti in favore della Palestina.
I rischi collegati all’uso di questi sistemi sono noti ampiamente e da tempo. Nel corso della prima amministrazione Trump, 55 organizzazioni per i diritti umani (compresa Amnesty International) e 54 esperte ed esperti di tecnologia scrissero alle autorità per manifestare la loro opposizione all’introduzione di un simile sistema automatizzato di “valutazione estrema”, spiegando che da un lato sarebbe stato inefficace e dall’altro avrebbe inevitabilmente causato violazioni dei diritti alla non discriminazione e alla libertà di espressione, così come di altri diritti umani delle persone migranti presenti negli Usa.
“La coercitiva iniziativa ‘Catturare e revocare’, facilitata dall’intelligenza artificiale, rischia di far aumentare le revoche arbitrarie e illegali dei visti, gli arresti, le espulsioni e tutta una serie di ulteriori violazioni dei diritti umani: alla privacy, alla libertà d’espressione, all’accesso alle informazioni, alla libertà di movimento e a quella di protesta nonché alla non discriminazione”, ha sottolineato Guevara Rosas.
Amnesty International ha analizzato bandi di assegnazione, contratti e richieste ai sensi dell’Atto sulla libertà d’informazione (Freedom of information act, Foia) presentate in passato da altre organizzazioni: tutta documentazione relativa ai progetti attualmente portati avanti dal Dhs, dall’Ice e dall’Agenzia per la Protezione della dogana e delle frontiere (Custom and Border Protection, Cbp). Secondo il sito della Cpb, l’Ice e la stessa Cpb sono coinvolte in almeno 80 progetti che usano l’intelligenza artificiale.
Secondo la documentazione esaminata da Amnesty International, Babel X è usato dalla Cbp almeno dal 2019. Questa tecnologia può raccogliere rapidamente una serie di dati relativi a una persona, come nome e cognome, indirizzo di posta elettronica o numero di telefono; può avere accesso ai suoi post sui social media, al suo indirizzo IP, al suo curriculum professionale e ai codici univoci di identificazione per le app di annunci pubblicitari in modo da localizzare il dispositivo.
Inoltre, Babel X consente di controllare in modo ampio vari gruppi, tra i quali cittadini e cittadine statunitensi o di altre nazionalità e persone con permesso di residenza permanente, ma viene usato specificamente per monitorare le persone richiedenti asilo e rifugiate, come emerso dall’Analisi sulle soglie della privacy della Cbp fatta proprio per Babel X.
Babel X è attualmente incluso nella pagina della Cbp dei progetti che fanno uso dell’intelligenza artificiale, definito “uno strumento commerciale che aiuta la Cbp a compilare informazioni, tratte dai social media e da informazioni da fonti aperte, su visitatori che possono essere oggetto di ulteriori verifiche per potenziali violazioni di leggi, che la Cbp è autorizzata ad applicare e a far rispettare”.
Nel febbraio 2025 l’Alto vicepresidente per i rischi di Babel Street ha pubblicato un articolo in cui promuoveva l’uso di sistemi di ricerca e raccolta di informazioni da fonti aperte (Open source intelligence, Osint) basati sull’intelligenza artificiale, per contrastare e individuare “contenuti collegati al terrorismo” a scopo d’intercettazione e per tutelare la sicurezza delle frontiere, nonché per individuare individui e “gruppi radicalizzati” usando ricerche per parole chiave in un’ampia serie di archivi contenenti documenti, articoli di stampa e contenuti online.
Babel Street fa “ricerche persistenti” per monitorare continuamente ogni nuova informazione su una particolare persona che compaia online o sia presente in archivi governativi, persino dopo che è stata fatta un’iniziale query di ricerca. Attraverso l’evidenziazione o lo scarto automatizzati di una gran quantità di dati riguardanti una determinata persona. Babel X rischia di rendere automaticamente sospetta una persona, sottoponendola così alla possibile revoca del visto, all’arresto e all’espulsione.
Nell’aprile 2025 l’Ice ha concluso con Palantir un contratto di 30 milioni di dollari per individuare casi di “abbandono volontario del territorio statunitense” e identificare casi prioritari di espulsione, soprattutto quelli di permanenza negli Usa dopo la scadenza del visto. Quel mese, 404 Media ha reso noto una comunicazione interna inviata dal capo dell’ufficio tecnologico di Palantir: “Nelle ultime settimane abbiamo realizzato il prototipo di un nuovo set di integrazione e flusso di dati con l’Ice (…) Il focus della nuova amministrazione sull’importanza dei dati al fine di avviare operazioni di applicazione della legge ha accelerato i nostri sforzi”.
Questo prodotto, noto come Sistema operativo sul ciclo di vita dell’immigrazione (Immigration Os), è un aggiornamento del sistema chiamato Gestione integrata dei casi (Integrated Case Management system, Icm), utilizzato dall’Ice sin dal 2014.
L’Icm consente al personale dell’Ice di “creare un archivio elettronico, che organizza e collega tutte le notizie e i documenti associati a una particolare indagine [su un caso di immigrazione], in modo che possano essere consultati da uno specifico luogo”. Il sistema, inoltre, consente al personale dell’Ice il collegamento a dati riferiti a più indagini al fine di individuare connessioni tra i vari casi, nonché l’accesso a un’ampia serie di dati personali raccolti dalle agenzie governative e da quelle incaricate di far rispettare la legge.
La nuova versione ha le seguenti caratteristiche:
Fondamentalmente, Immigration Os automatizza un sistema già gravemente viziato e privo di controlli, noto alle cronache per aver mostrato disprezzo per la correttezza delle procedure e per i diritti umani, rafforzando il tutto e rendendolo ancora più oscuro.
Durante la prima amministrazione Trump, nel 2020, Amnesty International scrisse a Palantir in merito alle procedure interne di due diligence. Palantir riconobbe che aveva “volutamente evitato di chiudere contratti” [con l’Ice e col Cbp] “sotto l’attuale amministrazione [ossia, dell’epoca] poiché condividiamo le vostre preoccupazioni su possibili gravi violazioni dei diritti umani contro migranti, richiedenti asilo e rifugiati alla frontiera tra Usa e Messico e i rischi di un’applicazione sproporzionala delle leggi sull’immigrazione all’interno degli Usa”.
L’8 marzo 2025 l’Ice ha arbitrariamente arrestato Mahmoud Khalill, uno studente neolaureato della Columbia University che svolgeva il ruolo di portavoce nelle proteste interne al campus e che ha il permesso di residenza permanente negli Usa: “Il primo arresto cui ne seguiranno molti altri”, secondo il presidente Trump. Poco tempo dopo, nove studenti stranieri che avevano partecipato a manifestazioni o si erano espressi contro il genocidio israeliano nella Striscia di Gaza si sono visti revocare il loro visto o il permesso di residenza. Il 20 giugno Mahmoud Khalil è stato scarcerato.
Il 27 marzo 2025 Rumeysa Ozturk, una dottoranda turca della Tufts University, è stata fermata a Boston, nei pressi della sua abitazione, da sei agenti in borghese dell’Ice e costretta a salire su un veicolo privo di contrassegni. Gli agenti hanno rifiutato di identificarsi fino al momento della formalizzazione dell’arresto. Il suo apparente reato sarebbe stato quello di aver co-firmato un commento in cui si criticava la mancata risposta del suo istituto alle richieste delle studenti e degli studenti riguardo alla situazione nella Striscia di Gaza. Senza fornire alcuna prova, un portavoce del Dhs ha dichiarato che “era impegnata in attività a sostegno di Hamas”.
Sebbene il governo statunitense abbia il potere discrezionale di negare e revocare i visti, non può farlo in modo tale da violare i diritti protetti dalla Costituzione degli Usa e dal diritto internazionale dei diritti umani, tra i quali il diritto alla libertà d’espressione e il diritto a un giusto processo.
L’attuale amministrazione, con le sue tattiche repressive e le revoche sommarie dello status migratorio delle persone, mostra un completo disprezzo per i diritti alla libertà d’espressione e di protesta pacifica. Le sue azioni sono in palese violazione dei diritti all’uguaglianza e alla non discriminazione a causa di un sistema, basato sull’intelligenza artificiale, che prende di mira persone titolari di visto e richiedenti asilo.
Il 10 luglio 2025 Amnesty International ha contattato Palantir e Babel Street chiedendo un riscontro alle sue conclusioni. Babel Street non ha risposto. Palantir lo ha fatto il 24 luglio, affermando che il suo prodotto non era usato per favorire la politica “Catturare e revocare”, che è una iniziativa del dipartimento di Stato, mentre la sua azienda ha un contratto con l’Ice, dunque col Dhs; che tale prodotto non prende specificamente di mira studenti che manifestano; e che i suoi prodotti non rafforzano violazioni dei diritti umani da parte delle agenzie che si occupano d’immigrazione.
Palantir ha confermato che la recente espansione di Icm (definito, nella risposta, “Immigration OS”) “(…) non include attività direttamente utili alla missione [delle Operazioni di applicazione della legge e di espulsione]” e ha confermato che l’aggiornamento ha le seguenti funzionalità: “(a) attuazione di operazioni di prioritizzazione e individuazione”; (b) tracciamento degli ‘abbandoni volontari del territorio statunitense’ e (c) gestione del ciclo dell’immigrazione dall’inizio alla fine”.
Anche se, rispettivamente, i contratti di Babel Street e di Palantir sono con la Cbp e con l’Ice, è proprio attraverso le Operazioni di applicazione della legge e di espulsione (Enforcement Removal Operations, Ero) che l’Ice gestisce tutti gli aspetti legati all’applicazione della legge, tra cui l’identificazione, il fermo, l’arresto e l’espulsione di cittadini stranieri. L’Ice è il braccio operativo incaricato di attuare le decisioni prese da tutte le agenzie statunitensi che si occupano di gestione dell’immigrazione, compreso il dipartimento di Stato.
In altri termini, l’Ice gioca un ruolo centrale nel rafforzamento della politica “Catturare e revocare” anche se di tale politica è complessivamente responsabile il dipartimento di Stato.
Le risposte di Palantir, dunque, non risolvono le preoccupazioni sollevate dalla ricerca di Amnesty International: le sue tecnologie, così come quelle di Babel Street, rischiano di contribuire a violazioni dei diritti umani contro le persone migranti in conseguenza dei contratti sottoscritti dalle due aziende con le agenzie federali che si occupano di immigrazione.
“Sistemi come Babel X e Immigration Os hanno un ruolo fondamentale nel rendere possibile l’attuazione delle politiche repressive dell’amministrazione Usa, facilitando decisioni rapide e automatizzate che hanno già causato espulsioni di massa a un ritmo senza precedenti, che non consentono un livello adeguato di procedure eque e che mettono significativamente in pericolo i diritti umani di tutte le persone immigrate, anche delle studenti e degli studenti che non sono cittadini Usa”, ha sottolineato Guevara Rosas.
Date le precedenti relazioni di Palantir e Babel Street col governo Usa e l’intenzione dell’amministrazione Trump, annunciata pubblicamente, di procedere a espulsioni di massa, le due aziende avrebbero potuto ragionevolmente prevedere il rischio di procurare danni in tutto il paese e rivalutare l’intenzione di firmare i contratti, in modo da valutare tali rischi in linea con gli standard internazionali sui diritti umani.
Se nel 2025 Palantir e Babel Street avessero eseguito adeguatamente la propria due diligence e avessero rispettato le loro responsabilità rispetto ai diritti umani, avrebbero potuto e dovuto rifiutarsi di essere coinvolte in queste politiche di espulsioni di massa. Fornendo la loro tecnologia in assenza di garanzie adeguate, queste aziende rischiano di contribuire alle violazioni dei diritti umani insite in quelle politiche.
Amnesty International riconosce l’importanza di esercitare la propria influenza, quando possibile, in ogni relazione aziendale in cui siano implicati i diritti umani. È di enorme importanza che le aziende non causino violazioni dei diritti umani, non vi contribuiscano né vi siano direttamente collegate.
“L’uso della tecnologia in un contesto del genere rischia di rafforzare il potere dell’amministrazione Trump di prendere decisioni arbitrarie sull’espulsione di persone marginalizzate in un istante e in quantità massiccia con un accesso limitato, se non inesistente, a procedure eque. Non dobbiamo dimenticare che stiamo parlando di sistemi ora nelle mani di un’amministrazione che ha già fatto sparire persone in una crudele prigione di El Salvador, basandosi unicamente sulla presunzione che in futuro quelle persone avrebbero potuto commettere reati”, ha proseguito Guevara Rosas.
“Aggiungiamoci la precarietà del sistema dei visti, specialmente per gruppi marginalizzati come nel caso di alcuni studenti internazionali. Palantir e Babel Street dovrebbero svolgere procedure di due diligence in materia di diritti umani e renderne pienamente pubblici i risultati. A meno che non possano dimostrare di saper usare la propria influenza, in qualità di aziende fornitrici, per mitigare le gravi conseguenze per i diritti umani delle politiche dei loro clienti, esse dovrebbero immediatamente cessare di lavorare con l’amministrazione Usa per quanto riguarda l’applicazione delle leggi in materia d’immigrazione, ha concluso Guevara Rosas.
Amnesty International sta chiedendo al Congresso Usa di prendere misure per rafforzare i suoi poteri di controllo e di supervisione sull’applicazione delle leggi, per assicurare che queste aziende non siano contribuendo a violazioni dei diritti umani.
Il 27 marzo 2025 il segretario di stato Marco Rubio ha annunciato la revoca, da gennaio, dei visti di almeno 300 studenti e visitatori.
Secondo informazioni più recenti, almeno 1800, e forse fino a 4000, studenti si sono visti revocare il visto. Molti di loro hanno affermato di non aver mai preso parte a manifestazioni e di non aver mai ricevuto notizia della revoca in corso, sebbene alcuni di loro possano aver avuto qualche interazione con le forze di polizia durante il loro soggiorno ma per ragioni banali, come una multa stradale. Una denuncia presentata in California sostiene che gli studenti vengono presi di mira in quanto hanno origini africane, arabe, asiatiche, mediorientali o sono musulmane.
Amnesty International aveva già documentato l’uso, da parte dell’Ice, del pacchetto Icm di Palantir nel contesto di politiche dannose ai danni di persone migranti e richiedenti asilo e aveva messo in luce il rischio che Palantir avesse contribuito a violazioni dei diritti umani grazie al modo con cui la tecnologia fornita dall’azienda aveva facilitato le operazioni dell’Ice.