La società che vendette l'app di riconoscimento facciale notorio a DHS e ICE

La Department of Homeland Security (DHS) ha reso pubblici dettagli su Mobile Fortify, un'app per la riconoscimento facciale utilizzata dagli agenti federali del servizio immigrazione per identificare individui, compresi cittadini statunitensi e immigrati non registrati. La pubblicazione, effettuata il 24 maggio 2025, fa parte del "2025 AI Use Case Inventory", un elenco obbligatorio di casi d'uso dell'intelligenza artificiale richiesto alle agenzie federali. L'app, sviluppata da NEC, è in fase di "deployment" per entrambi i servizi: il Customs and Border Protection (CBP) ha reso operativa Mobile Fortify a gennaio 2024, mentre l'Immigration and Customs Enforcement (ICE) l'ha attivata il 20 maggio 2025. Questa data, circa un mese prima della prima segnalazione da parte del giornalista 404 Media, ha sollevato questioni sulle pratiche di trasparenza e sull'uso di tecnologie di sorveglianza. L'elenco dell'inventory ha anche rivelato che NEC, una società giapponese, è il fornitore dell'app, un dato precedentemente sconosciuto. La società promuove un sistema di riconoscimento facciale chiamato Reveal, in grado di effettuare ricerche su database di qualsiasi dimensione. Questi dettagli hanno acceso dibattiti su come le agenzie federali gestiscono l'implementazione di tecnologie avanzate e sulle implicazioni per la privacy e i diritti civili.

L'app Mobile Fortify è progettata per aiutare gli agenti a verificare rapidamente l'identità delle persone in contesti operativi, specialmente quando le informazioni disponibili sono limitate. Secondo ICE, l'app raccoglie immagini facciali, impronte digitali a contatto zero e fotocopi di documenti d'identità, inviandole al CBP per essere confrontate con sistemi di matching biometrico governativo. Questi sistemi utilizzano algoritmi AI per confrontare le immagini con record esistenti, fornendo potenziali corrispondenze e informazioni biografiche. ICE ha precisato che non possiede né interagisce direttamente con i modelli AI, che appartengono al CBP. Tuttavia, il CBP ha affermato che alcuni dati provenienti dai suoi programmi di viaggio sicuro, come TSA PreCheck e Global Entry, sono stati utilizzati per addestrare, raffinare o valutare la performance di Mobile Fortify. Nonostante questa collaborazione, il CBP non ha specificato in che modo i dati sono stati utilizzati e ha rifiutato di chiarire ulteriormente le modalità di lavoro. Questo ha sollevato preoccupazioni circa la sicurezza dei dati e la conformità alle normative sulla privacy.

Il contesto della vicenda si intreccia con una serie di incidenti e denunce legali che hanno messo in luce i rischi associati all'uso di tecnologie di riconoscimento facciale da parte delle autorità. Nel 2024, un'organizzazione di media ha segnalato che un'uomo era stato fermato due volte a causa di errori di identificazione da parte di Mobile Fortify. Inoltre, un caso legale presentato da Minnesota ha rivelato che un'abitante ha visto i propri privilegi di Global Entry revocati dopo aver interagito con un agente che aveva menzionato l'uso di "riconoscimento facciale". In un altro caso, un individuo fermato da agenti ha riferito che un poliziotto aveva detto: "Chiunque sia il proprietario registrato di questa auto avrà un brutto periodo per viaggiare dopo questo". Questi episodi hanno sollevato domande sull'efficacia e l'equità delle tecnologie adottate, nonché sulla possibilità di discriminazioni o errori sistematici. L'assenza di un processo di revisione formale e la mancanza di trasparenza hanno alimentato le critiche, soprattutto in un momento in cui l'uso dell'AI nel settore pubblico è oggetto di crescente scrutinio.

L'analisi delle implicazioni rivela un quadro complesso di tensioni tra tecnologia avanzata e diritti fondamentali. L'implementazione di Mobile Fortify rappresenta un esempio di come le agenzie federali stiano adottando strumenti AI per migliorare l'efficienza operativa, ma anche di come queste tecnologie possano minare la privacy e la libertà individuale. Il mancato completamento di un'assessment dell'impatto AI, richiesto dall'Office of Management and Budget, ha sollevato dubbi sulla conformità alle normative vigenti. Entrambi i servizi, CBP e ICE, hanno affermato che l'app è "high-impact", ma non hanno fornito dettagli sull'analisi effettuata. Inoltre, il fatto che NEC abbia un contratto da 23,9 milioni di dollari con la DHS tra il 2020 e il 2023, che prevedeva l'uso di prodotti biometrici su larga scala, ha reso ancora più evidente il ruolo delle aziende private nella governance tecnologica. Questo scenario solleva questioni etiche e giuridiche, come la responsabilità delle aziende nel garantire la sicurezza dei dati e la trasparenza nell'uso di tecnologie di sorveglianza.

La chiusura del dibattito si concentra sulle prospettive future e sulle sfide rimaste. L'ICE ha annunciato che sta sviluppando un processo di appeal per chi viene erroneamente identificato, ma non ha fornito dettagli su come sarà implementato. Il CBP, invece, ha espresso intenzione di rispondere alle richieste di chiarimento da parte di WIRED, ma non ha dato indicazioni sulle misure preventive da adottare. Il contesto di crescente attenzione verso l'uso di AI da parte delle autorità pubbliche richiede una maggiore responsabilità e una gestione trasparente delle tecnologie. Il caso di Mobile Fortify rappresenta un esempio di come il bilanciamento tra sicurezza e libertà sia sempre più complesso, soprattutto in un'epoca in cui le tecnologie di sorveglianza stanno diventando strumenti centrali per la gestione delle frontiere e della sicurezza nazionale. La soluzione di questo dilemma dipenderà da una combinazione di regolamentazione rigorosa, collaborazione tra settori pubblici e privati, e un impegno costante verso la tutela dei diritti fondamentali.