Les autorités américaines se servent d’outils de surveillance automatisés assistés par intelligence artificielle (IA) pour cibler délibérément des citoyen·ne·s non américains, ce qui représente un risque pour ceux qui s’expriment en faveur des droits des Palestinien·ne·s, a déclaré Amnesty International, dans un contexte de répression illégale des personnes migrantes, réfugiées et demandeuses d’asile à travers le pays.
Amnesty International a examiné des documents provenant des archives publiques du Département de la sécurité intérieure et des documents d’évaluation des achats et de la politique de confidentialité précédemment divulgués, qui montrent que les outils d’IA Babel X, créé par Babel Street, et Immigration OS, de l’entreprise Palantir, ont des capacités automatisées qui permettent un suivi, une surveillance et une évaluation de masse constants, souvent dans le but de cibler les citoyens non américains. L’étude révèle également que le gouvernement américain s’en sert pour tracer les personnes migrantes, réfugiées et demandeuses d’asile, et que le risque est au final élevé qu’ils soient utilisés dans le cadre du programme « Catch and Revoke » (« Attraper et révoquer »).
« Il est très préoccupant que le gouvernement américain déploie des technologies intrusives assistées par IA dans le cadre d’un programme d’expulsions massives et de répression de l’expression en faveur de la Palestine, débouchant sur une multitude de violations des droits humains. Ces technologies lui permettent de tracer et de cibler rapidement les étudiants étrangers et d’autres groupes de migrants marginalisés à une échelle et une ampleur sans précédent. Cela se traduit par des détentions illégales et des expulsions massives, créant un climat de peur et exacerbant l’ » effet paralysant » sur les migrants et les étudiants internationaux dans les écoles et sur les campus », a déclaré Erika Guevara-Rosas, directrice générale de la recherche, du plaidoyer, des politiques et des campagnes à Amnesty International.
La mesure répressive « Attraper et révoquer » mise en place par le Département d’État, pilotée par IA, combine surveillance des réseaux sociaux, suivi du statut des visas et évaluation automatisée des menaces que représentent les étrangers titulaires d’un visa, y compris les étudiants internationaux. Les outils d’IA fournis par Babel Street et Palantir jouent un rôle clé dans la capacité des autorités américaines à identifier les personnes, ainsi que leurs comportements et leurs déplacements, plus rapidement et à grande échelle, afin de déterminer si leur visa doit être révoqué.
Babel X effectue une analyse des sentiments en attribuant un sentiment et une intention probable à des publications partagées par les utilisateurs en fonction de leur comportement en ligne. Babel X comme Immigration OS peuvent réaliser des reconnaissances de schémas et automatiser l’analyse des données grâce à des algorithmes. En outre, ces outils rassemblent des données provenant de diverses sources publiques et privées, dont plusieurs bases de données gouvernementales.
L’initiative coercitive » Attraper et révoquer « , facilitée par les technologies d’IA, risque d’amplifier les annulations de visas, les détentions, les expulsions et les violations arbitraires et illégales de nombreux droits humains – notamment le droit à la vie privée, la liberté d’expression et d’accès à l’information, le droit de circuler librement, les droits à l’égalité, à la non-discrimination et à la liberté, ainsi que le droit de manifester
Erika Guevara-Rosas, directrice générale de la recherche, du plaidoyer, des politiques et des campagnes à Amnesty International
Babel X permettrait par exemple de parcourir rapidement grâce à l’IA les plateformes de réseaux sociaux à la recherche de contenus liés au « terrorisme ». Les autorités américaines peuvent alors se servir de ces informations pour décider de révoquer un visa. Si le Département d’État décide qu’un visa doit être annulé, des agents du Service de contrôle de l’immigration et des douanes (ICE) sont envoyés depuis les bureaux locaux pour arrêter et expulser la personne concernée. Les technologies probabilistes employées pour tirer des déductions sur les intentions des individus présentent d’importantes marges d’erreur et s’avèrent souvent discriminatoires et biaisées ; elles peuvent conduire à présenter à tort des contenus propalestiniens comme antisémites.
Les risques pour les droits humains inhérents à ce type de systèmes sont bien connus, et ce depuis longtemps. Sous la première présidence de Donald Trump, 55 organisations de défense des droits humains (dont Amnesty International), ainsi que 54 experts en technologie, ont écrit aux autorités pour s’opposer à l’introduction d’un système automatisé de « contrôle extrême », au motif qu’il serait inefficace et conduirait forcément à des violations du droit à la non-discrimination, à la liberté d’expression et à d’autres droits fondamentaux des migrants aux États-Unis.
« L’initiative coercitive » Attraper et révoquer « , facilitée par les technologies d’IA, risque d’amplifier les annulations de visas, les détentions, les expulsions et les violations arbitraires et illégales de nombreux droits humains – notamment le droit à la vie privée, la liberté d’expression et d’accès à l’information, le droit de circuler librement, les droits à l’égalité, à la non-discrimination et à la liberté, ainsi que le droit de manifester », a déclaré Erika Guevara-Rosas.
Amnesty International a analysé les documents d’achats et les contrats, ainsi que les réponses en vertu de la loi sur la liberté de l’information aux précédentes demandes d’autres organisations, concernant tous les projets d’IA publiquement connus déployés par le Département américain de la Sécurité intérieure (DHS), le Service des douanes et de la protection des frontières (CBP) et le Service de contrôle de l’immigration et des douanes (ICE). Selon le site Internet du CBP, l’ICE et le CBP hébergent actuellement au moins 80 projets d’IA.
Babel X par Babel Street
D’après les documents examinés, le Service des douanes et de la protection des frontières (CBP) s’appuie sur Babel X depuis au moins 2019. Cette technologie peut collecter d’énormes quantités de données à partir d’un seul identifiant, comme le nom, l’adresse e-mail ou le numéro de téléphone d’une personne. Elle peut également accéder aux publications sur les réseaux sociaux, aux adresses IP, à l’historique professionnel et aux identifiants uniques générés pour la publicité sur les applications mobiles, qui peuvent servir à tracer la localisation de l’appareil. Babel X permet une surveillance étendue de divers groupes, comme les citoyens américains et non américains, ainsi que les résidents permanents, mais est spécifiquement assigné à la surveillance des réfugiés et demandeurs d’asile, comme le révèle l’analyse du seuil de confidentialité du CBP pour Babel X.
Babel X est répertorié sur la page des projets d’IA actifs du CBP comme « un outil acheté commercialement qui aide le CBP à compiler des informations collectées sur les réseaux sociaux et disponibles en libre accès sur les voyageurs pouvant être soumis à des contrôles supplémentaires pour violation potentielle des lois que le CBP est habilité à appliquer ou administrer ».
En février 2025, le vice-président principal en charge des risques chez Babel Street a publié un article sur l’outil OSINT assisté par IA qui permet de contrer et détecter les « contenus liés au terrorisme » à des fins d’interception et de sécurité aux frontières, et de trouver des groupes et des individus « radicalisés » à l’aide de recherches par mots-clés dans de grandes bases de données rassemblant documents, articles de presse et médias en ligne.
Babel Street s’appuie sur la « recherche permanente » pour surveiller en continu toute nouvelle information en lien avec un individu apparaissant en ligne, ou dans d’autres bases de données gouvernementales, même si une requête initiale de recherche a déjà été lancée. En automatisant à la fois le signalement et l’extraction de quantités massives de données, de manière permanente, sur les individus signalés, Babel X risque de les rendre suspects par défaut et de les exposer au risque de révocation de visa, de détention et d’expulsion.
Immigration OS par Palantir
En avril 2025, le Service de contrôle de l’immigration et des douanes (ICE) a attribué à Palantir un contrat de 30 millions de dollars pour suivre les « auto-expulsions » et identifier les cas d’expulsions prioritaires, en particulier en cas de visa expiré. Toujours en avril, 404 Media a relaté un message Slack (interne) qui a fuité, envoyé par le directeur de la technologie de Palantir : « Au cours des dernières semaines, nous avons testé en prototype un nouvel ensemble d’intégrations de données et de flux de travail avec l’ICE », ajoutant : « L’accent mis par le nouveau gouvernement sur l’exploitation des données pour piloter les opérations de maintien de l’ordre accélère ces initiatives ».
Ce système, appelé Immigration Lifecycle Operating System (Immigration OS), constitue une mise à niveau du système intégré de gestion des dossiers (ICM) de Palantir, que l’ICE utilise depuis 2014.
Le système intégré de gestion des dossiers permet au personnel de l’ICE de « créer un dossier électronique qui organise et relie tous les dossiers et documents associés à une enquête particulière [en lien avec l’immigration], afin qu’ils soient facilement accessibles depuis un emplacement unique. Il permet également au personnel de relier les dossiers à plusieurs enquêtes afin d’établir des liens entre les affaires et donne accès à un large éventail de données personnelles provenant des agences et des forces de l’ordre américaines. »
La nouvelle version d’Immigration OS présente les caractéristiques suivantes :
- Rationalisation de la sélection et de l’arrestation des individus en fonction des priorités de l’ICE, en se concentrant sur les organisations criminelles transnationales, les criminels violents et les visas expirés.
- Surveillance en temps réel des auto-expulsions et intégration aux systèmes d’établissement des priorités pour contribuer à guider les politiques et l’allocation des ressources.
- Gestion de l’immigration de bout en bout, de l’identification au renvoi, en mettant l’accent sur l’efficacité de l’expulsion.
Il est à noter qu’Immigration OS automatise un processus déjà très faillible et n’ayant pas de comptes à rendre, qui a des antécédents en matière de non-respect de la procédure régulière et des droits humains, ce qui le rend encore plus opaque et le renforce.
Pendant la première présidence de Donald Trump, en 2020, Amnesty International a adressé un courrier à l’entreprise Palantir au sujet de ses procédures de diligence requise en matière de droits humains. En réponse, Palantir a reconnu avoir « […] délibérément refusé de conclure des contrats avec [la Direction des opérations d’application de la loi et de renvoi de l’ICE] et le CBP sous l’administration actuelle [de l’époque], car nous partageons l’inquiétude de votre organisation quant aux graves risques de violations des droits fondamentaux des migrants, des réfugiés et des demandeurs d’asile à la frontière entre les États-Unis et le Mexique, et aux risques d’application disproportionnée des lois sur l’immigration à l’intérieur des États-Unis ».
Un État omniscient : effets paralysants sur les manifestant·e·s étudiants internationaux
Le 8 mars 2025, le gouvernement américain a arrêté illégalement Mahmoud Khalil, ancien étudiant diplômé de l’Université de Columbia, porte-parole des manifestant·e·s sur le campus et résident permanent aux États-Unis. Le président Donald Trump a déclaré qu’il s’agissait de « la première d’une longue série d’arrestations ». Peu après, neuf étudiant·e·s étrangers ayant participé à des manifestations ou dénoncé le génocide israélien à Gaza ont vu leur visa ou leur statut de résident révoqué. Mahmoud Khalil a été libéré le 20 juin par le Service de contrôle de l’immigration et des douanes (ICE).
Autre cas, celui de Rumeysa Ozturk, une doctorante turque de l’Université Tufts, interceptée près de son domicile par six agents de l’immigration en civil et embarquée à bord d’une voiture banalisée. Les agents ont refusé de s’identifier lors de son arrestation. La seule infraction qu’elle aurait commise est d’avoir co-écrit un article d’opinion critiquant l’absence de réponse de son université aux revendications des étudiants au sujet de Gaza. Un porte-parole du Département de la sécurité intérieure a par la suite affirmé qu’elle « s’était livrée à des activités de soutien au Hamas », sans apporter aucune preuve.
Le gouvernement américain dispose du pouvoir discrétionnaire de refuser ou de révoquer des visas aux demandeurs, mais il ne peut pas le faire en violant les droits protégés par la Constitution américaine et le droit international relatif aux droits humains, notamment les droits à la liberté d’expression et à une procédure régulière.
Les méthodes répressives du gouvernement actuel et la révocation sommaire du statut migratoire témoignent d’un mépris total pour les droits à la liberté d’expression et de réunion pacifique. Cela constitue une violation flagrante du droit à l’égalité et à la non-discrimination, les titulaires de visas et les demandeurs d’asile étant explicitement ciblés par les systèmes pilotés par IA.
Le 10 juillet 2025, Amnesty International a contacté Palantir Technologies et Babel Street pour obtenir leurs commentaires sur ses conclusions. Babel Street n’a pas répondu. Palantir Technologies a répondu le 24 juillet, déclarant que son produit n’était pas utilisé pour faciliter l’initiative du Département d’État américain « Attraper et révoquer » ; elle a précisé que Palantir était sous contrat avec le Service de contrôle de l’immigration et des douanes (ICE) du Département de la sécurité intérieure des États-Unis et ne ciblait pas spécifiquement les manifestants étudiants, et que ses produits ne favorisaient pas les contrôles migratoires violant les droits. Palantir a confirmé que la récente extension du système intégré de gestion des dossiers (surnommée « Immigration OS ») « […] inclut un travail qui sert directement la mission [de la Direction des opérations d’application de la loi et de renvoi] » et comporte les capacités suivantes : « (a) Priorisation et ciblage des opérations d’application de la loi, (b) Suivi de l’auto-expulsion et (c) Opérations relatives au cycle de vie de l’immigration ».
Bien que les contrats de Babel Street et de Palantir soient conclus respectivement avec le CBP et l’ICE, le département des opérations d’application de la loi et de renvoi de l’ICE gère tous les aspects de l’application des lois relatives à l’immigration, y compris « l’identification, l’arrestation, la détention et le renvoi des étrangers ». L’ICE est le bras opérationnel chargé de mettre en œuvre les décisions prises par toutes les agences américaines concernées par la gestion des migrations, y compris le Département d’État. En d’autres termes, l’ICE joue un rôle clé dans l’application de la politique « Attraper et révoquer » par le biais de méthodes agressives de suivi et de détention, même si la politique dans son ensemble est mise en œuvre par le Département d’État. Ces réponses ne dissipent pas fondamentalement les préoccupations mises en avant par cette recherche, à savoir que les technologies de Palantir et de Babel Street risquent de contribuer à des violations des droits des migrants du fait de leurs contrats avec les agences fédérales chargées d’appliquer les lois sur l’immigration.
« Des systèmes comme Babel X et Immigration OS jouent un rôle essentiel dans la capacité du gouvernement américain à mettre en œuvre ses méthodes répressives, facilitant des décisions automatisées rapides qui se traduisent par des expulsions massives menées à une vitesse sans précédent ; et ce au détriment d’une procédure régulière adéquate et avec des risques importants pour les droits de tous les immigrants, y compris les étudiants qui ne sont pas citoyens américains », a décaré Erika Guevara Rosas.
Compte tenu des relations antérieures de Palantir et Babel Street avec le gouvernement américain et de l’intention déclarée du gouvernement de Donald Trump de procéder à des expulsions massives, ces entreprises auraient pu raisonnablement prévoir le risque de préjudice observé dans tout le pays et reconsidérer la signature de ces contrats, afin de prévenir ces risques conformément aux normes internationales relatives aux droits humains.
Si Palantir et Babel Street avaient exercé leur devoir de diligence requise en matière de droits humains et assumé leurs responsabilités en la matière en 2025, elles auraient pu et dû refuser de participer à ces opérations d’expulsion massive. En fournissant cette technologie sans les garanties adéquates, des entreprises comme Babel Street et Palantir risquent de contribuer aux violations des droits commises en marge de ces opérations.
Amnesty International souligne l’importance d’exercer son influence, autant que possible, dans toute relation commerciale impliquant des droits humains. Il est primordial que les entreprises ne soient pas sources d’atteintes aux droits humains, n’y contribuent pas et n’y soient pas directement liées.
« L’utilisation de cette technologie dans ce contexte risque d’accroître la capacité du gouvernement de Donald Trump à prendre des décisions arbitraires s’agissant d’expulser des personnes marginalisées sur un coup de tête et en masse, tout en offrant un accès limité, voire inexistant, à une procédure régulière. N’oublions pas que ces systèmes sont désormais entre les mains d’un gouvernement qui a déjà expulsé des gens vers une prison cruelle au Salvador, en présumant qu’ils pourraient commettre des crimes à l’avenir, a déclaré Erika Guevara-Rosas.
« Par ailleurs, on ne peut ignorer la précarité des visas, notamment pour des groupes marginalisés comme certains étudiants internationaux. Palantir et Babel Street devraient mener et publier l’intégralité des conclusions de leurs procédures de diligence requise en matière de droits humains. Si elles ne sont pas en mesure de démontrer que leur influence en tant que fournisseurs peut servir à atténuer les graves conséquences des politiques de leurs clients sur les droits fondamentaux, ces entreprises devraient cesser toute collaboration avec le gouvernement américain en matière de contrôle de l’immigration. »
Enfin, Amnesty International appelle le Congrès américain à prendre des mesures visant à renforcer ses mécanismes de surveillance et de réglementation afin de garantir que ces entreprises technologiques ne contribuent pas à bafouer les droits humains.
Complément d’information
Le 27 mars, le secrétaire d’État américain Marco Rubio a annoncé qu’il avait annulé les visas d’au moins 300 étudiants et visiteurs depuis le mois de janvier.
Selon des informations plus récentes, les visas d’au moins 1 800 et jusqu’à 4 000 étudiant·e·s ont été révoqués. Nombre d’entre eux assurent ne pas avoir été informés de cette annulation et n’avoir jamais participé à des manifestations, même si certains ont pu avoir des interactions avec les forces de l’ordre pendant leur séjour, pour des raisons mineures comme une contravention. Selon une plainte déposée au nom de deux étudiant·e·s en Californie, les étudiants ont été ciblés parce qu’ils étaient d’origine africaine, arabe, asiatique, moyen-orientale ou musulmane.
Amnesty International a déjà constaté l’utilisation du système intégré de gestion des dossiers (ICM) de Palantir par le Service de contrôle de l’immigration et des douanes (ICE) pour mettre en œuvre des politiques néfastes ciblant les personnes migrantes et demandeuses d’asile. Elle a mis en évidence le risque élevé que Palantir ne contribue à des atteintes aux droits humains, sa technologie ayant par le passé été employée pour faciliter les opérations de l’ICE.