salvatore palidda Professeur de sociologie à l'université de Gênes (Italie)
BILLET DE BLOG 12 MAI 2022
/image%2F1488390%2F20220526%2Fob_db87ba_telechargement.png)
Comme l'écrit Statewatch depuis 2007 l'UE a dépensé plus de 340 millions pour la recherche sur les technologies de l’Intelligence Artificielle (I.A.) destinée au contrôle des frontières, des demandeurs d’asile, de l’immigration, alors que la proposition de loi en la matière actuellement en discussion ne fournit pas les sauvegardes contre les emplois dommageables de ces technologies.
Le rapport, A clear and present danger: Missing safeguards on migration and asylum in the EU’s AI Act (Un clair et actuel dangers: les garanties manquantes sur la migration et l'asile dans le document de loi sur l'I.A. de l'UE), identifie un total de 51 projets qui examinent différents possibles emplois des technologies de l’intelligence artificielle, y compris les robots autonomes pour le contrôle des frontières, l'identification biométrique et les dispositifs de vérification et les systèmes automatisés de recueil et analyse des données.
Les entreprises privées ont reçu plus de financements (163 millions d'euros) que tout autre type d’institution ; les entreprises militaires et de sécurité transnationales telles qu'Indra, Leonardo, Israel Aerospace Industries et GMV Aerospace and Defence étant parmi les principaux bénéficiaires.
Les fonds proviennent des projets de recherche et de développement de l'UE, dont l'actuel Horizon Europe[1] dispose d'un total de 93 milliards d'euros et s'étend de 2021 à 2027. Parmi ceux-ci, 1,4 milliard d'euros sont destinés à la "sécurité civile" et le premier programme de travail prévoit € 55 millions pour des projets de "gestion des frontières”[2].
Le rapport est publié la même semaine qu'une coalition d'organisations de défense des droits de l'homme (ONG), dont Statewatch, a publié des modifications proposées à la loi sur l'IA[3] qui garantiraient que la loi fournisse des garanties en matière de droits fondamentaux pour les personnes soumises à des systèmes d'intelligence artificielle lors des procédures d'asile, d'immigration et aux frontières.
"Un danger clair et présent" montre à quel point de nombreuses utilisations existantes des technologies de pointe - systèmes d'identification biométrique à distance, outils d'évaluation et de vérification automatisés, technologies de profilage intégrées dans les bases de données à grande échelle de l'UE, surveillance des frontières et analyses prédictives - ne sont pas suffisamment couvertes, voire excluent totalement le champ d'application de la loi IA, plaçant les personnes en position déjà vulnérable à un risque encore plus grand d'être victimes de violation de leurs droits.
Ces requêtes contrastent fortement avec celles des partisans d'une approche plus libérale de la diffusion des technologies de pointe, comme l'indique un rapport réalisé par le cabinet de conseil RAND Europe pour l'agence de l'UE Frontex : “La législation et la réglementation semblent être les barrières que les développeurs de technologies devront surmonter pour garantir l'utilisation de leur solution basée sur l'IA[4]."
Rappelons au passage que Frontex s’est révélé une véritable institution criminelle qui de facto agit pour faire mourir ou laisser mourir les migrants, une institution dont nombre de ONG demandent l'abolition définitive.
Jane Kilpatrick, chercheuse de Statewatch et co-auteur du rapport, commente :
"Étant donné que le Parlement présentera désormais des amendements à la loi d'ici le 18 Mai, il est surprenant de constater à quel point la Commission a déjà investi dans la technologie de l'IA pour le contrôle des frontières, ce qui aura un impact direct sur la vie et les droits des personnes. Il est crucial que des modifications importantes soient apportées à la législation avant qu'elle ne devienne une législation de l'UE”.
Chris Jones, directeur de Statewatch et co-auteur du rapport, a déclaré :
“Il est essentiel que la loi sur l'IA englobe des protections significatives pour les personnes qui traversent les frontières, qui sont déjà soumises à un risque substantiel de violations multiples des droits. Les garanties juridiques qui peuvent être appliquées sont très cruciales, mais les militants et les sympathisants doivent également être prêts pour une lutte à long terme contre les technologies déshumanisantes et dangereuses, dont beaucoup sont développées avec des fonds publics”.
Le rapport complet et le dataset sont disponibles ici.
Voir aussi A clear and present danger. Missing safeguards on migration and asylum in the EU’s AI Act (rapport sur les dangers de l’emploi de l’intelligence artificielle dans les politiques et l’application des politiques d’asile et immigration): https://www.statewatch.org/media/3282/sw-a-clear-and-present-danger-ai-act-migration-11-5-22.pdf
[1] Horizon est le programme de recherches éuropéen doté d’un budget de €95,5 milliards; depuis 2005 les appels à projets (call for proposals) prescrivent que les réseaux des équipes de recherche qui aspirent au financement doivent comprendre aussi les ministères de l’intérieur et de la défense et les entreprises privées. Ainsi on a donc abolit la possibilité d’une recherche critique, autonome et donc effectivement indépendante tour comme la recherche fondamentale (non appliquée) tandis que nombre de projets financés arrivent même à prospecter des nouvelles modalités et dispositifs pour la répression des migrations etc. (cette dérive sécuritaire et de facto génocide de la recherche en Europe on l’a dénoncé déjà dans l’introduction du livre Conflict, Security and the Reshaping of Society: The Civilisation of War, London: Routledge, 2010: déchargeable ici
http://www.oapen.org/search?identifier=391032, pp.7-11 (un ouvrage qui montrait le continuum des guerres entre guerre urbaine, guerre aux migrations et guerre de néocolonisation).
[2] European Commission, ‘Horizon Europe Work Programme 2021-2022 – 6. Civil Security for Society’, C(2021)9128, 15 December 2021,https://ec.europa.eu/info/funding-tenders/opportunities/docs/2021-2027/horizon/wp-call/2021-2022/wp-6-civil-security-for-society_horizon-2021-2022_en.pdf
[3] 'Uses of AI in migration and border control: A fundamental rights approach to the Artificial Intelligence Act', https://edri.org/wp-content/uploads/2022/05/Migration_2-pager-02052022-for-online.pdf
[4] 'Artificial intelligence-based capabilities for the European Border and Coast Guard', March 2021,https://frontex.europa.eu/assets/Publications/Research/Frontex_AI_Research_Study_2020_final_report.pdf
