26 octobre 2019
Pour comprendre ce vaste sujet il faut d’abord lire…
Un rapport confirme l’utilisation croissante de la surveillance par Intelligence Artificielle (IA)
Quand vous pensez aux pays qui utilisent des technologies de surveillance avancées par Intelligence Artificielle (IA), vous pensez probablement à la Chine ?
En effet, c’est le pays où la reconnaissance faciale est utilisée pour rationner le papier hygiénique, pour identifier et dénoncer les piétons indisciplinés, et enfin pour équiper la police avec des lunettes leur permettant d’identifier des suspects.
Cependant, cette tendance ne concerne pas seulement la Chine. Selon un rapport du Carnegie Endowment for International Peace, l’utilisation des technologies de surveillance par Intelligence Artificielle se répand plus rapidement, et dans un plus grand nombre de pays, que préalablement anticipé par les experts.
Le rapport a révélé qu’au moins 75 pays sur 176 dans le monde utilisent activement les technologies d’Intelligence Artificielle à des fins de surveillance, notamment les plateformes de type Smart City/Safe City, actuellement utilisées par 56 pays; des systèmes de reconnaissance faciale, utilisés par 64 pays; et une police intelligente, désormais déployée par les forces de l’ordre dans 52 pays.
L’auteur du rapport, Steven Feldstein, a confié à AP qu’il était surpris par le nombre de gouvernements démocratiques en Europe et ailleurs, à savoir un peu plus de la moitié, mettant en place une surveillance par Intelligence Artificielle, telle que la reconnaissance faciale, les contrôles automatisés aux frontières et les outils algorithmiques permettant de prédire quand des crimes pourraient se produire : « Je pensais que cela concernerait surtout les pays du Golfe ou la zone entourant de la Chine. »
Le rapport ne fait pas la distinction entre les utilisations licites de la surveillance par IA, celles qui violent les droits de l’homme, ou bien celles qui tombent dans ce que Feldstein appelle la “zone intermédiaire obscure”.
Les technologies de type Smart City illustrent à quel point les choses peuvent devenir obscures. À Quayside, la ville intelligente qui se développe sur le front de mer à l’est de Toronto, les bonnes intentions se présentent sous la forme de capteurs destinés à servir le public, et qui sont conçus pour “tout révolutionner”, que ce soit le trafic routier, la santé, le logement, la réglementation en matière de zonage, jusqu’aux émissions de gaz à effet de serre et bien plus encore. Mais Quayside est également considérée comme une dystopie de la vie privée en pleine gestation.
Le but de la recherche est de montrer en quoi les nouvelles technologies de surveillance transforment la manière dont les gouvernements nous surveillent et nous suivent.
(...) En conclusion de cet article, l'auteur de ce Rapport, Steven Feldstein, affirme que de telles intrusions « affectent profondément le droit à la vie privée des individus, à savoir celui de ne pas être soumis à ce que le Haut-Commissariat des Nations Unies (HCDH) a appelé ‘une ingérence arbitraire ou illégale dans la vie privée, la famille, le domicile ou la correspondance’ [et]… peuvent également porter atteinte au droit d’un individu à la liberté d’association et d’expression. »
Lire l'article intégral ICI.
Bientôt plus rien dans les grandes villes n'échappera à la vigilance perpétuelle des milliers de caméras et des algorithmes utilisés pour alerter les autorités dès qu'une activité prétendument suspecte se produit.
Au sujet de ce que se passe à Toronto, voir...
The Google city that has angered Toronto
Traduction de la conclusion :
Alors que les villes du monde entier se tournent vers la technologie et collaborent avec des entreprises de technologie pour améliorer leur efficacité urbaine, les problèmes rencontrés à Toronto leur donneront-ils à réfléchir ?
Saskia Sassen, experte des villes intelligentes qui enseigne la sociologie à l'université de Columbia, pense que cela pourrait être le cas.
« En principe, il est bon de faire réaliser les travaux publics par une entreprise privée et généralement cela fonctionne bien. Cependant, lorsqu'elles installent un système complexe, alors les chances sont qu'elles passeront aux étapes suivantes - privatisant ainsi davantage ce qu'elles auront installé », a-t-elle déclaré à la BBC.
« Google domine déjà ce qui se passe en ligne. Par conséquent, le fait d'avoir une société affiliée à Google en charge de ce qui se passe hors ligne pourrait également poser problème. »
Voir aussi...
Google Is Building a City of the Future in Toronto. Would Anyone Want to Live There?
« J'espère que les citoyens poseront des questions plus pointues sur l'utilisation de ce type de technologie et sur ses impacts. »
– Steven Feldstein - Tiré et traduit de Researchers: AI surveillance is expanding worldwide
La Chine exporte des technologies de surveillance comme la reconnaissance faciale au niveau mondial
La deuxième économie mondiale a construit un vaste état de surveillance composé de millions de caméras équipées d'un logiciel de reconnaissance faciale. Les appareils, perchés sur des lampadaires et à l'extérieur des bâtiments et des rues, sont capables de reconnaître des individus. Certaines des entreprises de technologie les plus précieuses de la Chine ont été impliquées dans de tels projets à travers le pays. Mais cette technologie est maintenant exportée à mesure que les entreprises technologiques du pays élargissent leur empreinte mondiale.
(...) « Je pense que nous ne comprenons même pas vraiment l'ampleur du problème auquel nous sommes confrontés lorsqu'il s'agit de la technologie de surveillance chinoise lorsqu'elle est exportée. Ce n'est pas seulement que les autres régimes peuvent l'utiliser de la même manière, c'est quand exporté, le parti (communiste chinois) peut également attacher ses intérêts », a ajouté Hoffman. Je pense que le pire avenir pourrait être que ces gouvernements adoptent ces technologies et ajoutent cet arsenal à celui existant pour le contrôle des personnes.
Les deux vidéos suivantes donnent un aperçu de ce qui se répand de plus en plus dans le monde entier...
Pour savoir comment le Canada encadre ce risque, voir...
Utilisation responsable de l’intelligence artificielle (IA)
Au niveau fédéral, c'est la prise de décision automatisée qui soulève le plus de questions comme on peut le lire dans...
Un rapport met en garde contre l’utilisation de l’IA en immigration
Un nouveau rapport met en garde contre l’intérêt du gouvernement fédéral à utiliser l’intelligence artificielle(IA) pour filtrer et traiter les dossiers d’immigration, prévenant que cela pourrait créer de la discrimination en plus de porter atteinte à la vie privée et aux droits de la personne.
La recherche, menée par le Citizen Lab de l’Université de Toronto, souligne les impacts de la prise de décision automatisée impliquant des demandes d’immigration et comment les erreurs et les hypothèses de la technologie pourraient entraîner des « conséquences mortelles » pour les immigrants et les réfugiés.
Les auteurs du rapport publient une liste de sept recommandations appelant à une plus grande transparence et à la publication et à la surveillance publiques de l’utilisation de l’intelligence artificielle et de l’analyse prédictive par le gouvernement pour automatiser certaines activités impliquant des applications d’immigrants et de visiteurs.
« Nous savons que le gouvernement expérimente l’utilisation de ces technologies […], mais il est clair que sans garanties et mécanismes de surveillance appropriés, utiliser l’IA pour déterminer l’immigration et le statut de réfugié est très risqué », explique Petra Molnar, l’une des auteures du rapport.
« L’IA n’est pas neutre. C’est un peu comme une recette et si votre recette est biaisée, la décision prise par l’algorithme est également biaisée et difficile à contester », poursuit-elle. CLIP
Au niveau municipal canadien, c'est l'usage de la reconnaissance faciale par les services de police qui est contesté...
Pour un moratoire sur la reconnaissance faciale - 17 août 2019
Montréal est un des principaux centres mondiaux de l'intelligence artificielle(IA). Notre talent et notre inventivité nous ont permis de tirer notre épingle du jeu dans cette industrie qui définira le futur. Montréal se positionne d’ailleurs comme un hub où l’IA est mise au service du bien commun avec des initiatives de portée internationale, comme la Déclaration de Montréal, la plateforme AI Commons ou encore l’Institut d’éthique IA de Montréal. Il est donc préoccupant de constater l’apathie de l’administration montréalaise devant la possibilité que le Service de police de Montréal (SPVM) utilise en secret des technologies de reconnaissance faciale en dépit des risques pour la vie privée qu’elles soulèvent.
Cette technologie fonctionne de manière à permettre la comparaison de photos de suspects potentiels avec une base de données composée de photos d’arrestation. Mais quelles sont ces données utilisées pour procéder à une reconnaissance faciale ? Cela peut-être n’importe quelle image d’un suspect. Une image filmée par une caméra de surveillance sur le lieu d’un crime, par exemple, mais aussi une photographie tirée du réseau social favori d’un suspect. Qui eût cru que vos photos Facebook pourraient un jour aider à vous incriminer.
Pire encore, une étude de l’Université Georgetown aux États-Unis a recensé des problèmes majeurs dans la façon dont les policiers utilisent les systèmes de reconnaissance faciale. Ils ont répertorié des pratiques telles que la comparaison de sketchs dessinés ou encore de photos de personnalités connues afin d’identifier un suspect. Afin d’accroître le nombre de correspondances, il arrivait même que les policiers manipulent les images avec des logiciels graphiques, allant jusqu’à modifier la forme de la bouche ou des yeux. À New York, des enfants aussi jeunes que 11 ans ont été fichés par le service de police en dépit des risques élevés de fausses correspondances pour les visages jeunes.
On pourrait croire que la reconnaissance faciale, popularisée par les téléséries policières comme CSI, permet d’identifier un suspect en quelques secondes. En fait, cette technologie est plutôt reconnue pour son très faible niveau de fiabilité, en particulier pour les personnes racisées.
Testée par l’American Civil Liberties Union, la technologie Rekognition, développée par Amazon et utilisée par plusieurs corps de police dans le monde, a faussement identifié 28 membres du Congrès américain comme étant des criminels. À Londres, des demandes d’informations effectuées auprès de son service de police par le journalThe Independant ont révélé que la technologie qu’ils utilisent identifiait faussement des individus comme étant des criminels dans 96 % des cas. Les risques de fausses accusations laissent planer une crise pour notre système judiciaire déjà surchargé.
À Montréal, nous sommes dans l’inconnu. En octobre 2018, la Ville de Montréal faisait l’acquisition de 730 caméras de vidéosurveillance, dont 415 étaient destinées au SPVM. Néanmoins, le SPVM refuse de « confirmer » ou d’« infirmer » s’il utilise une telle technologie. Même nos représentants municipaux sont maintenus dans l’ignorance. Nous savons pourtant que cette technologie est employée depuis plus d’un an à Toronto et que la Sûreté du Québec a déjà publié un avis d’intérêt pour ce même type de technologie.
Malgré ces signaux alarmants, l’administration montréalaise semble peu encline à réglementer cette technologie. Il n’existe actuellement aucun garde-fou démocratique pour encadrer son utilisation ni de règle sur la façon d’utiliser les données. Quand des technologies de surveillance à grande échelle sont déployées en secret et sans reddition de comptes auprès du public, on ne peut s’attendre qu’à des dérapages.
C’est pourquoi je salue l’initiative du conseiller municipal indépendant Marvin Rotrand et du conseiller de l’opposition officielle Ensemble Montréal Abdelhaq Sari. Ils proposent que notre métropole, à l’instar d’autres villes comme San Francisco, Cambridge ou Oakland, adopte un moratoire sur l’utilisation des technologies de reconnaissance faciale, le temps qu’un comité d’experts externes se penche sur la façon de les encadrer. Une motion sera débattue au conseil municipal les 19 et 20 août prochains à ce sujet. Son adoption signifierait que notre administration municipale compte se porter garante du respect du droit à la vie privée de tous les résidents montréalais.
Mais j’irais encore plus loin ; il est plus que temps que la Ville de Montréal, épicentre de la révolution de l’IA, se dote d’un comité permanent pour réfléchir à la gouvernance future de la ville intelligente. Nombreuses sont les questions technologiques qui méritent des délibérations réfléchies et ouvertes. La reconnaissance faciale n’est que la plus pressante.
Vous pouvez lire et signer la Déclaration de Montréal pour un développement responsable de l'intelligence artificielle mentionnée ci-dessus.
Plus de détails dans...
Un conseiller montréalais veut un moratoire sur la reconnaissance faciale
(...) « Le 7 mai 2019, le commissaire à la protection de la vie privée du Canada, Daniel Therrien, a déclaré que les lois fédérales sur la protection de la vie privée exigent des réformes très urgentes, car le Canada a atteint un moment décisif où le droit à la vie privée et les valeurs démocratiques sont en jeu », indique M. Rotrand dans la motion parcourue par La Presse.
L’élu demande aussi au commissaire Therrien de se prononcer en faveur du moratoire. « Bien que vous ne puissiez pas légiférer, vos rapports et vos recommandations ont une grande influence sur le Parlement », écrit-il dans une lettre datée du 10 juin.
Les gens qui promènent leur chien, qui vont au supermarché ou qui empruntent le métro doivent avoir l’assurance qu’ils ne sont pas espionnés.
« L’évolution très rapide de la technologie met en péril nos valeurs démocratiques et nos droits civils », ajoute M. Rotrand, dont la motion aurait reçu l’appui de 23 des 65 élus.
L’avocate Éloïse Gratton ajoute que de nombreuses études démontrent que les gens qui se savent surveillés par des caméras agissent différemment. « Cela a un gros impact sur l’exercice de nos libertés. »
Voici ce qui en a résulté...
Montréal étudiera l’utilisation des technologies de reconnaissance faciale par le SPVM
Montréal étudiera l’utilisation des technologies de reconnaissance faciale par les agents du Service de police de la Ville de Montréal. Les élus du conseil municipal ont demandé à la Commission de la sécurité publique d’émettre des recommandations pour encadrer l’utilisation future de ces systèmes avec des mécanismes afin d’assurer le respect du droit à la vie privée des citoyens.
Le débat sur la reconnaissance faciale a fait surface à l’hôtel de ville alors que le conseiller indépendant, Marvin Rotrand, de l’arrondissement Côte-des-Neiges-Notre-Dame-de-Grâce, a présenté une motion pour demander un moratoire sur son utilisation. Le conseiller de longue date de la Ville de Montréal a soutenu qu’à l’heure actuelle, les lois sur l’information biométrique sont «désuètes».
«Par exemple, on ne sait pas comment le contenu de la vidéosurveillance est protégé. Imaginez qu’un soir un agent se présente à votre porte pour vous remettre un constat pour avoir écrasé un mégot sur la voie publique, ou pour ne pas avoir respecté la signalisation en traversant une intersection en marchant», a-t-il illustré. CLIP
D'autres voix se sont élevées contre le recours à la reconnaissance faciale au Québec...
Interdire la reconnaissance faciale au Québec - 15 mai 2019
(...) Un prix social et politique exorbitant
La reconnaissance faciale permet aux policiers de cibler les citoyens comme elle le fait avec les plaques d’immatriculation des voitures. Elle donne accès à des applications sur des téléphones intelligents qui peuvent montrer sur un rayon de 500 mètres toutes les personnes potentiellement suspectes, ce qui transforme les communautés en une affreuse société de surveillance mutuelle entre les citoyens. Ces logiciels existent déjà en Chine.
Mais surtout, cette technologie pourrait permettre aux autorités politiques de surveiller tous les opposants. Une possibilité très réelle aux États-Unis, avec des dirigeants comme Donald Trump. Qui sait si un jour nous n'auront pas au Québec et au Canada des dirigeants aux tendances très autoritaires?
Agir maintenant
La reconnaissance faciale commence à être implantée au Québec. Elle est dangereuse et inutile dans la vie quotidienne. Elle a certainement sa place lors du passage de la douane dans les aéroports, mais son utilisation devrait être restreinte à ce genre de situations exceptionnelles.
Sinon, nous risquons un jour de faire comme la Chine et de transformer nos sociétés en un vaste système carcéral où les gens seront surveillés 7 jours sur 7, 24 heures par jour.
C’est le moment d’agir et de légiférer. Avant que cette technologie soit implantée partout. Avant que des leaders autoritaires arrivent au pouvoir. Avant que certains lobbies exercent trop de pressions sur nos élus.
Rappelons que le déploiement de la 5G va main dans la main avec celui des systèmes de capteurs et de surveillance des villes intelligentes.
Mentionnons en terminant que les services secrets américains disposent déjà d'un système quasi secret comparable au Skynet des films Terminator. Ce fait très préoccupant était révélé le 31 juillet 2019 dans l'article suivant.
Meet the classified artificial brain being developed by US intelligence programs
RÉSUMÉ : Imitant Skynet, le système Sentient de GEOINT apprend par lui-même et pointe de manière autonome divers systèmes de capteurs et de surveillance pour obtenir ce qu’il souhaite et en temps réel.
Le directeur adjoint du bureau national de la reconnaissance a déclaré que «Sentient répertorie les schémas normaux, détecte les anomalies et aide à prévoir et à modéliser les actions potentielles des adversaires… Sentient est un système de réflexion».
Bien que cette technologie soit fabuleuse pour le champ de bataille, l'armée la tourne actuellement vers le sol américain en collaboration avec divers organismes chargés de l'application de la loi, dont le Department of Homeland Security. Si ce n'est pas arrêté, cela mènera à une dictature scientifique technocratique totale.
Traduction de la fin de cet article...
Pour l'instant, la surveillance exercée par Sentient reste secrète. Le système "pensant" ne parle qu'aux personnes disposant d'une autorisation de sécurité, bien qu'il puisse écouter, comme l'a dit Thomson, à peu près tout ce qu'il veut.
Comme si cela n'était pas déjà assez perturbant...
Pentagon testing mass surveillance balloons across the US
Traduction d'un extrait :
« Nous ne pensons pas que les villes américaines devraient être soumises à une surveillance étendue dans laquelle chaque véhicule pourrait être suivi où qu'il soit », a déclaré Jay Stanley, analyste politique principal à l'American Civil Liberties Union.
« Même lors des tests, ils collectent encore beaucoup de données sur les Américains: qui se rend au local du syndicat, à l'église, à la mosquée, à la clinique Alzheimer », a-t-il déclaré. « Nous ne devrions pas laisser la possibilité que cela soit utilisé aux États-Unis et il est troublant d'apprendre que ces tests sont effectués par l'armée. »
En complément, voir notre précédent post sur ce même sujet...
Le programme des villes intelligentes pourrait être une «technologie malfaisante»
Voir aussi cette section du site où parlons de la nécessité d'un débat public sur tout ce qui précède.
Si vous ne l'avez pas encore fait, signez la pétition...
LA 5G À MONTRÉAL : UN G DE TROP !
