8 février 2020
Si vous vous inquiétez de l'invasion croissante de la vie privée par la technologie «intelligente» et la 5G, il est facile de communiquer vos préoccupations au commissariat à la protection de la vie privée au Canada qui sollicite des observations sur la protection des droits des Canadiens face aux avancées de l’intelligence artificielle.
Tous les détails via https://www.priv.gc.ca/fr/nouvelles-du-commissariat/nouvelles-et-annonces/2020/an_200128/
Pour prendre la mesure de cet enjeu
Comme on peut s'en rendre compte à la lecture de la présentation détaillée de la situation telle que perçue par les responsables de cet organisme fédéral, le gouvernement canadien s'inquiète, suite à un rapport publié en 2019 par Deloitte prévenant que « les entreprises et les gouvernements ne disposent pas de beaucoup de temps pour agir et répondre aux risques perçus de l’IA avant que les Canadiens ne tournent le dos à cette nouvelle technologie ».
Le gouvernement est conscient que le développement de l'intelligence artificielle (IA) nécessite l'accès à de colossales masses de données numériques, comme ce que Facebook fait déjà depuis des années pour le développement de ses algorithmes qui permettent de cibler ses publicités aux bonnes personnes, selon leur profil numérique. Toutefois, l'accès à nos données personnelles ouvre la porte à un énorme risque d'atteintes à notre droit à la vie privée, sans parler du vol de données confidentielles comme ce qui est arrivé à la plupart des grandes institutions financières. Les millions de milliards de données granulaires que l'Internet des objets, dont la 5G est censée accroître exponentiellement le nombre, va fournir aux développeurs de l'IA va leur permettre de tracer un portrait TRÈS précis de qui nous sommes et ce que nous pensons. Nous serons tous mis à nu jusque dans ce que nous avons de plus intime : nos pensées – pratiquement.
Il est très peu probable que les responsables fédéraux de cette consultation se préoccupent de cela, mais ils le devraient car c'est l'aspect le plus troublant du rôle central que l'IA va finir par jouer dans nos vies, surtout l'intelligence artificielle générale (le Saint-Graal des développeurs de l'IA), quand nous devrons de plus en plus souvent, d'ici 10, 15 et 20 ans, nous soumettre aux dictats sans appel de ces machines "intelligentes" qui remplaceront graduellement les personnes en chair et en os (avec tous leurs préjugés, bien sûr, mais aussi avec leur capacité d'empathie et de compassion) avec lesquelles nous faisons affaire quand nous devons obtenir des services de l'État ou d'entreprises privées.
Quand un robot "intelligent" qui aura évalué votre état d'esprit et/ou de santé et aura déterminé que c'est tel ou tel traitement que vous devez suivre pour continuer à avoir le droit de profiter de l'accès illimité aux avantages sociaux et matériels réservés aux personnes jugées "aptes" par ces machines sans états d'âmes, il sera trop tard pour rêver du "bon vieux temps" où il était encore possible d'obtenir justice et la qualité de respect et d'écoute auquel tout être humain devrait avoir droit.
Le scénario décrit brièvement ci-dessus se matérialisera-t-il ? Peut-être bien si on se laisse faire comme si nous admettions déjà être impuissants à orienter le sens du développement technologique et technocratique de notre monde — et la menace de déséquilibres sociaux que feront peser les humains "augmentés" cybernétiquement n'est même pas examinée ici !* Tel qu'indiqué ICI , il est grand temps qu'un vrai débat publique soit engagé pour ne plus nous faire imposer un type d'avenir que nous ne choisirions jamais si l'occasion nous était donnée de décider ce que nous voulons vraiment.... soit un monde de solidarité humaine et avec toute Vie, où le respect des valeurs d'amour, de compassion et d'entraide serait le déterminant central de toutes les décisions et orientations de nos vies et de l'avenir du monde.
Qui ne dit mot consent ! À vous de vous exprimer maintenant via cette petite fenêtre d'écoute que notre cher gouvernement nous ouvre pour essayer de nous amadouer afin d'éviter que nous rejetions son rêve d'un monde technocratique artificiel contrôlé par les machines. On a vu ce que cela a donné avec le système de paye Phoénix! Imaginez ce genre de cafouillage permanent pour tout ce qui touche aux aspects les plus essentiels de nos vies, de nos famille, de notre santé, de notre liberté...
Date limite pour envoyer vos observations: 13 mars 2020.
* Pour développer votre réflexion sur le vaste sujet des humains augmentés, ou transhumanisme, les quelques textes suivants vous sont suggérés...
De l’humain augmenté au posthumain
La littérature sur le transhumanisme, parfois aussi nommé posthumanisme, est foisonnante. On voit s’y opposer d’un côté des technoenthousiastes et de l’autre des technosceptiques, ou, comme on les appelle aussi aux États-Unis, des bioprogressistes et des bioconservateurs. La double référence à la technique et à la biologie est intéressante, car il s’agit effectivement du projet de changer l’être humain au moyen de technologies, ressortissant les unes aux disciplines biomédicales (médicaments, génie génétique), les autres aux sciences de l’ingénieur (dispositifs électriques et magnétiques, interfaces cerveau-machine, implants électroniques). À partir de cette opposition se dessine l’image de deux êtres humains, ou plutôt d’un être humain et d’un être posthumain, décrits de manière contrastée. Le premier, celui que l’évolution naturelle a peu à peu façonné, n’hésite certes pas à s’améliorer et à se perfectionner, mais il compte pour cela sur ses facultés naturelles, y compris lorsqu’elles sont collectivement organisées comme dans l’éducation et la politique, ainsi que sur la création d’outils; il refuse toutefois de se transformer et de s’augmenter par les moyens biotechnologiques que j’ai mentionnés. Tendre au posthumain, c’est au contraire soutenir que la tâche de l’être humain actuel est de dépasser ce que l’évolution naturelle a produit, car elle n’est pas à même de réaliser ce à quoi l’humain contemporain aspire, vu sa lenteur. Pour certains transhumanistes, l’augmentation et le dépassement sont indispensables si nous voulons survivre au dérèglement climatique actuel, causé par le mode de vie de l’humain naturel (homo sapiens) mais à quoi ce même humain naturel est incapable de remédier, vu sa faiblesse cognitive et morale.
(...) Dans la littérature, on trouve toutefois de très nombreuses mises en garde concernant les risques tant physiques (p. ex. pour la santé) que moraux (p. ex. pour l’authenticité) que l’augmentation de nos capacités par des moyens biotechnologiques feraient courir à l’être humain. Ces moyens auraient le pouvoir de corrompre le sens de nos pratiques morales et sociales. Ainsi, le mérite et l’effort personnels ne pourraient plus être invoqués pour justifier nos réussites, la distinction entre le naturel et l’artificiel serait brouillée, nous perdrions le contact avec notre vrai moi ou notre moi profond, l’équité serait mise en danger par l’existence d’humains cognitivement dopés et la pression sociale à une amélioration compétitive nous priverait de notre autonomie.
(...) Réfléchir sur l’augmentation de l’être humain et sur le transhumanisme est en définitive l’occasion de réfléchir sur l’être humain, sur ce qui le rend humain et sur le caractère désirable ou non de préserver cette humanité et les limites qu’elle implique. Car l’humanité est une réalité naturelle, et comme toutes les réalités naturelles, elle oscille de manière ambiguë entre une fin à réaliser et un donné à parfaire et à dépasser.
Humanité 2.0 : la performance sans limites
En diffusion les mercredis à 22 h sur ICI Explora, la série Human +, le futur de nos sens illustre le puissant rapport entre l’humanité et la technologie. Avec les avancées fulgurantes de la biomécanique, certaines inventions permettent maintenant de retrouver des sens perdus et de repousser les limites des capacités humaines, un processus qui transforme peu à peu la société.
Les 10 principales tendances technologiques pour 2020
(...) La mise en œuvre de technologies et de processus d’augmentation humaine pose de graves problèmes d’éthique. Celles-ci incluent des considérations et des évaluations éthiques pour déterminer les vulnérabilités, les risques et les problèmes moraux spécifiques. Par exemple, la fracture numérique se creuse-t-elle au fur et à mesure que les individus nantis peuvent s’augmenter eux-mêmes et leurs enfants, alors que les moins nantis ne le peuvent pas ? Les réponses à ces questions sociétales deviendront de plus en plus importantes.
Les entreprises de tous types et de toutes tailles envisagent l’augmentation humaine pour obtenir divers résultats commerciaux grâce à de nombreux scénarios d’utilisation commerciale avec des horizons temporels différents. Par conséquent, ils doivent prendre en compte les leçons, les recommandations et les principes de l'expérimentation humaine lorsqu'ils commencent intentionnellement à exploiter les capacités d'augmentation humaine pour la transformation humaine. Les entreprises doivent trouver un équilibre entre deux principes éthiques classiques — préventif et proactif — et adopter ce que Gartner appelle le « principe de précaution » :
Le principe de précaution stipule que « si une mesure ou une politique risque de causer un préjudice grave ou irréversible au public ou à l'environnement, en l'absence d'un consensus scientifique selon lequel il n'y aurait pas de préjudice, la charge de la preuve incombe à ceux qui prennent cette mesure ».
Le principe pro-actionnaire a été formulé par Max More et constitue un principe fondamental du mouvement transhumaniste. Lorsqu'il s'agit d'imposer des mesures restrictives, il présente plusieurs impératifs : « Évaluer les risques et les opportunités en fonction des données scientifiques disponible et non de la perception populaire. Tenir compte à la fois du coûts des restrictions elles-mêmes et des opportunités manquées. Privilégier les mesures proportionnelles à la probabilité et à l’ampleur des impacts et qui ont une valeur d’attente élevée. Protéger la liberté des gens de faire des expériences, d’innover et de progresser. »
Le principe de précaution établit un équilibre entre le principe de précaution et le principe proactif. Il recommande que les organisations aillent de l'avant avec l'innovation, mais uniquement d'une manière qui ne met pas en danger l'individu, l'entreprise ou l'environnement dans son ensemble.
D'autres articles via Humains augmentés
Les humains augmentés, sujets du bio-droit
À l’heure où certains envisagent le transhumanisme comme un nouvel âge de l’humanité grâce aux technosciences, l’impression d’une absence de contrôle domine. Quelques expériences scientifiques spectaculaires, à la limite du fait-divers, confortent cette impression, témoin l’affaire des enfants génétiquement modifiés en Chine. Est-ce à dire que la voie pour augmenter l’être humain est totalement libre ? Serons-nous bientôt tous des cyborgs ? Répondre d’emblée positivement reviendrait à oublier un peu vite que le droit délimite la marche du progrès et prohibe certaines pratiques. Censeur de l’hubris technoscientifique contemporaine, il érige même en infractions certains comportements contraires à l’éthique médicale.
(...) Un droit plutôt hostile à l’amélioration de l’espèce humaine
Bien qu’il accepte certaines pratiques anthropotechniques à l’échelle individuelle, le droit semble plutôt défavorable à l’amélioration de l’espèce dans son ensemble. Divers indices révèlent cette position. Un premier signe est la prise en compte légale de l’intégrité de l’espèce humaine. L’article 16-4 du code civil prohibe expressément les atteintes à l’intégrité de l’espèce humaine, l’eugénisme, le clonage et les transformations des caractères génétiques visant à modifier descendance d’une personne. Le message est clair : l’espèce humaine ne doit pas être modifiée. Un deuxième indice est l’incrimination des crimes contre l’espèce humaine comme le clonage reproductif et l’eugénisme qui sont punis de trente ans de réclusion criminelle et de 7500000 euros d’amende. Un troisième indice repose sur la prise en compte émergente des générations futures à l’égard desquelles les générations actuelles auraient des responsabilités. Bien que la normativité de ce concept soit encore incertaine, il pourra peut-être servir à empêcher la modification de l’espèce humaine.
En définitive, on a sans doute trop tendance à oublier le rôle du droit dans l’évolution sociale. À tous ceux qui ont l’impression que notre société est dépassée par le fait biotechnologique, on peut rappeler que les juristes tentent de veiller sur les droits fondamentaux des individus et sur l’intégrité de l’espèce humaine, quitte à se transformer en éthiciens.
