Dans son numéro de juin 2019, le magazine Agir, une publication d’Amnistie Internationale, a consacré une dizaine de pages à un dossier sur l’Intelligence artificielle (IA). Un dossier dont on retient ce portrait sans ambiguïté : le développement de l’IA a un côté positif et un côté négatif.
L’IA va continuer d’élargir nos horizons, notamment avec une panoplie des moyens technologiques pour documenter les abus des droits humains, mais elle a un côté négatif qui, lui, ne devrait pas nous laisser indifférents. Avec le côté invasif et déshumanisant du numérique, ce n’est pas comme si nous en étions encore devant les simples risques liés à des consommations irresponsables. Nous en sommes au point où des actions collectives doivent être menées pour nous assurer de négocier avantageusement ce tournant de l’humanité.
Qu’est-ce que l’intelligence artificielle?
Les textes sur l’Intelligence artificielle n’ont pas cessé de se multiplier ces dernières années. Mais leurs auteurs semblent peu intéressés à la définir, tenant comme prioritaire l’explicitation des idées et des espérances qui animent ses protagonistes. Depuis que l’ordinateur Deep Blue a battu aux jeux d’échecs le champion du monde Gary Kasparov et que le système Expert d’IBM, Watson, a gagné les humains au jeu télévisé Jeopardy, on s’est mis à rêver de machines intelligentes totalement indépendantes, de machines aux neurones artificiels qui atteindront un niveau de conscience tel qu’elles pourront se passer de l’homme et le surpasser.
Les recherches en IA tiennent leur impulsion de ces projections et de l’enthousiasme des géants du numérique prêts à les financer à coup de milliards. Grâce à l’IA, cette discipline née après la Seconde Guerre mondiale, la machine programmée peut penser plus vite qu’un humain; elle a rendu possible la fabrication des machines à fabriquer d’autres machines; elle développe des algorithmes qui «apprennent» à partir de nos comportements. Et, dans la mesure où tout son succès dépend de la multitude humaine prête à interagir avec des machines, ce sont des humains qui deviennent les cobayes, les «idiots utiles»(selon l’expression de Laurent Alexandre, l’auteur de La guerre des intelligences), qui alimentent la machine sans en être conscients. L’enthousiasme et l’ampleur des subventions ont fait dire aux corporations que les machines finiront par être totalement autonomes, c’est-à-dire conscients, qu’on pourra nous vendre jusqu’à notre immortalité, en tout cas une certaine forme d’immortalité.
Des profits, mais pas que des profits
Parmi les craintes que suscite le développement de l’IA, il y a l’assujettissement de l’humain à la machine étant donné le potentiel actuel à fabriquer des robots autonomes. Des drones sont utilisés aujourd’hui pour tuer par la volonté de ceux qui les lancent. Cela ne fait qu’annoncer des machines autonomes (de l’IA forte) à tuer de demain.
L’IA n’est pas seulement dangereuse par la manière qu’elle peut nuire aujourd’hui : par des logiciels espions comme Pegasus pour museler la dissidence politique, par une technologie de reconnaissance faciale pour des fins de profilage racial, par des dispositifs divers qui portent atteinte à la vie privée et autres libertés. Elle sera plus dangereuse encore si l’humanité n’est pas assez préparée à son avènement.
Bien entendu, ils sont innombrables les gains pour l’humanité liés au développement de l’IA : l’accès à des informations de terrain géoréférencées qui rend possible, entre autres, la documentation de nombreux crimes, des enquêtes exhaustives sur la situation des droits humains dans une région. Amnistie internationale a évoqué, entre autres, l’efficacité dans la recherche sur les massacres grâce à ses décodeurs « repéreurs de frappes aériennes » et ses fameuses « Patrouilles de trolls » qui permettent d’identifier des violences en ligne. De nombreux avantages de l’IA ont été inventoriés dans le domaine de la médecine, notamment le pouvoir de détecter l’emplacement et le développement des cellules cancéreuses à une célérité à faire rêver. Elle est en train de développer un énorme potentiel pour anticiper des accidents dus aux maladies cardiaques.
Mais, c’est ce même développement qui laisse envisager des possibilités innombrables d’abus et fait émerger d’importants enjeux éthiques. Les compagnies informatiques devenues d’énormes puissances continuent de vendre des outils d’espionnage en ligne à des gouvernements y compris les plus répressifs. Des cyberattaques ou des menaces en ligne via des logiciels comme Malware, Spyware ou phishing se sont démultipliées. Les gens se trouvent constamment piégés à travers leurs appareils branchés, comme l’explique Agir à partir de quelques cas de figure. Vous recevez un message WhatsApp qui comprend un lien, vous cliquez dessus et vous venez d’installer le logiciel Pegasus qui prendra le contrôle de votre appareil. StealthAgent est un logiciel spyware Android récemment détecté; il intercepte des appels téléphoniques, des messages, vole des images et fait des suivis de vos emplacements successifs.
Les avantages que nous observons ne devraient pas nous attendrir…Nous courons des risques majeurs si nous laissons agir seuls ces empires que sont Google, Apple, Facebook, Amazon (GAFA); Badu, Alibaba, Tencent et Xiaomi (BAT-X).
Face à la cybercensure, la surveillance de masse, les campagnes de cyberattaques, des algorithmes qui peuvent servir à la discrimination et à la manipulation vidéo, les responsables d’Amnistie internationale plaident pour un code d’éthique et un encadrement efficients du développement de l’IA qui pourraient faire en sorte de « mettre les droits humains au cœur du développement et du déploiement des technologies d’apprentissage automatique ».
Des défis nombreux pour notre culture de la paix pointent à l’horizon.
À moins de considérer comme infondé notre sentiment d’insécurité face à toutes ces mutations pour lesquelles nous n’avons pas eu notre mot à dire, nous devrions reconnaître l’urgence d’un débat de société. Les questions les plus urgentes étant : le nouveau rôle de l’État et des parlementaires, le transhumanisme comme choix de société, l’éducation pour notre jeunesse.
