Skip to main content

Cookies and Privacy

We use cookies to improve your experience on our website. To find out more, read our updated Cookie policy, Privacy policy and Terms & Conditions

afriedman17_Matjaz Slanic Getty Images_brainwavesmindreaddata Matjaz Slanic/Getty Images

L’émergence par étapes d’un monde dystopique

NEW YORK – Il est couramment admis que l’avenir de l’humanité sera un jour menacé par l’essor de l’intelligence artificielle (IA), peut-être sous la forme de robots malveillants. Pourtant, alors que nous entrons dans la troisième décennie du millénaire, ce n’est pas cette singularité technologique que nous devons craindre, mais plutôt un ennemi bien plus ancien : nous-mêmes.

À cet égard, nous devons plus penser au film Minority Report qu’à Terminator.

Nous développons rapidement une technologie littéralement capable de lire les pensées, sans qu’il n’existe le moindre cadre pour la contrôler. Imaginons un instant que les êtres humains aient évolué de façon à pouvoir lire dans les pensées des autres. Quelles en auraient été les conséquences ?

Pour répondre à cette question, réfléchissez à vos propres dialogues internes. On peut supposer sans risque que chacun d’entre nous a eu des pensées qui auraient été choquantes même (ou surtout) pour ceux et celles qui nous sont le plus proches. Comment auraient pu réagir des individus malintentionnés en étant capables de percevoir les délires émotionnels qui nous traversent parfois l’esprit ? Auraient-ils fait preuve de discernement, les jugeant comme de simples états d’âme ? Ou certains d’entre eux auraient-ils réagi avec opportunisme, profitant de pensées que nous aurions préféré ne pas dévoiler ?

L’évolution n’a pas permis que nous puissions lire les pensées d’autrui parce que ce pouvoir aurait pu signifier la fin de notre espèce. À mesure que nos lointains ancêtres se sont organisés en groupes pour leur protection, la plupart de nos congénères ont appris ce qui pouvait être dit et ce qu’il valait mieux passer sous silence. Au fil du temps, ce discernement est devenu un trait humain hautement évolué qui a permis la formation de sociétés, l’émergence des villes et même d’embarquer des centaines de personnes stressées dans des engins volants, sans qu’elles n’attaquent, d’ordinaire, leurs voisins de siège. Ce trait comportemental est un élément central de ce que nous appelons aujourd’hui l’IE, ou l’intelligence émotionnelle.

Et pourtant la technologie commence aujourd’hui à menacer de manière fondamentale cette nécessaire adaptation évolutive.

Subscribe now
Bundle2020_web

Subscribe now

Subscribe today and get unlimited access to OnPoint, the Big Picture, the PS archive of more than 14,000 commentaries, and our annual magazine, for less than $2 a week.

SUBSCRIBE

Les réseaux sociaux ont été la première étape de ce processus, comme l’a mis en évidence la manipulation de Facebook par la Russie pour influer sur l’élection présidentielle américaine de 2016. Et Twitter, qui permet à un utilisateur de publier sans trop y réfléchir une pensée ou une émotion fugace qui peut être partagée par des millions de personnes, amplifie cette tendance. Imaginez la difficulté qu’a du avoir le régime nord-coréen à interpréter le tweet du président américain Donald Trump le menaçant « du feu et de la colère » nucléaire. S’agissait-il d’une réelle menace émanant d’un dirigeant nouvellement élu et imprévisible, ou d’une simple éructation impulsive, d’un raptus sans filtre qu’il convenait d’ignorer ? À l’époque du monde bipolaire dominé par deux superpuissances, le fameux téléphone rouge reliant le Kremlin et la Maison-Blanche avait été installé afin de permettre aux parties de clarifier leurs intentions et éviter qu’un quelconque malentendu provoque un conflit nucléaire et l’annihilation de la planète.

Aujourd’hui, dans un monde multipolaire bien plus complexe et confronté à des menaces asymétriques, les réseaux sociaux offrent un mégaphone géant et non censuré à quiconque souhaite s’en servir. Alors que ces réseaux sociaux sont devenus un outil qui peut saper la démocratie, ils ne sont qu’un jeu d’enfant par rapport à ce qui nous attend au tournant.

Un large éventail d’entreprises, des start-ups à des conglomérats multinationaux, ont récemment annoncé des innovations étonnantes qui permettent de lire les pensées. La société Neuralink d’Elon Musk a demandé l’autorisation de l’autorité américaine compétente pour tester sur des êtres humains un implant cérébral capable de capter les pensées de l’utilisateur. Nissan a mis au point une technologie appelée Brain-to-Vehicule qui saisit l’activité cérébrale du conducteur pour anticiper les actions et faciliter la conduite. Facebook a de son côté financé des recherches sur un système capable de traduire les impulsions électriques du cerveau en mots. Un article récemment publié dans la revue scientifique Nature Communications décrit comment l’IA peut décoder en temps réel un petit ensemble de mots et de phrases via des algorithmes analysant l'activité cérébrale. Enfin, des chercheurs de l’université Columbia ont également développé une interface cerveau-machine qui analyse l'activité neuronale pour déterminer les désirs d’un utilisateur et les exprimer au moyen d’un synthétiseur.

De toute évidence, ces progrès peuvent présenter de réels avantages, par exemple en assistant les personnes paralysées ou souffrant de troubles neurologiques. Des premiers modèles de neuroprothèses, comme les implants cochléaires, qui permettentà des personnes sourdes d’entendre, ou des appareils prometteurs qui rendraient la vue aux aveugles, sont déjà utilisés.

Des applications potentielles nettement plus inquiétantes sont toutefois probables, comme permettre aux annonceurs d'adapter très précisément leurs offres aux désirs non exprimés des individus, ou aux employeurs d’espionner leurs salariés, ou à la police de pister à grande échelle les éventuelles intentions criminelles des citoyens, à l’instar de la vidéosurveillance exercée aujourd’hui sur les Londoniens. Un signal d’alerte précoce est ToTok, l’une des applications de messagerie la plus téléchargée dans le monde, qui comme il a été révélé récemment, est en fait un logiciel espion mis au point par le gouvernement des Émirats arabes unis pour espionner ses utilisateurs. Et que ce passerait-il si des dispositifs de capture de la pensée étaient piratés ? Il est difficile d'imaginer un domaine de la confidentialité des données plus pertinent que celui qui existe dans le cerveau humain.

Elon Musk estime que les interfaces cerveau-machine sont nécessaires pour permettre aux humains de suivre le rythme de développement de l’IA. Cela nous ramène à la terrifiante nouvelle de science-fiction de Philip K. Dick, « The Minority Report » (ou Rapport minoritaire), adaptée au cinéma en 2002. Il faut prendre en considération la myriade de délicates implications éthiques, juridiques et sociales d'un policier qui empêche un crime avant qu'il ne se produise parce qu'il pourrait « évaluer » l'intention probable d'un individu en lisant ses ondes cérébrales. À quel moment un crime est-il commis ? Quand la pensée prend forme ? Quand les actes concrétisant la pensée sont mis en œuvre ? Quand l'arme est pointée ? Lorsque le doigt se resserre sur la gâchette?

L’un des principaux défis de l’innovation technologique est qu’il faut généralement beaucoup de temps à la société pour l’assimiler, pour comprendre les implications au sens large de la manière dont ces nouvelles technologies peuvent être utilisées, à bon escient ou abusivement, et pour adopter un cadre juridique et réglementaire adéquat codifiant leur utilisation.

Au cours de la deuxième décennie de ce millénaire, les réseaux sociaux se sont transformés d’un outil de mise en relation des individus en des plateformes détenant un immense pouvoir et capables de répandre des fausses informations et de manipuler des élections. La société s’efforce aujourd’hui de comprendre comment exploiter le meilleur de cette innovation, tout en atténuant le risque d'abus. Il se peut, avant même que nous ayons défini ce cadre, que la troisième décennie du millénaire nous confronte à des défis technologiques bien plus lourds de conséquences.

https://prosyn.org/u60ZeBOfr;
  1. guriev24_ Peter KovalevTASS via Getty Images_putin broadcast Peter Kovalev/TASS via Getty Images

    Putin’s Meaningless Coup

    Sergei Guriev

    The message of Vladimir Putin’s call in his recent state-of-the-nation speech for a constitutional overhaul is not that the Russian regime is going to be transformed; it isn’t. Rather, the message is that Putin knows his regime is on the wrong side of history – and he is dead set on keeping it there.

    3