pandora's box Hulton Archive/Getty Images

Un avertissement sur l'IA issu de la Grèce antique

STANFORD — Dans les discussions sur les conséquences de l'intelligence artificielle (IA), on évoque presque toujours l'ancien mythe grec de la boîte de Pandore. Dans la version moderne de cette histoire, Pandore est représentée comme une jeune femme à la curiosité tragique, qui ouvre une urne scellée et libère par inadvertance les maux éternels de l'humanité. Comme le génie échappé de sa lampe, comme le cheval qui a fui la grange ou comme le train qui a quitté la gare, ce mythe est devenu un cliché.

Et pourtant la véritable histoire de Pandore est beaucoup plus pertinente relativement aux débats sur l'IA et à l'apprentissage machine qu'on ne l'imagine habituellement. Ce qu'elle nous montre, c'est qu'il vaut mieux écouter les « Prométhéens » qui s'inquiètent de l'avenir de l'humanité que les « Épiméthéens » qui sont facilement éblouis par la perspective de gains à court terme.

Un des plus anciens mythes grecs, l'histoire de Pandore a été trouvée la première fois il y a plus de 2500 ans, à l'époque d'Homère. Dans sa version originale, Pandore n'était pas une jeune fille innocente qui a succombé à la tentation d'ouvrir un vase interdit. Plutôt, comme nous l'enseigne le poète Hésiode, Pandore fut « fabriquée, plutôt que née. » Ayant été commandée par Zeus tout-puissant et conçue selon ses cruelles caractéristiques par Héphaïstos le dieu de l'invention, Pandore était une androïde d'apparence réaliste, créée pour ressembler à une jeune fille. Son but était de piéger les mortels en tant que manifestation du kalos kakon : « un mal caché dans la beauté. »

Le nom de Pandore signifie « tous les cadeaux » et tient compte du fait que tous les dieux ont contribué à sa composition. Après sa création dans la forge d'Héphaïstos, Hermès a escorté la ravissante jeune « femme » sur terre et l'a présentée comme épouse à Épiméthée. Sa dot fut l'urne fatidique scellée contenant d'autres « cadeaux ».

Épiméthée était le frère de Prométhée, le Titan rebelle qui avait défendu - et qui d'après certains récits, avait créé - l'humanité. Prométhée s'inquiétait de la vulnérabilité évidente des humains. Il avait donc enseigné aux hommes et aux femmes la manière d'utiliser le feu et d'autres outils de façon responsable. Mais cela irrita Zeus, un tyran impitoyable qui conservait jalousement un accès exclusif à des technologies formidables. Pour le punir, Zeus attacha Prométhée à un rocher et lui envoya son aigle à apparence de drone - également forgé par Héphaïstos - pour qu'il se nourrisse de son foie.

Quant à elle, Pandore a été délibérément conçue pour punir l'humanité avoir accepté le don du feu de la part de Prométhée. Essentiellement une séduisante IA fembot, elle n'avait pas de parents, aucun souvenir d'enfance, ni émotions d'aucune sorte, ne vieillissait pas ni ne devait mourir. Elle fut programmée pour une mission malveillante : s'insinuer dans un cadre terrestre puis ouvrir l'urne.

Subscribe now

For a limited time only, get unlimited access to On Point, The Big Picture, and the PS Archive, plus our annual magazine and a tote bag, for just $75.

SUBSCRIBE

Mais l'histoire ne s'arrête pas là. Comme nous le dit Platon, le nom de Prométhée signifie « prévoyance », car il était toujours tourné vers l'avenir, contrairement à son frère insouciant Épiméthée, dont le nom signifie « recul ». Comme étant le plus rationnel et à juste titre le plus paranoïaque des deux, Prométhée a essayé de mettre en garde son frère de ne pas accepter le cadeau dangereux de Zeus. Mais Épiméthée fut charmé par Pandore et l'a imprudemment accueillie dans sa vie. Ce n'est que plus tard qu'il s'est aperçu de sa terrible erreur.

L'image populaire de Pandora abasourdie d'effroi devant le nuage des maux sortant de l'urne est bien une invention moderne. De même que l'image écœurante de l'Espoir, émergeant la dernière du vase pour apaiser les âmes des hommes. Dans les restitutions grecques classiques, Pandore est dépeinte comme un automate astucieux : sa plus célèbre peinture sur vase montre une jeune femme se tentant debout, raide, avec un sourire étrange.

En outre, dans l'antiquité, l'Espoir était personnifié sous les traits une jeune femme nommée Elpis, et représentait en général le manque de prévoyance. Plutôt que d'une bénédiction, Espoir manifestait l'incapacité d'envisager l'avenir ou de choisir judicieusement parmi des résultats éventuels : elle représentait un vœu pieux, pas l'optimisme essentiel à la vie. Et pour les Grecs, elle était juste une autre manifestation du kalos kakon : un beau mal qui s'était déchaîné sur les humains. Ainsi, au moins un artiste de l'Antiquité a représenté Elpis/Espoir, un peu comme Pandore, avec un sourire en coin.

Alors que l'IA/apprentissage machine se transforme rapidement en une technologie de la « boîte noire », le symbole de l'urne scellée de Pandore a pris un nouveau sens. Bientôt, la logique de fonctionnement de l'IA des systèmes de prise de décisions sera impénétrable non seulement à leurs utilisateurs, mais également à leurs concepteurs. Parmi les autres menaces, la possibilité que des systèmes d'IA soient piratés par des acteurs aux mauvaises intentions, ou déployés par des terroristes et des tyrans, se rapproche à présent dangereusement.

Quand le fondateur de Facebook, Mark Zuckerberg, Andrew McAfee du MIT, Lili Cheng de Microsoft et d'autres optimistes de l'IA nous assurent que l'IA va apporterd'importants bénéfices, on ne peut s'empêcher de penser à Épiméthée et Elpis. Doit-on vraiment faire confiance à l'humanité pour régler et dépanner les problèmes posés par l'IA quand ils se présenteront ?

Il semble plus sage d'écouter les penseurs prométhéens modernes comme feu Stephen Hawking, le fondateur de Microsoft Bill Gateset les 115 autres leaders en technologie qui en 2017 se sont prononcés sur la menace d'une IA militarisée et de la robotique. « Il ne nous reste pas beaucoup de temps pour agir, ont-ils averti. « Une fois cette boîte de Pandore ouverte, elle sera difficile à fermer. » En outre, ces préoccupations des Prométhéens ont été relayéespar le co-fondateur de Google Sergey Brin et par des éthiciens de l'IA comme Joanna Bryson et Patrick Lin, qui ont mis en gardecontre l'acceptation imprudentedes « cadeaux » de l'IA, avant de déterminer la manière de les contrôler.

Les récents sondagessuggèrent que l'optimisme sur les avantages potentiels de l'utilisation de l'IA ont diminué de façon drastiqueparmi ceux qui développent effectivement les systèmes d'IA. Une compréhension sur le fonctionnement de l'IA semble se corréler avec des attentes plus réalistes. Plutôt qu'une espérance aveugle, une prévision fondée sur la connaissance et l'expérience devraient guider notre manière de gérer l'avenir de cette technologie ainsi que notre relation par rapport à elle.

http://prosyn.org/LeIuldK/fr;

Cookies and Privacy

We use cookies to improve your experience on our website. To find out more, read our updated cookie policy and privacy policy.