23

La promesse de machines éthiques

STORRS, CONNECTICUT – La perspective d’une intelligence artificielle (IA) soulève depuis bien des années un certain nombre de questions éthiques complexes. L’accent est le plus souvent placé sur la question de savoir comment les êtres humains, créateurs de machines, peuvent et doivent faire usage des robots les plus avancés. Le débat néglige ainsi cet aspect majeur que constitue la nécessité de concevoir une éthique au niveau des machines elles-mêmes, ainsi que de donner à ces machines les moyens de résoudre les éventuels dilemmes éthiques qui pourraient se présenter à elles. Ce n’est qu’à cette condition que les machines intelligentes pourront fonctionner de manière autonome, et prendre des décisions éthiques dans le cadre des tâches qu’elles accompliront, le tout sans intervention humaine.

Il est bien des activités que nous aimerions pouvoir entièrement déléguer à des machines au fonctionnement autonome. Les robots sont capables d’effectuer des tâches extrêmement risquées, ou particulièrement déplaisantes. Ils peuvent combler certains vides sur le marché du travail. Ils peuvent également assurer certaines missions hautement répétitives ou axées sur d’infimes détails – autant de tâches auxquelles les robots sont plus adaptés que les êtres humains.

Personne n’est cependant tout à fait à l’aise avec l’idée que les machines puissent agir en toute indépendance, sans un cadre éthique permettant de les guider (Hollywood a su avec brio mettre en lumière ces risques au fil des années). C’est pourquoi il nous faut exercer les robots à l’identification et à l’évaluation des aspects précisément éthiques d’une situation donnée (tels que l’existence de bienfaits ou de préjudices potentiels pour un être humain). Il nous faut ainsi inculquer aux machines le devoir d’agir de manière appropriée (c’est-à-dire de maximiser ces bienfaits et de minimiser ces préjudices).

Bien entendu, en situation réelle, plusieurs caractéristiques éthiques pertinentes – et devoirs s’y rattachant – peuvent intervenir et entrer en contradiction. Il s’agirait ainsi de venir en aide aux machines en relativisant chacun de leurs devoirs en fonction du contexte : important mais pas absolu, par exemple. Ainsi, dans certaines circonstances, une mission a priori vitale pourrait être supplantée par un autre devoir.

Pour que la machine puisse effectuer de tels choix, la clé consisterait à lui permettre de passer outre certains des principes éthiques qui lui ont été inculqués avant qu’elle se mette au travail. Équipées d’un tel point de vue critique, les machines pourraient alors gérer correctement des situations non anticipées, voire être capables de justifier leur décision.

Les principes à inculquer à une machine dépendraient dans une certaine mesure de la tâche lui incombant. Un robot de recherche et de sauvetage, par exemple, dans le cadre de sa mission consistant à sauver un maximum de vies humaines, devra être en mesure de comprendre comment se fixer des priorités, sur la base d’interrogations telles que le nombre de victimes localisées dans une zone donnée, ou la probabilité que ces victimes survivent. Or, ces considérations ne s’appliqueraient pas à un robot utilisé en gérontologie et chargé de prendre soin d’une personne en particulier. Il serait davantage nécessaire d’inculquer par exemple à ce robot le respect de l’autonomie de la personne qu’il est chargé d’assister.

Nous ne devons œuvrer pour un fonctionnement autonome de machines qu’au sein des domaines dans lesquels un consensus existe parmi les éthiciens quant à ce qui constitue un comportement acceptable, sans quoi nous risquons d’entraver la possibilité pour quelque machine que ce soit de fonctionner de manière autonome.

Mais nous ne devons pas nous en remettre aux seuls éthiciens. Bien au contraire, le développement des machines exigera des recherches par nature interdisciplinaires, fondées sur un dialogue entre les experts de l’éthique et les spécialistes de l’IA. Pour réussir, chacun des deux camps devra apprécier l’expertise – et les besoins – de l’autre.

Les chercheurs du domaine de l’IA doivent accepter que l’éthique constitue un domaine philosophique à part entière, étudié depuis de nombreuses années et s’étendant bien au-delà de simples intuitions profanes. Le comportement éthique n’implique pas seulement que nous nous interdisions certaines choses, mais également que nous en accomplissions certaines autres afin d’améliorer notre univers. Or, jusqu’à présent, la détermination et l’appréhension des problématiques éthiques liées aux machines se limite principalement à une démarche d’ « abstention », qui interdit aux machines de se livrer à un comportement inacceptable sur le plan de l’éthique, bien souvent au prix d’une limitation inutile de leurs comportements et domaines de déploiement possibles.

De leur côté, les experts de l’éthique doivent comprendre que la programmation d’une machine exige une précision considérable, ce qui leur imposera de parfaire leur approche face aux débats éthiques, possiblement dans une mesure inhabituelle. Il leur incombe également de s’impliquer davantage au contact des applications concrètes de leurs travaux théoriques, ce qui pourrait avoir pour avantage de faire progresser l’étude de l’éthique.

Plus largement, cet effort de conception d’une éthique au niveau des machines nous permettrait d’amorcer un nouveau départ dans la détermination des principes à employer lorsqu’il s’agit de résoudre des dilemmes éthiques. Puisque nous réfléchissons aux comportements des machines, nous pouvons nous montrer plus objectifs dans l’analyse des principes éthiques que nous le serions dans nos débats sur le comportement humain, même si nous découvertes en la matière doivent pouvoir s’appliquer également à l’être humain.

En effet, nous ne serons pas enclins à inculquer aux machines certains comportements extraordinairement complexes chez l’être humain, tels que le fait de favoriser notre propre intérêt, ou celui de notre groupe. Nous exigerons plutôt que les machines traitent chaque individu avec respect. Ainsi faut-il s’attendre à ce que les machines se comportent de manière plus éthique que la plupart des êtres humains, et fassent office de modèles positifs pour nous tous.

La possibilité d’une éthique au niveau des machines ne représente pas une menace pour l’humanité. Bien au contraire, les machines pourraient se révéler immensément bénéfiques, non seulement en travaillant pour nous, mais également en nous montrant le comportement à suivre si nous entendons survivre en tant qu’espèce.

Traduit de l’anglais par Martin Morel