Genève, 23 avril

En lien avec la page Sciences des 22-23 avril,  je vous envoie de quoi méditer au sujet des fameuses lois de la robotique, formulées par Isaac Asimov (1920-1992). Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger. Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi. Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi.

Malgré les apparences laissant penser que ces lois sont pleines de sagesse et intelligemment conçues, elles sont, à mon avis, une abomination et ne peuvent à long terme que mener à une société cauchemardesque. La seule loi qu’un robot se doit de suivre est d’obéir à tout être humain en toutes circonstances, et dans le cas où il recevrait des ordres contradictoires concernant la vie ou la mort d’une personne, se mettre en pause dans l’attente d’une décision des autorités judiciaires. La raison en est simple.

Prenons par exemple le cas où une épidémie comme le Covid menacerait les populations. La première loi obligeant à la non-passivité face au danger va amener le robot à vacciner tout être humain croisant son chemin. La deuxième loi empêchera tout être humain de donner un contre-ordre dans le cas où il ne voudrait pas être vacciné, car un refus sera perçu par la logique comme contredisant la première loi, le robot ne pouvant pas rester passif face à une menace et devant protéger l’être humain. La seule solution restant étant de mettre hors fonction le robot se verra rendue impossible par la troisième loi et sera perçu comme une menace empêchant l’application de la première loi. Ce processus s’apparente à une dictature, et sa finalité pour un risque zéro pour la population, c’est l’univers de Matrix.

Ce qui m’effraie le plus dans toutes formes de lois que l’on pourrait donner à des robots, ce sont tous les cas de figure auxquels on n’a pas pensé et leurs conséquences. Je pense donc qu’une extrême prudence s’impose si l’on ne veut pas se trouver piégé un jour dans un cercle vicieux duquel il sera impossible de sortir. La question est de savoir ce que nous voulons au centre du système décisionnaire. Jamais une machine ne pourra intégrer des notions telles que l’amour ou la compassion, et personnellement, je ne voudrais pas que des décisions importantes concernant ma façon de vivre, mes droits et mes devoirs, soient prises par une autorité dénuée de cœur.

Apostoli Stangakis

Vous avez trouvé une erreur?Merci de nous la signaler.