Ainsi parlaient les Auteurs de Dystopies

Do Androids Dream of Electric Sheep? Ce ro- man dystopique classique (Philipe K. Dick, 1966) poserait-il la question de l’existence de l’inconscient chez les robots? Sans vouloir spoiler l’article qui suit, je vais déjà vous dire que je n’y crois pas, l’inconscient c’est (presque) la défini- tion de ce qui nous rend humain. Alors qu’est que ce programme, qui fait que les robots nous ressemblent ? J’ai une idée, je ne suis pas sûr que ce soit tout à fait juste, mais je peux vous la proposer aujourd’hui et vous me direz ce que vous en pensez…

Je crois que le premier film que j’ai vu avec les robots (plus ou moins intelligents) c’était TERMINATOR, ce robot qui devient de plus en plus humain en traînant avec John Connors et son fils, qui est lui même le père… mais bref, ce robot apprend au fur et à mesure à réagir comme un humain, ce qui le rend plus sympathique d’ailleurs. Mais les limites sont très facilement visibles, terminator est un programme qui exécute des tâches et qui assemble des données pour mieux s’adapter aux actions qu’il doit accomplir, est-ce comme ça qu’est définie l’intelligence artificielle ? Je ne sais pas.

L’autre film qui a marqué mon enfance a été BLADE RUNNER, l’adaptation du livre Les Androïdes rêvent-ils de moutons électriques ? Dans cette histoire nous suivons Rick Deckard joué par Harrison Ford, qui dit reconnaître si un robot essaye de se faire passer pour un humain. C’est à travers des machines que le sergent – chasseur de robots – détecte des indices sur l’inhumanité mais c’est seulement son intelligence personnelle qui prend la décision finale, car même la machine ne peut pas détecter une autre machine… les machines humanoïdes dans le film ont été créés pour travailler dans des environnements hostiles aux humains, mais pour ne pas qu’elles ne prennent trop de pouvoir elles ont une date de péremption, une obsolescence programmée. Dans cette histoire fictionnelle l’auteur vient finalement recréer un inconscient synthétique chez les robots.

Ce que je trouve intéressant c’est donc ce que l’auteur veut nous faire passer comme message dans les dystopies. L’inconscient pour Ph. K. Dick est donc une série de souvenirs d’enfance qui viennent nous hanter de temps en temps, mais aussi une envie de vivre et de pouvoir transmettre ce que l’on a vécu à la génération suivante. Mais surtout tout au long de l’œuvre (le livre ou le film) nous emphatisons avec les robots, ils deviennent des personnages à part entière, des personnages presque humains ? Qu’est- ce qui fait que nous prêtons autant d’empathie à des machines qui réfléchissent avec des 0 et des 1 ? Rappelons-nous aussi de R2d2 et C-3PO ces « druides de protocole » dans la saga Star Wars qui devinent – le temps de quelques épisodes – nos amis. Ces robots humanoïdes n’ont pourtant pas formes humaines, mais ici les auteurs ont clairement positionné un esprit humain dans un corps de robot. La question de – quelle forme prend l’inconscient chez les robots ? – ici n’est pas posé. Le style de la science fiction permet de créer des personnages humains sous forme de robots. Alors que dans Blade Runner, le questionnement est différent : le personnage de Rachel se demande pourquoi elle a des souvenirs de son enfance alors qu’elle est un robot, et elle ne s’imagine même pas ne pas être humaine vu la complexité de sa pensée. L’auteur laisse la parole aux humanoïdes qui demandent « qu’est-ce qui fait qu’on est moins humains que vous ? »

Finalement les robots ne rêvent pas de moutons mais rêvent de moutons électriques. Ils rêvent oui mais un rêve autre. Un rêve artificiel ? Les IA tentent de construire une imitation de l’inconscient en fonction de la représentation des auteurs de fiction dystopique. Peut-on dire que la tentative de reproduction de la psyché humaine créer une forme d’inconscient numérique ? Si le rêve est la voix royale de l’inconscient (Freud, 1899, L’Interprétation des rêves), les rêves digitaux sont- ils un indice d’un inconscient numérique ? Non pas le même que l’humain, mais un inconscient bien particulier, entièrement créé par l’homme est qui permet à la machine de lui ressembler.

Car si nous partons du principe que la machine n’est pas vivante (cette hypothèse est quand même fortement probable) alors les auteurs de robots ne créecréent cet inconscient seulement pour que ces androïdes suggèrent de l’empathie face aux humains. Dans la scène finale (spoiler alerte) Roy Baty qui est le leader des répliquants renégats, raconte qu’en mourant, disparaissent avec lui tous ses souvenirs et expériences qu’il a vécu. Les robots de ce film sont des esclaves contemporains, peut-être la métaphore du travailleur des temps modernes de Chaplin ? Dans cette dystopie classique, les robots sont-ils représentatifs de la société de l’époque de l’écriture du livre?

Suite à quoi je me demande quelle est la représentation actuelle du robot dans les films ou séries dystopiques actuelles pour peut-être y entrevoir quelque chose de la société contemporaine. Dans la série Westworld le créateur de robot ajoute aux humanoïdes qu’il a construit un quelque chose en plus, oublié, mais pas complètement. Ces oublis reviennent de temps en temps sous forme de souvenir que l’auteur nomme : “rêveries” (le mot est utilisé en français dans la version originale). Ces moments refoulés reviennent sous forme d’angoisses et imprègnent la vie du robot. Est-ce cela qui le rend plus humain? Dans cette série les robots sont construits pour « divertir » les riches visiteurs du parc d’attraction WESTWORLD. Mais dans ce parc particulier, tout est permis, comme les personnages sont des robots, toutes les atrocités réprimées par des siècles de civilisation sont enfin autorisés. Alors que nos Androïdes rêveurs de moutons électriques étaient créés pour être de la main d’œuvre industrielle, les robots de Westword le sont ici pour être le support de la violence humaine.

Alors tout fonctionne bien dans ce parc des atrocités tant que les robots ont la mémoire qui est effacée tous les soirs, mais l’auteur de la série – à travers le personnage du créateur du parc – ajoute ces éléments qui reviennent même après que la mémoire ait étaient effacer.

L’auteur crée la révolution des robots, ceux qui se souviennent et qui veulent sortir de leur condition. Si cette série est encore une métaphore de la société qu’elle représente, que voudrait-elle nous dire ? Ce parc est construit pour que les personnes riches puissent assouvir le désir interdit dans la société sans condamnation possible et même peut-être sans culpabilité, alors nous pouvons imaginer que ces androïdes sont l’allégorie des citoyens dominés par les grandes compagnies du numérique ceux-là même qui voudraient nous transformer en robots oubliant. Mais tant qu’il y a de l’inconscient, et ses émergences, le libre arbitre humain ne pourra pas mourir.

La société peut nous proposer, tant qu’elle le veut, des objets de consommation allant jusqu’aux plus grandes profondeurs de ce que seraient nos fantasmes, la soumission volontaire a ses limites.

Lapsus Numérique #3 – « L’Amour 2.0 »

Edito par Théo LUCCIARDI

L’amour. Voilà une thématique à en faire rougir plus d’un. Qu’allons- nous chercher, dans notre cheminement contemporain, du côté de cette dimension de l’existence humaine si anciennement inscrite ? L’amour, ça ne se passe pas maintenant. Enfin, pas plus qu’avant. Et puis, pas plus qu’après. Ah oui ?
Une singularité viendrait alors de l’époque, dans une expérience de tout temps reconduite.
Nous nous aimons plus ? Nous nous aimons moins ? Non, c’est autre chose. L’amour prend les formes de son temps, et c’est bien ces formes – ces modalités – dont nous tâchons ici de témoigner.
Ainsi, séparés par un écran, les êtres aimants s’attirent. Il scrollent, ils swipent, à gauche, à droite, leur doigts suivent parfaitement la cadence. Une danse digitale. Algo-rythmée.
Permanente. Pourront-ils un jour se manquer, si ils sont toujours connectés ? Il paraît que maintenant, on peut même faire “ça” à distance, avec des objets qui reproduisent des pulsations d’untel, ou les contractions d’unetelle. Plus besoin de se rencontrer.
Y-a-t’il vraiment besoin d’un autre ? Si le Sujet se doit d’être auto-entrepreneur de lui-même, alors nul besoin de s’encombrer d’une variable difficilement ajustable. Autant ne pas prendre le risque. L’investissement pourrait ne pas être rentable, d’autant qu’il change avec le temps.
L’agir des corps ressemble alors à une prédation violente, où le plus fort aura la plus grosse part, et l’autre sera voué à le servir. Plus que normé, le sexe a trouvé sa logique. Fou celui qui ne s’y retrouve pas. Ou seul. C’est souvent la même chose.
Parce que Lapsus Numérique se revendique d’un engagement éthique qui se doit de faire acte, autrement dit d’entrer dans la danse, nous avons choisi d’emprunter une logique ternaire, celle qui apparaît comme la plus sûre pour nous faire entendre le dire des corps.
Dans un premier instant il nous faudra d’abord voir comment cette opération, où le 1+1 aurait un égal, semble illusoirement s’écrire dans notre vivre ensemble. Nous prendrons ensuite un moment pour comprendre de quoi ces coordonnées amoureuses actuelles sont l’effet. S’agit-il, somme toute, d’un leurre comme un autre, où le malentendu fondateur de la rencontre, l’erreur-sur-la-personne, se matérialise dans les chiffres du logiciel ?
Ou se pourrait-il que les enjeux soient plus grands ? Que cette modalité, cette forme de l’amour, n’en soit pas une mais son opposé ? Et quel discours serait assez efficace pour nous faire gober ça ?
Puis viendra le temps de conclure, comme souvent, sur les perspectives de subversion que nous offrent les arts, la poésie et la création. C’est en effet précisément à cet endroit que pourront se déployer dans toute leurs originalités les solutions contemporaines de l’équation.
Lectrice, lecteur, te voilà invité-e à valser avec nous.

Sexe Machina

Dans son sens le plus large, le robot est une machine conçue pour effectuer des tâches de manière plus ou moins autonome ; du plus simple manipulateur programmé au robot auto-décisionnel, l’éventail est large. Ainsi lorsque nous parlons de robots sexuels, il faut envisager la gamme du jouet vibrant le plus rudimentaire aux poupées dotées d’intelligence artificielle les plus perfectionnées.

Selon une enquête menée en septembre 2018 par Harris interactive, si les gens (45% des personnes interrogées) se disent plutôt curieux et enclins à utiliser des sextoys, amplificateurs d’orgasmes ou autres jouets connectés par curiosité ou afin de renouveler leurs pratiques sexuelles avec leurs partenaires, il n’en va pas de même concernant l’utilisation des sexdolls. 

En effet, ces poupées en silicone à la plastique parfaite (selon les critères de l’industrie pornographique, cela va de soi !) sont loin de faire l’unanimité. Elles déclenchent toute une série de controverses, de fantasmes et de peurs dans une vision dystopique du futur où les sexbots dotés d’intelligence artificielle remplaceraient nos partenaires humains et accroîtraient les solitudes.

Les inventions respectives des godemichets, des vibromasseurs ou de la poupée gonflable n’ont semble-t-il pas tué les rapports entre humains ; les machines ne sont pas parvenues en plusieurs décennies à détrôner le contact charnel. Pourquoi, alors, ces peurs à l’égard des sexbots ? Pour quelle raison  envisager le pire ?

La FFR (Foundation for Responsible Robotics) considère que « créer une représentation pornographique du corps féminin via une machine active fait de ce dernier une marchandise ». Le risque ici serait d’accroître les inégalités entre les sexes et d’alimenter le cliché de la femme objet selon K. Richardson, fondatrice de l’ONG « Campaign Against Sex Robots ». Cependant, les scandales sexuels qui éclatent dans différents milieux de la société et, de façon plus globale, la domination masculine installée depuis des millénaires nous font penser que l’humanité n’a pas eu à attendre les robots pour cela. 

Un tour d’horizon de différents points de vues scientifique, artistique ou journalistique ont mis en évidence plusieurs opinions et avis divergents. 

Pour les défenseurs de ces technologies, ces poupées « intelligentes » représentent des avancées à la pointe de l’innovation, précieuses pour la science ; mais relèvent également  d’enjeux financiers considérables. En effet, dans le cas où le succès serait au rendez vous, un marché très lucratif s’ouvrira dans le droit fil de celui de l’industrie pornographique. Citons pour l’exemple, Harmony et Henry, les deux derniers robots sexuels nés en 2018 dont le prix de vente s’élève tout de même à 13 000 € environ. 

Un autre argument récurent en faveur des sexdolls est celui, si l’on peut dire, de leur «  vertu curative ». Nombres de créateurs et diffuseurs y voient une manière d’aider les auteurs de violences sexuelles en leurs permettant de se livrer à leurs fantasmes les plus extrêmes. D’aucun y voit même une alternative à la prostitution, des maisons closes de poupées vont d’ailleurs voir le jour. 

Les opposants y voient définitivement une menace réelle pour notre humanité, un danger  d’accroître les solitudes et l’isolement social mais surtout un risque d’alimenter et d’encourager des actes de violences sexuelles et de domination, notamment à l’égard des femmes. 

Quels que soient nos avis sur le sujet, nous pouvons envisager avec R. Mackenzie (Sexbots : nos prochains partenaires, 2015) que le développement de ces technologies et les dérives possibles qu’elles véhiculent doivent nous conduire dès aujourd’hui à réfléchir à un positionnement éthique quant à l’utilisation de ces robots sexuels qui deviendront, à l’instar d’Harmony et Henry,  de plus en plus perfectionnés. En effet, pour R. Mackenzie,  « Les sexbots représentent une avancée technologique considérable qui n’a pas encore eu lieu, mais qui est imminente. Ils seront probablement fabriqués pour être sensibles, conscients d’eux-mêmes et dotés d’empathie sexuelle et émotionnelle. » Nous ne pourrons donc faire l’économie de leur donner un statut éthico-légal spécifique pour nous garder de les traiter en esclaves.

Nous pouvons également penser que les robots ne pourront jamais accéder à la conscience d’eux-mêmes ou à l’empathie ni même approcher la finesse et la délicatesse de nos cinq sens, la fluidité des déplacements de l’être humain. Ainsi, le jour où l’on écrira, à la suite de Roland Barthes, les Fragments d’un discours amoureux sur les relations entre humains et robots est sans doute loin de voir le jour.

Ceci dit, ce n’est pas l’avis de D. Levy ( Love and sex with robots, 2007), chercheur spécialisé en intelligence artificielle, qui considérait en 2007 que « les robots seront une alternative aux relations humaines, ils seront tellement réalistes en apparence, que les humains tomberont amoureux d’eux, feront l’amour avec eux et les épouseront ». 

Nous avons là un point de départ pour « des fragments dystopiques d’un discours amoureux », imaginons quelques fragments écrits par des amoureux, humains ou robots, en 2050…

Absence :

« Tout épisode de langage qui met en scène l’absence de l’objet aimé […] et tend à transformer cette absence en épreuve d’abandon. »

1. Nous y voilà, elle est partie, la porte a claqué. Je reste là, colis oublié sur le palier, bagage abandonné tournant interminablement sur le tapis roulant d’un aéroport.  « Il n’y a d’absence que de l’autre : c’est l’autre qui part, c’est moi qui reste ». Figé dans ma condition d’amoureux, condamné à l’immobilité. Je l’aime.

Corps : 

« Toute pensée, tout émoi, tout intérêt suscité dans le sujet amoureux par le corps de l’être aimé »

1. J’observe ton corps inerte comme assoupi, comme mort. De tout ton être rien n’échappe à la perfection, la finesse de tes doigts, l’émail impeccable de tes dents, le grain de ta peau vierge de toute flore… je fouille chaque détail de ton corps parfait qui jamais ne vieillira, tu resteras corps fidèle présent et insensible à la décrépitude du mien.

Etreinte :

« Le geste de l’étreinte amoureuse semble accomplir un temps pour le sujet, le rêve d’union totale avec l’être aimé »

1. « Dans le calme de tes bras aimants », je passerai mes nuits. Le jour venu, je partirai et tu m’attendras patiemment. Docilement à la même place je te retrouverai au soir. Tu connaîtras mon plat favori sans pouvoir me le cuisiner, tu connaîtras mes goûts sans jamais les partager, tu sauras ma chanson préférée sans jamais me la fredonner…